Intel Arc Pro B70 teljesítménymutatók: jelentősen gyorsabb, mint az Nvidia RTX 4000 Pro, feleannyiért és 33%-kal több VRAM-mal
Az Intel tegnap elindította a Arc Pro B65 és B70 nagy teljesítményű munkaállomás GPU-kat amelyek célja az AI LLM képzés/következtetés, anélkül, hogy az eredeti sajtóközleményben konkrét teljesítményinformációkat adtak volna. Néhány órával később a vállalat teljesítménydiagramokat tett közzé, amelyek a B70-es modellt az Nvidia RTX 4000 Pro GPU-ihoz hasonlítják, amelyek már néhány évesek. Az Intel azzal érvel, hogy az összehasonlítás a B70-es kártya 1000 dollár alatti ára miatt továbbra is érvényes, a Team Blue pedig lenyűgöző állításokkal támasztja alá a dolgot az általános teljesítményt illetően.
Még a teljesítménydiagramok megnézése nélkül is, amelyek az Intel-hez méltóan lehetnek pontosak, de lehetnek nem, az Arc B70 GPU a megnövelt VRAM-kapacitással (32 GB szemben a 24 GB-tal) és a 949 dolláros induló árral (szemben az 1800 dollárral) azonnal az Nvidia konkurenciája fölé emelkedik. Igaz, a VRAM csak 19 Gbps GDDR6 256 bites busz és 608 GB/s sávszélességű, de legalább a megnövelt kapacitás segít a nagyobb modellek betanításában és következtetésben.
A jobb VRAM-kapacitással a B70 2,2x nagyobb kontextusablakkal büszkélkedhet az RTX 4000 Pro kártyához képest. Az Intel diáján látható, hogy a B70 akár 93K token hosszúságú kontextust is támogat, szemben az RTX 4000 Pro-val, amely a Llama 3.1 8b-vel használva már 42K tokennél kifogy a memóriából BF16 modell.
A Ministral Instruct 2410 8B Ministral Instruct 2410-en futó párhuzamos többágensű áramlások (BF16) modellen futó futások 85%-kal nagyobb token-átbocsátási teljesítményt biztosítanak több felhasználó vagy kérés esetén a B70-zel Linux OS környezetben. Emellett a B70 képes gyorsabb válaszokat kiadni több felhasználó vagy kérés esetén, 6,2x gyorsabb idővel az első tokenig, és az Intel megemlíti, hogy ezek a kiváló sebességek a vállalat továbbfejlesztett oneAPI-jének és saját szoftver stackjének köszönhetően lehetségesek. Az Nvidia konkurenciájához képest a teljesítménynövekedés a több GPU-s konfigurációkkal szemben is skálázható, mivel az Intel állítása szerint akár 2x-es token per dollár növekedés érhető el az egy, két és négy GPU-s konfigurációkban.
Sajnos a diák nem mutatnak teljesítményméréseket vagy árinformációkat a B65 GPU. Érdekes lenne látni, hogy az Intel megengedi-e az AIB-partnereknek, hogy a B65 és B70 GPU-k játékorientált változatait valamivel alacsonyabb VRAM-kapacitással adják ki. Ez azt is jelentené, hogy az Intelnek továbbfejlesztett grafikus vezérlőket kell biztosítania.
