Az Axera AX8860P saját fejlesztésű AI-gyorsítóval veszi célba az Nvidia DGX Sparkot

Az Nvidia DGX Spark gépe egy váratlan kínai versenytársat kapott (a hír forrása: CNX Software). Az Axera chipgyártó bemutatta AX8860 sorozatát, egy olyan, mesterséges intelligenciára összpontosító processzorcsaládot, amelyet nagy nyelvi modellek helyi futtatására terveztek. A chipek olyan gyártók kompakt AI-számítógépeibe kerülnek majd, mint a Sipeed és a Radxa; előbbi állítása szerint a hamarosan megjelenő MaixStation bizonyos feladatokban felülmúlhatja az Nvidia DGX Spark gépét.

Az Axera AX8860P 16 Arm Cortex-A55 CPU-maggal és egy dedikált neurális feldolgozóegységgel (NPU) rendelkezik, amely akár 256 TOPS FP4 számítási teljesítményre is képes. A 6 nm-es gyártástechnológiával készülő chip egy 256 bites interfészen keresztül legfeljebb 128 GB LPDDR5X memóriát támogat, maximum 273 GB/s sávszélességet biztosítva. További jellemzői közé tartozik a PCIe 5.0 csatlakozás, a chipek közötti AXLink összeköttetés, valamint a széles körű videókódolási és -dekódolási képességek.

Az AX8860P AI-képességeinek alapját az Axera saját fejlesztésű AXNeutron architektúrája adja. Az Nvidia DGX Spark gépében található Blackwell GPU-val ellentétben az AXNeutron egy célzottan neurális feldolgozásra tervezett architektúra, amely az Axera leírása szerint AI-következtetésre optimalizált, programozható adatfolyam-alapú kialakítást használ. A vállalat állítása szerint ez a megközelítés javítja a hardver kihasználtságát és csökkenti a szükségtelen adatmozgatást, ami előnyöket jelenthet a Transformer-alapú nyelvi modellek futtatásakor.

Az Axera azonban viszonylag keveset árult el az NPU mögöttes hardveréről. Emiatt nehéz megállapítani, hogy az állítólagos teljesítmény mekkora része származik az architekturális fejlesztésekből, a memória sávszélességéből vagy a szoftverszintű optimalizálásokból. A hirdetett 256 TOPS érték papíron lenyűgöző, de viszonylag keveset árul el a valós feladatok során tartósan nyújtott teljesítményről.

A Sipeed (igen, tudom), amely az AX8860P-re épülő MaixStationt fejleszti, azt állítja, hogy megoldása egyes LLM-inferencia-teljesítménytesztekben felülmúlhatja az Nvidia DGX Sparkját. A vállalat az eredményeit részben az AX8860P natív, sűrű FP4-műveleteket gyorsító képességének és a rendelkezésre álló memória-sávszélesség hatékonyabb kihasználásának tulajdonítja. Ugyanakkor a Sipeed teljesítménytesztjei a gyártótól származnak, és meghatározott modellekre és inferenciakonfigurációkra terjednek ki. Azonos modellekkel, kvantálási beállításokkal és szoftverkörnyezetekkel végzett független tesztelés nélkül nem állapítható meg, hogy az AX8860P következetesen felülmúlja-e a DGX Sparkot.

A szoftveres támogatás magában foglalja a népszerű AI-keretrendszerekkel, köztük a PyTorch, a vLLM és az SGLang keretrendszerrel való kompatibilitást, de a kompatibilitás nem feltétlenül jelent azonos teljesítményt, funkciótámogatást vagy ugyanolyan egyszerű üzembe helyezést.

A Sipeed 32 GB és 128 GB LPDDR5X memóriával tervezi kínálni a MaixStationt. A vállalat rendre 2000, illetve 4000 dollár alatti árakat céloz meg, a Kickstarter-kampány pedig várhatóan 2026 vége felé indul. A Radxa szintén fejleszt egy AX8860P-re épülő Pocket Supercomputert, míg a Sipeed többchipes gyorsítókonfigurációkra vonatkozó terveket is felvázolt.