Az Nvidia Rubin AI platform tízszeresére csökkenti a token költségeit a Blackwellhez képest, miközben Elon Musk az AI "rakétamotorjaként" dicséri azt

Az Nvidia bejelentette a következő generációs Rubin AI számítási architektúráját, amely végre megfelel Kína AI stratégiájának, amely a jelenlegi Blackwell kiadásnál jóval alacsonyabb költséggel futtatja a mesterséges intelligencia következtetéseket.

Ahogy az Nvidia Rubin AI pletykák sugallták, a platform hat, egymással együttműködő feldolgozó alrendszerre épül: a Vera CPU, az új Nvidia Rubin GPU, a harmadik generációs NVLink 6 Switch, a ConnectX-9 SuperNIC, a BlueField-4 DPU és a Spectrum-6 Ethernet Switch. A chipek a TSMC fejlett öntödei csomópontjain készülnek, és olyan interfész-optimalizálásokat vezetnek be, amelyek célja a tokenköltségek és a betanítási idő drasztikus csökkentése.

Az Nvidia "kódtervezése" a hat új chipen keresztül lehetővé teszi a modellképzést a jelenlegi Nvidia Blackwell platformban szükséges GPU-k negyedével, és tízszeresére csökkenti a tokenenkénti költségeket. A tokenek költségeinek tízszeresére csökkenését ígéri Elon Musk a Tesla következő generációs AI5 számítógépet is, csakhogy az csak jövőre kerül tömeggyártásba. Elon Musk az Nvidia Rubint az "AI rakétamotorjaként" dicsérte, amely lehetővé teszi majd az edge modellek méretarányos bevezetését.

Kína is büszke arra, hogy alacsony AI token árára, amelyet az olyan nyíltan hozzáférhető modellekkel ér el, mint a DeepSeek és sok középkategóriás AI GPU-t, például a Huawei 910C együtt, így az Nvidia Rubin architektúra végre tesz valamit azért, hogy ne csak a teljesítményt, hanem az AI-modellek futtatásának költségeit is kezelje.

A Rubin platform talán legérdekesebb része az új Nvidia Vera CPU, amelyet"gyorsított rendszereken keresztüli adatmozgatásra és ügynöki következtetésekre terveztek, teljes körű bizalmas számítási támogatással" Ez akár Nvidia GPU-val is párosítható, akár önálló processzorként működhet, amely"analitikai, felhő-, orchestrációs, tárolási és nagy teljesítményű számítási (HPC) munkaterhelést" futtat teljes Arm-kompatibilitással.

A Vera CPU specifikációi 88 egyedi magot és 1,2 TB/s LPDDR5X memória-sávszélességet tartalmaznak, és nagyon takarékos energiafelvétellel rendelkezik. Az NVLink-C2C csatlakozási interfész integrációja szinkronizált CPU-GPU memóriaelérést futtat az optimalizálási funkciók részeként, amelyek a Rubin platformot nagyságrenddel hatékonyabbá teszik a Blackwell-alapú elődjénél.

Az Nvidia DGX Spark személyes AI szuperszámítógépet az Amazonon szerezze be