Kína AI boom fut felújított Nvidia GPU-k, mint export korlátozások harapás

A szabályozási akadályokkal és exportkorlátozásokkal szembesülő kínai AI-vállalatok egyre inkább a felújított és használt Nvidia gyorsítókat használnak. Amikor a H20 exportál újraindult júliusban, az új kínai adatbiztonsági szabályok megnehezítették az Nvidia korlátozott Hopper kártyájának beszerzését. Ennek eredményeképpen a vásárlók a régebbi A100 és H100 kártyák felé fordultak, ahol a gyártók most ezeket a kártyákat újjáépítik és értékesítik a megfizethető, nagy teljesítményű következtetési fürtökhöz.

A következtetés kevesebb számítást igényel, mint a képzés, és nincs szükség teljes lebegőpontos pontosságra. Egy A100 2020-tól akár 80 gigabájt HBM2e-t és körülbelül 2 TBps sávszélességet kínál. Ez még mindig jól futtatja a chatbotokat és az ajánlómotorokat. Az Nvidia kiforrott CUDA szoftvere segít, tekintve a stack fejlettségi szintjét. A modellek kiszolgálására, nem pedig képzésére összpontosító csapatok számára a régebbi szilícium okos befektetés.

Összehasonlításképpen, a H100 emeli a teljesítményt, HBM3-at és jóval nagyobb átviteli sebességet kínál. A H20 megfelel az export szabályoknak, de az AI teljesítménye nagyjából háromszor-hétszer alacsonyabb, mint egy teljes H100-asé, és több mint harmincszor alacsonyabb dupla pontosságban. E korlátozások miatt Kínában sok vásárló még mindig az újrahasznosított H100-as kártyákat választja az új H20-as egységek helyett.

A következtetési rendszerek a pontosságot minimálisan veszélyeztető kockázatokkal folyamatosan futtathatók, és a régebbi CUDA-kompatibilis kártyák könnyen bevethetők. A felújított kártyák iránt továbbra is nagy a kereslet, bizonyos megbízhatósági aggályok ellenére. Az adatközpontok a jóváhagyott alkatrészekre való várakozás helyett azonnal bővíthetnek.

Eközben az Nvidia nehéz helyzettel néz szembe: az amerikai licencszabályok változásai miatt a 5,5 milliárd dolláros leíráshoz vezetett az eladatlan H20 készletekből. Ugyanakkor a hivatalos kártyák szűkössége azt jelenti, hogy a régebbi Nvidia GPU-k a nem hivatalos és felújított eladásokon keresztül továbbra is a kínai mesterséges intelligencia növekedését táplálják. Ez a dinamika hatással lehet az Nvidia nyereségére és meghosszabbíthatja az új technológia bevezetését.

A hazai fronton a kínai kormány ösztönzi a hazai gyorsítókat a Huawei és a Biren, de minden egyes kínai adatközpontokban telepített használt H100 vagy tuningolt A100 csökkenti az Ascend-alapú rendszerek piacát, és lassítja a hazai fejlesztésű stackekbe történő beruházásokat.

Ezek a szabályok együttesen újrahasznosító gazdaságot hoznak létre. A fejlett számítástechnikát korlátozó ellenőrzések és a helyi chipeket támogató politikák hosszabb ideig tartják hasznosnak a régebbi Nvidia hardvereket.