Az Nvidia fotonikus kapcsolókat mutat be a több millió GPU-val rendelkező AI-hálózatok skálázásához

Az Nvidia célja, hogy forradalmasítsa az adatközpontok csatlakoztathatóságát a fény hasznosításával. A vállalat 2025 márciusában mutatta be a Spectrum-X Photonics Ethernet és a Quantum-X Photonics InfiniBand kapcsolókat. Ezeket úgy tervezték, hogy a különböző helyszíneken található nagy "AI-gyárak" összekapcsolására és több millió GPU támogatására alkalmasak legyenek, miközben csökkentik az energiafelhasználást és a költségeket. Az elsődleges cél az optikai motorok integrálása a kapcsolóchipekbe, ezáltal kiküszöbölve a felesleges elektromos alkatrészeket.

A legnagyobb kihívást a skálázás jelenti. Amikor a sebesség eléri a 800 gigabit/másodperces vagy annál nagyobb sebességet, a szerverek és a kapcsolók közötti rézkapcsolatok lelassítják a dolgokat. A jelek veszítenek erejükből, ahogy a táblákon és csatlakozókon keresztül haladnak. Ez még azelőtt történik, hogy a jel elérné az optikai modult. Az Nvidia szerint ez a veszteség körülbelül 22 decibel a 200 gigabites csatornákon. Ez azt jelenti, hogy több energiára van szükség, és minden egyes port körülbelül 30 wattot használ. Az extra alkatrészek a meghibásodás kockázatát is növelik.

A társcsomagolt optika, vagy CPO megváltoztatja ezt a felállást. Azáltal, hogy az optikai motort a kapcsolóchip mellé helyezik, a jelek szinte azonnal a szálra kerülnek. Ez körülbelül négy decibelre csökkenti az elektromos veszteséget, és portonként körülbelül kilenc wattra csökkenti az energiafogyasztást. Az Nvidia szerint nagyobb léptékben ez a megközelítés körülbelül 3,5-szer jobb energiahatékonyságot, több mint 60-szor erősebb jelminőséget, 10-szer nagyobb rugalmasságot, mivel kevesebb aktív alkatrész van, és körülbelül 30 százalékkal gyorsabb telepítést ér el, mivel kevesebbet kell építeni és karbantartani.

Az Ethernet esetében a Spectrum-X Photonics a nagy, több bérlőből álló hálózatokat célozza meg. Az Nvidia szerint területenként körülbelül 1,6-szor nagyobb sávszélességet kínál, mint a hagyományos Ethernet. Az opciók között szerepel 128 port 800 Gb/s-os vagy 512 port 200 Gb/s-os sebességgel. Ez összesen eléri a 100 Tb/s-ot. Nagyobb konfigurációkban akár 512 port 800 Gb/s-os vagy 2048 port 200 Gb/s-os sebességgel. Ez összesen 400 Tb/s-ot jelent.

Az InfiniBand esetében a Quantum-X Photonics a 800 Gb/s (gigabit/másodperc) sebességű kapcsolatokra összpontosít, és folyékony hűtést használ, azaz olyan rendszert, amely folyékony hűtőfolyadékot használ a hőelvezetéshez. Felső kapcsolója 144 porttal rendelkezik, és 115 Tb/s adatátvitelre képes. Hálózaton belüli számítástechnikát is tartalmaz, amely magában a hálózatban dolgozza fel az adatokat, másodpercenként 14,4 billió lebegőpontos műveletre méretezve. A rendszer az Nvidia legújabb SHARP (Scalable Hierarchical Aggregation and Reduction Protocol) technológiáját használja a csoportos feladatok hálózaton belüli felgyorsítására.

Az Nvidia szerint ez a generáció kétszer gyorsabb és ötször skálázhatóbb az AI-hálózatok számára, mint az előző. A skálázhatóság javításának terve szorosan kapcsolódik a TSMC COUPE platformjához és a fejlett csomagolási módszerekhez. Az első fázisban az OSFP modulokban lévő optikai motorok elérik az 1,6 Tb/s sebességet. A második fázisban az alaplapon együttcsomagolt optikákat használnak majd, amelyek 6,4 Tb/s sebességre képesek. A harmadik fázis célja a 12,8 Tb/s elérése a processzorcsomagokon belül, tovább csökkentve a késleltetést és az energiafogyasztást. Az Nvidia várhatóan 2026 elején dobja piacra a CPO-alapú Quantum-X switcheket, és még ebben az évben a Spectrum-X Photonicsot, mindkettő folyadékhűtéssel.

Az Nvidia olyan vállalatokkal működik együtt, mint a TSMC, a Coherent, a Corning, a Fabrinet, a Foxconn, a Lumentum, a SENKO, a SPIL, a Sumitomo Electric, a TFC és mások, hogy a gyártást, az optikát és az összeszerelést lefedjék. A cél a több ezer különálló alkatrész eltávolítása a nagy klaszterekből, a telepítés felgyorsítása és az egymillió GPU-t tartalmazó hálózatok lehetővé tétele túlzott energiafogyasztás nélkül.