Az Nvidia Jetson Thor 2,070 TFLOPS-ot biztosít a robotok számára az eszközön generatív AI-vel

Nvidia Jetson Thor sorozat a "fizikai mesterséges intelligenciát" célozza meg laptop méretű modulokkal, amelyek akár 2070 FP4 tera műveletet is végezhetnek másodpercenként, és 128 gigabájt memóriát kínálnak 40-130 wattos teljesítményen belül. Az Nvidia a Thor-t jelentős előrelépésként pozícionálja az AGX Orinhoz képest, mivel körülbelül 7,5-szer több AI-számítási lehetőséget és 3,5-szer jobb energiahatékonyságot kínál, lehetővé téve a robotok számára, hogy a nehéz modelleket az eszközön futtassák, ahelyett, hogy a felhőre támaszkodnának.

Belsejében a Jetson AGX Thor egy Blackwell GPU-t párosít egy 14 magos Arm CPU-val, amely nagy memória-sávszélességet és órajátékos sebességet biztosít. Ezek a specifikációk lehetővé teszik a robotok számára, hogy egyszerre több AI-pipeline-t futtassanak a nyelv, a látás és a vezérlés számára, anélkül, hogy lelassulnának.

A Thor megtartja a legújabb Jetson modulok kompakt alapterületét, miközben megduplázza az Orin teljesítménytartományát, hogy teljesítse a teljesítménycélokat. Az Nvidia célja, hogy valós időben futtasson több AI munkafolyamatot, lehetővé téve a gépek számára az emberekkel való biztonságos interakciót.

Az Nvidia szerint a következő generációs Jetson platformhoz már elérhetőek a gyártási modulok és a fejlesztőkészletek, a korai alkalmazók közé tartozik az Amazon, a Meta, a John Deere, az OpenAI és a Boston Dynamics. Az Agility Robotics azt tervezi, hogy Thor-t beépíti a hatodik generációs Digit humanoidjába raktári munkákhoz, a Boston Dynamics pedig egy új Atlas-változatot készít a Thor kiegészítésére. Az árképzés Jetson Thor T5000 modulonként 2000 dollárnál kezdődik 1000 darabos mennyiségben, az AGX Thor fejlesztőkészletek ára pedig 3499 dollárnál.

Az Nvidia a chipet "robotagynak" nevezi, és a hangzatos kifejezés illik rá: éles osztályú generatív modellek, nagyméretű nyelvi modellek és nagy teljesítményű látás egy modulon futnak együtt. Ez a keverék olyan felhasználási eseteket tesz lehetővé, amelyek alacsony késleltetést igényelnek, például humanoidok, mezőgazdasági automatizálás, vagy akár sebészeti segítségnyújtás, ahol a másodperc töredéke számít, és egy kiesett képkocka is hibát okozhat.

Az elsődleges előny egyértelmű: a csapatok gyorsan át tudnak térni a fejlesztésről a gyártásra, ugyanazt a szoftvert használva az érzékeléshez és a tervezéshez. Vannak azonban jelentős kockázatok is. A Thor megnövekedett teljesítménye az autonóm rendszereket pozitív és negatív felhasználásra is fejlesztheti, ahogy azt a Jetson Orin esetében a konfliktusövezetekben láthattuk. A munkahelyekre gyakorolt hatása bizonytalan; míg egyes szerepek megmaradhatnak, a munka ismétlődőbbé válhat. E technológiák fejlődése során továbbra is elengedhetetlenek az erős biztosítékok, a gondos felügyelet és az egyértelmű elszámoltathatóság.