10x gyorsabb következtetés a HBM4-hez képest: a d-Matrix egyesíti erőit az AIchip-pel a világ első 3D DRAM-jának előállítása érdekében

Az Nvidia befolyása a teljes mesterséges intelligencia hardver-infrastruktúrára még mindig erős, de mostanra már jó néhány vállalat igyekszik hatékony alternatívákat kínálni. Néhány évvel ezelőtt, amikor az Nvidia nehezen tudta kielégíteni a következtető hardverek iránti egyre növekvő keresletet, megjelent a d-Matrix, és megragadta a lehetőséget, hogy megbízható generatív AI hardverszállítóként pozícionálja magát az adatközpontok területén. Első dedikált számítási kártyája - a Corsair C8, kedvező fogadtatásban részesült, és a vállalat most egy utódmodell bevezetését tervezi, amely a világ első sorozatgyártású 3D DRAM-ját integrálja.

a d-Matrix együttműködött a nagy teljesítményű AI-infrastruktúrával ASIC aIchip tajvani integrátorral a 3D DRAM megoldás kifejlesztése érdekében, amely az állítások szerint "megszünteti a mai AI-infrastruktúrát korlátozó teljesítmény- és költségszűk keresztmetszeteket" Ez az új típusú RAM, amelyet 3DIMC néven ismerünk (3D stacked digital in-memory compute) jelenleg a d-Matrix Pavehawk chipjein tesztelik.

Az első kereskedelmi termék, amely 3D-stacked DRAM-ot tartalmaz, várhatóan a d-Matrix Raptor következtetési gyorsítója lesz (Nvidia Jetson AGX affiliate link), amely a jelenlegi Corsair modelleket fogja felváltani. d-Matrix becslései szerint a 3DIMC megoldás akár 10x nagyobb következtetési sebességet biztosíthat a leggyorsabb HBM4-alapú gyorsítókkal szemben.

Sid Sheth, a d-Matrix társalapítója és vezérigazgatója kifejtette, hogy a 3D-stacked DRAM " olyan áttörést jelent, amely nemcsak gyorsabbá, hanem költséghatékonyabbá és fenntarthatóbbá teszi a mesterséges intelligenciát. a 3DIMC a következő logikus lépést jelenti az útitervünkben, amelynek célja olyan hatékony következtetési architektúrák létrehozása, amelyek lépést tartanak a generatív és ügynöki AI exponenciális növekedésével"