Az RTX Spark mini PC a Mechrevo szokatlan AI SSD-jével ígéri leküzdeni a memóriakorlátokat

A kínai PC-gyártó Mechrevo egy új, Master Road X10 nevű mini PC piacra dobására készül. A hagyományos mini PC-kkel ellentétben a Master Road X10-et elsősorban nagy AI-modellek helyi futtatására tervezték, és néhány érdekes módosítással érkezik, amelyek valóban segíthetnek ebben. A Master Road X10 az Nvidia RTX Spark platformját használja, amely egy 20 magos Grace CPU-t ötvöz egy akár 6144 CUDA-maggal rendelkező Blackwell GPU-val. Akár 128 GB LPDDR5X egyesített memóriát támogat.

Ezek a platform maximális specifikációi, a Mechrevo pedig egyelőre nem erősítette meg mini PC-je pontos konfigurációját. A legérdekesebb funkció azonban a Mechrevo saját fejlesztésű AI SSD-je. Ahelyett, hogy kizárólag a rendszermemóriára támaszkodna, a technológia a nagy AI-modellek egyes részeit a DRAM-ból NAND flashmemóriába helyezheti át. Emellett képes megőrizni és újra felhasználni a korábban feldolgozott kontextust, elméletileg csökkentve a feleslegesen ismételt számításokat és a modellbetöltés többletterhelését. A Mechrevo állítása szerint ez lehetővé teszi, hogy a Master Road X10 80 milliárd, 120 milliárd, sőt akár 122 milliárd paraméteres modelleket is futtasson, miközben gyors reakcióidőt biztosít. Sajnos az SSD pontos kapacitását nem közölték.

Nem ez az első alkalom, hogy a Mechrevo beszélt erről a technológiáról. A szeptemberi bemutatón a vállalat azt állította, hogy AI SSD-je akár 5,7-szeresére növelheti a támogatott modellterhelést, és akár 95%-kal is felgyorsíthatja az előfeldolgozási (prefill) szakaszt. A Mechrevo Yaoshi 15 Air laptopon végzett laboratóriumi tesztek állítólag azt mutatták, hogy az inferencia sebessége csaknem a kétszeresére nőtt. Az SSD állítólag a tartós AI-memóriát is támogatja azáltal, hogy a munkamenetek között megőrzi a felhasználói preferenciákat és a kontextuális információkat. Van azonban néhány fontos fenntartás.

A Mechrevo nem tett közzé részletes teljesítménymérési eredményeket, modellkvantálási beállításokat vagy tesztkörülményeket ezen állítások alátámasztására. Ráadásul a NAND flashmemória lényegesen lassabb a DRAM-nál, ami azt jelenti, hogy egy nagyobb modell tárolására képes SSD nem feltétlenül biztosít gyorsabb inferenciát. Egyelőre nem ismertek a Master Road X10 memóriakonfigurációi, AI SSD-jének kapacitása, csatlakozási lehetőségei, ára és megjelenési dátuma. Érdekes lesz látni, hogy a Mechrevo képes-e ambiciózus laboratóriumi állításait a valós használat során mérhető teljesítményjavulásra váltani.