HP ZGX Nano G1n AI Station felülvizsgálata: Kompakt szerver teljesítmény Nvidia DGX Sparkkal
Kicsi, fekete, drága.
A HP ZGX Nano G1n AI Station célja, hogy tökéletes belépési pont legyen az AI-fejlesztők számára. A 128 GB RAM-mal és Nvidia technológiával a fedélzetén a szerver teljesítményét ígéri, hogy elindulhasson. Az Nvidia DGX Spark ökoszisztéma azonban csak részben meggyőző.Marc Herter (fordította DeepL / Ninh Duy) Közzétett 🇺🇸 🇩🇪 ...
Ítélet - Belépés az AI ökoszisztémába
A HP ZGX Nano G1n AI Station elsősorban a professzionális, speciális alkalmazások területén bizonyítja erejét. Legnagyobb erőssége kétségtelenül a Blackwell architektúra. Az új FP4 adatformátum és az Nvidia által optimalizált NVFP4 és NVFP8 modellek támogatásával az AI-alkalmazások gyorsabban futtathatók és lényegesen kevesebb VRAM-ot foglalnak. Ez egy olyan technológiai előny, amely jelenleg csak az Nvidia esetében található meg. Ráadásul ez a kütyü hozzáférést biztosít az Nvidia DGX ökoszisztémájához, aminek köszönhetően a kis kísérletek könnyedén skálázhatók hatalmas szerverklaszterekig. Az Nvidia szoftveres stackjét jól ismerő fejlesztők felbecsülhetetlen értékűnek fogják találni ezt a "hidat az adatközpontba". Lenyűgöző, hogy ilyen kis helyen mennyi mesterséges intelligencia-képesség lehetséges.
A magas, 4000 euró körüli ár azonban olyan elvárásokat támaszt, amelyeket az eszköz a haptika és az ergonómia tekintetében nem igazán tud teljesíteni. A műanyag váz túlságosan egyszerűnek tűnik ehhez az árkategóriához, és az állandóan hallható ventilátor, valamint az üresjáratban akár 50 wattot is elérő magas energiafogyasztás rontja a benyomást a mindennapi használatban. Itt több kifinomultságot kívántunk volna, különösen azért, mert a készülék gyakran közvetlenül az asztalon fog kikötni. Elvégre ezt a készüléket azoknak szánják, akik valóban mesterséges intelligenciával akarnak dolgozni.
A Team Red viszont erős versenytárs, ha csak sok helyi memóriára vágyunk a nagy AI-modellek futtatásához, és nincs szükségünk az Nvidia által kínált funkciókra. Az AMD Strix Halo platformra épülő rendszerek, mint például a Bosgame M5 AI Mini Desktop, a Framework Desktopvagy a GMKtec EVO-X2 a Ryzen AI Max+ 395-tel nagyvonalú memóriakonfigurációkat és erős teljesítményt kínálnak számos szabványos AI-alkalmazásban - lényegesen vonzóbb áron. Ennek ellenére a HP állomás továbbra is az Nvidia-szakértők első számú választása marad.
Pro
Kontra
Ár és elérhetőség
A HP ZGX Nano G1n AI Station árai között hatalmas különbségek vannak. A 4 TB-os modell jelenleg az Amazonon 4 759 dollárért szerepel, míg a HP Store jóval magasabb, 7 399,00 dolláros árat számol fel.
Tartalomjegyzék
- Ítélet - Belépés az AI ökoszisztémába
- Műszaki adatok
- Tok és csatlakoztathatóság - kicsi és egyszerű
- Teljesítmény - Az LPDDR5x által korlátozott, mesterséges intelligenciára specializálódott teljesítmény
- Gyakorlati felhasználás - A drága játéktól az AI szuperszámítógépig
- Kibocsátás és energia - Még üresjáratban is energiaigényes
A HP ZGX Nano G1n AI Station egy elég hosszú név arra, ami valójában az Nvidia referenciaplatformja, a DGX Spark. Az olyan versenytársak, mint a Gigabyte, az Asus, az Acer és a Dell mind biztosítanak AI fejlesztői készleteket, így nem a HP az egyetlen, aki ezt a stratégiát alkalmazza. A különbségek általában a részletekben rejlenek, például a szoftvercsomag vagy az alváz kialakításának apróbb módosításaiban. Maga a koncepció rendkívül rugalmasnak bizonyul: A kompakt doboz akár dedikált "fej nélküli" szerverként is üzemeltethető a hálózatban, akár - a rendelkezésre álló portoknak köszönhetően - teljes értékű munkaállomásként, egérrel, billentyűzettel és monitorral közvetlenül az asztalon. Mi a Crowview Note kényelmesen erre a célra használtuk tesztünkben. Különös figyelmet fordítottak az egyszerű beállításra. Az Nvidia és a HP a lehető legzökkenőmentesebbé szeretné tenni a helyi AI-fejlesztésbe való belépést, és már a dobozból kész projekteket, úgynevezett Blueprinteket mellékelnek.
Műszaki adatok
| Műszaki adatok | HP ZGX Nano G1n AI Station |
| Processzor (SoC grafikus chippel) | NVIDIA GB10 Grace Blackwell Superchip (20 mag: 10x Cortex-X925 + 10x Cortex-A725) NVIDIA Blackwell GPU (integrált, akár 1000 TOPS FP4-en) |
| Memória | 128 GB LPDDR5x egyesített memória (273 GB/s sávszélesség, forrasztott) |
| Tárolás | 1 TB vagy 4 TB M.2 2242 NVMe SSD (PCIe Gen4) |
| Portok | 3x USB-C 3.2 (20 Gbit/s), 1x HDMI 2.1a, 1x 10 Gbit Ethernet, 2x QSFP (200 Gbit/s összeköttetés) |
| Hálózat | Wi-Fi 7 (MediaTek MT7925), Bluetooth 5.4 |
| Méretek | 150 x 150 x 51 mm (Sz x D x K) |
| Súly | 1,25 kg |
| Tápegység | 240 wattos USB-C (külső) |
| Operációs rendszer | NVIDIA DGX OS (Ubuntu Linux alapú) |
| Ár | kb. 3,605 eurótól (utcai ár) |
Tok és csatlakoztathatóság - kicsi és egyszerű
A HP ZGX Nano G1n AI Station rendkívül kompakt, körülbelül 15 × 15 × 5,5 cm-es méretekkel és mindössze 1,25 kg-os tömeggel rendelkezik. Így könnyen elhelyezhető bármilyen íróasztalon. Az elülső rész szemet gyönyörködtető, szinte teljes egészében jellegzetes rácsos kialakításból áll, amely optimális légáramlást biztosít a nagy teljesítményű belső komponensek számára. A HP logó és egy diszkrét "AI" logó is itt kapott helyet.
A HP ezzel a modellel a fenntarthatóságra helyezi a hangsúlyt. Az AI Station akár 40%-ban újrahasznosított műanyagot, akár 75%-ban újrahasznosított alumíniumot és legalább 20%-ban újrahasznosított acélt tartalmaz. Emellett a külső csomagolás 100%-ban fenntartható és újrahasznosítható anyagokból készült. Az AI Station teljes külseje fekete műanyagból készült.
A portválaszték a professzionális igényekhez igazodik. A hátoldalon egy gyors 10 Gbit Ethernet port, valamint két QSFP port található az Nvidia nagysebességű összeköttetéséhez, ami lehetővé teszi a skálázást több egység összekapcsolásával. A perifériák számára három USB-C port áll rendelkezésre. Egy HDMI 2.1 kimenet lehetővé teszi a konzolhoz egy monitor csatlakoztatását, még akkor is, ha az eszközt valószínűleg gyakran "fej nélküli" módban fogjuk használni. A rendszer vezeték nélkül kommunikál Wi-Fi 7 és Bluetooth 5.4 segítségével.
Teljesítmény - Az LPDDR5x által korlátozott, mesterséges intelligenciára specializálódott teljesítmény
A ZGX Nano G1n központi eleme az Nvidia GB10 chip, amelynek teljesítményprofilja nagyjából egy Nvidia GeForce RTX 5070-re épül, bár jelentősen eltérő fókusszal. Az Nvidia itt következetesen az AI munkaterhelésekre optimalizálta az architektúrát, ami a TMU-k és a Tensor magok megváltozott eloszlásában érezhető a klasszikus ROP-ok rovására. A gyakorlatban azonban a memóriaspecifikációk lassítják ezt az erős chipet. Míg egy RTX 5070 12 GB VRAM-ra támaszkodhat 672,0 GB/s memória-sávszélességgel, addig a GB10-nek 273,2 GB/s-mal kell beérnie.
A beépített 128 GB LPDDR5X memória tehát rendkívül bőkezű a kapacitást tekintve, lehetővé teszi olyan hatalmas LLM-ek és AI-modellek betöltését és feldolgozását, amelyek a hagyományos fogyasztói kártyákon nem találnának helyet, de viszonylag lassúnak bizonyul. A betöltött modell méretétől vagy a kontextus összetettségétől függően ez a szűk keresztmetszet érezhetően korlátozza az AI teljesítményét. Ugyanez válik nyilvánvalóvá az olyan szövegből képet készítő modellek esetében is, mint az SDXL. A ComfyUI-val vagy a JupyterLabbal végzett különböző tesztek során a képgenerálásnál körülbelül három iterációt érünk el másodpercenként (it/s). Tapasztalataink szerint a jól felszerelt PC-k egy RTX 5070-essel 4,5 it/s-ot érnek el.
A Grace modul ARM-magjai kiváló többmagos teljesítményt nyújtanak, ami ideális a párhuzamosított feladatokhoz. Az olyan alkalmazásokban azonban, amelyek nagymértékben függnek az egymagos teljesítménytől, az egyes magok alacsonyabb nyers teljesítménye a jelenlegi x86-os csúcskategóriás CPU-khoz képest észrevehetővé válik.
Gyakorlati felhasználás - A drága játéktól az AI szuperszámítógépig
A HP ZGX Nano G1n AI Station olyan fejlesztői platformként pozícionálja magát, amely sokkal több, mint egy drága játék. Az Nvidia DGX platformmal való kompatibilitása a döntő tényező. Minden, amit a kis állomáson fejlesztettek vagy teszteltek, zökkenőmentesen skálázható hatalmas AI-szerverekre. Ezáltal az eszköz kiválóan alkalmas prototípusok készítésére, modellek finomhangolására, edge alkalmazásokhoz és az adattudományhoz, bár a tiszta, nagyméretű produktív következtetésekhez kevésbé.
Az Nvidia különböző "Blueprinteket" biztosít a különböző felhasználási esetekhez, de a gyakorlati alkalmazás felfedez néhány buktatót. Tesztünkben nem minden sablon működött azonnal; egyes utasítások elavultak és egyszerűen használhatatlanok voltak az újabb szoftververziók miatt. A "Multi-modal Inference" például egyáltalán nem volt telepíthető a tesztünkben.
A nagyméretű AI-modellek betöltési ideje is kellemetlenül hosszú lehet. A GPT-OSS:120B modell indításakor akár három percig is eltartott, amíg a rendszer készen állt. A modell betöltése után azonban az azonnali feldolgozás lenyűgözően gyors, amíg a kontextuslimitet nem lépjük túl. A mi tesztünkben a modell 1-től 1000-ig számolt, a számokat teljes egészében kiírva. Kezdetben lenyűgöző 40-55 tokent értünk el másodpercenként. Mivel azonban a kontextusmemória gyorsan megtelik a számlálás során, a teljesítmény az ötszázas szám körül drasztikusan összeomlott, és a másodpercenkénti 5 tokenes használható küszöbérték alá esett.
Összefoglalva, a DGX Spark koncepciója inkább emlékeztet egy kisbuszra, mint egy sportautóra: Rengeteg hely van a nagy modellek számára, de nincs abszolút végsebesség. Ez számos fejlesztési forgatókönyvben praktikus, de nem feltétlenül a legjobb megoldás a nagy teljesítményű, produktív alkalmazásokhoz. Érdemes azonban a dolgokat perspektívában tartani. Ha a következtetés során nem számít minden másodperc, akkor a HP ZGX Nano G1n AI Station és más DGX Spark alternatívák lényegesen költséghatékonyabb megoldásnak bizonyulhatnak. Elképzelhető egy DGX Spark használata kis irodákban is. Egy közepes méretű nyelvi modell itt egyszerre 10-20 alkalmazottat is ki tudna szolgálni anélkül, hogy kellemetlen késedelmeket okozna.
A nagyméretű modellek tárolására egy NVMe SSD van telepítve. A mi felülvizsgálati egységünk 1 TB-os PCIe 4 SSD-vel van felszerelve. Ez gyorsan teljesen megtelt különböző nyelvi modellekkel, képgeneráló modellekkel és egyéb alkalmazásokkal. Bár a tárolókapacitás számos felhasználási esethez tökéletesen megfelelő lehet, tesztelésünk során zsonglőrködnünk kellett az adatokkal és az AI-modellekkel. A 4 TB-os SSD-ért azonban 800 eurós felárat kell fizetni, így a beruházást alaposan meg kell fontolni. Bár az SSD később cserélhető, érdemes előbb körülnézni a piacon. Jelenleg csak a Corsairtől találtunk megfelelő formátumú SSD-t, mégpedig az MP700 MICRO 4 TB-os PCIe 5.0-ás MP700 MICRO 4 TB-ot.
Kibocsátás és energia - Még üresjáratban is energiaigényes
A HP egy 240 wattos USB-C tápegységet mellékel az AI Stationhöz, ami szükségesnek tűnik, tekintve az eszköz energiaigényét. Teljes GPU-kihasználás mellett az energiafogyasztás méréseink szerint 206 wattra emelkedik. Tipikus, tartós munkaterhelés esetén, mint például az LLM következtetés, a fogyasztás 160 watt körül alakul. Kritikus pontnak tartjuk azonban az üresjárati üzemmódban jelentkező energiaigényt. Figyelemre méltó, hogy a rendszer számítási terhelés nélkül folyamatosan 30 és 50 watt közötti teljesítményt vesz ki a konnektorból - egy olyan szintű energiafogyasztást, amelyet még sok csúcskategóriás játékra szánt laptop sem ér el üresjáratban.
A készüléknek van némi hallható jelenléte, de az elfogadható paramétereken belül marad. A ventilátor folyamatos zajszintjét 30 dB(A) értékben mértük, amikor a készülék üresjáratban volt, és 40 dB(A) értékben, amikor a terhelés 100%-os volt a stressztesztünk során. Hőtechnikailag a HP a hőelvezetést is kézben tartja, bár a kis ház érezhetően felmelegszik. Mi 50 °C körüli felületi hőmérsékletet mértünk. Itt bizonyul előnyösnek az anyagválasztás, hiszen a műanyag váz még ilyen hőmérsékleten is gond nélkül kezelhető, és nem érezzük kellemetlenül forrónak.
Átláthatóság
A felülvizsgálandó készülékek kiválasztását szerkesztőségünk végzi. A tesztmintát a gyártó vagy a kiskereskedő kölcsönként bocsátotta a szerző rendelkezésére a felülvizsgálat céljából. A hitelezőnek nem volt befolyása erre a felülvizsgálatra, és a gyártó sem kapott másolatot erről a felülvizsgálatról a közzététel előtt. Nem volt kötelesség ezt az ismertetőt közzétenni. Független médiavállalatként a Notebookcheck nincs alávetve a gyártók, kiskereskedők vagy kiadók felhatalmazásának.
Így tesztel a Notebookcheck
A Notebookcheck minden évben független, laptopok és okostelefonok százait vizsgálja meg szabványosított eljárások alkalmazásával annak érdekében, hogy minden eredmény összehasonlítható legyen. Körülbelül 20 éve folyamatosan fejlesztjük vizsgálati módszereinket, és ennek során iparági szabványokat állítottunk fel. Tesztlaboratóriumainkban kiváló minőségű mérőberendezéseket használnak tapasztalt technikusok és szerkesztők. Ezek a tesztek többlépcsős validációs folyamatot foglalnak magukban. Komplex minősítési rendszerünk több száz megalapozott mérésen és benchmarkon alapul, ami megőrzi az objektivitást.
