Tiiny AI Pocket Lab: Mini PC 12 magos ARM CPU-val és 80 GB LPDDR5X memóriával a CES előtt bemutatkozott
A Tiiny Lab egy amerikai székhelyű startup cég amely a jelek szerint a személyes LLM-ek számára tervezett hardverekre specializálódott. Legújabb termékük a mini PC-k területére való betörésüket jelzi, amelyet Pocket Lab-nak neveztek el. A találóan elnevezett mini PC hihetetlenül kompakt, és igazán nagy teljesítményű hardverrel büszkélkedhet, amely akár 120 milliárd paramétert tartalmazó LLM-eket is képes futtatni, ami elég lenyűgöző állítás.
12 magos ARM CPU dNPU-val 160 + 30 TOPS AI számítási kapacitással
Érdekes módon a Tiiny AI azt állította, hogy a Pocket Lab mini PC-t a Guinness World Records a "világ legkisebb mini PC-jének" koronázta a 100B LLM Local kategóriában, ami, hogy igazságosak legyünk, furcsán specifikusnak tűnik. Ettől függetlenül kétségtelen, hogy a Pocket Lab mini PC rendkívül kompakt, hiszen mindössze 14,2 x 8 x 2,5 cm, azaz 5,6 x 3,15 x 1 hüvelyk. A mindössze 300 grammos súlyával a rendszer meglehetősen könnyű is.
A Tiiny AI továbbá azt állítja, hogy egy kattintással telepíthetőek a jól ismert nyílt forráskódú modellek, például a Llama, Qwen, DeepSeek, Mistral, Phi és az OpenAI GPT-OSS támogatja. Az OTA szoftverfrissítések rendszeresen rendelkezésre fognak állni, ami ígéretesnek hangzik. De persze, hogy ezeket az ígéreteket be is tartják-e, az még kiderül. Hardveres szempontból a Pocket Lab mini PC eléggé ütős, ahogy azt az alábbiakban részletezzük:
- 12-magos ARM CPU az ARMv9.2 alapján
- NPU 160 TOPS-sel
- 80 GB LPDDR5X memória, amelyből 48 GB az NPU-nak van dedikálva
- 1 TB SSD
- 65 wattos energiaellátás
- Teljesen offline működés
A Tiiny AI azt állítja, hogy a Pocket Lab akár 120 milliárd paramétert tartalmazó LLM-eket is képes kezelni, bár a kvantálási szinteket nem közölték egyértelműen. Az árképzés részletei egyelőre szintén titkosak, de kétségtelen, hogy a Pocket Lab mini PC nem kevés pénzbe fog kerülni. Egy 120 milliárd paraméteres modell futtatása még agresszív 4 bites kvantálással is túlzásnak tűnik egy mindössze 80 GB teljes memóriával rendelkező rendszer esetében. Természetesen a végeredményt még nem láthatjuk a való életben.
Az átlagos felhasználók számára, akiknek nincs szükségük helyi LLM-re és mérsékelt teljesítményigényük van, valószínűleg egy tipikus mini PC, például a Minisforum AI X1 Pro (jelenleg 1 087,90 dollár az Amazonon) jobb választás lesz.
Forrás(ok)
Tiiny AI, amelyet a TechPowerUp szúrt ki
