LLM-8850: Bővítőkártya a Raspberry Pi 5-t helyi AI platformmá alakítja át

A felhőalapú AI-modellek meglehetősen kényelmesek a tipikus felhasználók számára. Egyes felhasználási esetekben azonban az adatvédelem biztosítása érdekében, illetve a lassú vagy nem létező internetkapcsolat megkerülése érdekében szükség lehet e modellek helyi futtatására. Mindezek mellett a nagyméretű nyelvi modellek vagy akár az AI-alapú videóelemzés futtatásához is szükség van bizonyos teljesítményre. Ez utóbbi hasznos lehet például egy épület bejáratán áthaladó emberek megszámlálásához.

A M5Stack LLM-8850 segítségévelmost egy újabb bővítőkártya került piacra, amely pontosan ezeket az AI-alkalmazásokat gyorsítja fel. Egy Axera AX8550 SoC hajtja, négy Cortex-A55 maggal és egy 24 TOP teljesítményű NPU-val. Összehasonlításképpen, a modern AMD és Intel CPU-kba integrált NPU-k nagyjából kétszer akkora teljesítményt nyújtanak. Egy VPU is van a fedélzeten, amely egyszerre akár 16 videofolyamot is képes dekódolni Full HD felbontásban. A lapon továbbá 8 GB RAM található, valamint hűtőbordával és ventilátorral is rendelkezik.

A kártya egy M.2 Key M foglalaton keresztül csatlakozik, és két PCIe 2.0 sávot használ. A kártya mérete 1,68 x 0,94 x 0,38 hüvelyk, és kompatibilis a Raspberry Pi 5 és más egylapos számítógépekkel vagy akár mini PC-kkel, valamint különböző AI-keretrendszerekkel. Végül, de nem utolsósorban az M5Stack LLM-8850 hivatalos ára 99 dollár, de további szállítási és importdíjakat lehet felszámítani.