Egy fejlesztő megkerülte az „ Apple ” korlátozásait, hogy felszabadítsa az M4 mesterséges intelligenciájának valódi potenciálját

Apple's M4 processzorai számos hasznos AI számítási teljesítményt, de a vállalat eddig szigorúan korlátozta a hardver hozzáférését. Alapértelmezés szerint az M4-ben található Neural Engine kizárólag következtetésre korlátozódik. Ez azt jelenti, hogy a fejlesztők csak előre betanított AI-modellek futtatására használhatják, nem pedig új modellek nulláról történő betanítására.

Egy fejlesztőnek azonban sikerült megkerülnie ezeket a szigorú szoftveres korlátozásokat: teljes mértékben visszafejtette a chipet, és felszabadította a benne rejlő 15,8 TFLOPS-os AI-számítási teljesítményt. Az áttörést egy 0x0SojalSec, aki nemrég kódot tett közzé a GitHub-oldalán oldalon megosztott egy kódot, amelyben részletesen leírta, hogyan sikerült kiaknáznia az M4 valódi potenciálját. Ezt az eredményt különösen lenyűgözővé teszi, hogy teljes egészében a Apple hivatalos fejlesztői ökoszisztémáján kívül valósult meg.

Mivel az Apple nem biztosítja a szükséges jogosultsági szinteket ahhoz, hogy ezeknél a fejlett feladatoknál közvetlenül kommunikálhasson a Neural Engine-nel, a fejlesztőnek ki kellett találnia egy megoldást, amellyel a CoreML, a Metal és más szabványos eszközök használata, sőt a grafikus processzor igénybevétele nélkül is tud dolgozni. Ennek megvalósításához a fejlesztő a semmiből felépített egy egyedi Model Intermediate Language-t. Ez az egyedi szoftver sikeresen áthidalta a szakadékot, lehetővé téve a teljes visszaterjesztést és a transzformátorok közvetlen betanítását az Apple Neural Engine-en.

Mivel a hardver tervezésénél fogva erősen korlátozott, a fejlesztőnek néhány nagyon ügyes megoldást is alkalmaznia kellett a rendszer stabilitásának fenntartása érdekében. Például, ha egy folyamat elakad az intenzív betanítási fázis során, az egyedi nyelv egy speciális végrehajtási parancsot használ, amellyel lényegében újraindítja a folyamatot. Ez lehetővé teszi a rendszer számára, hogy frissítse aktuális állapotát, és azonnal folytassa a gépi tanulást anélkül, hogy az egész program összeomlana.

A sebesség szintén fontos tényező volt abban, hogy ez a nagy terhelés hatékonyan futhasson. Annak érdekében, hogy a betanítás a lehető legzökkenőmentesebben zajlódjon, a fejlesztő úgy konfigurálta a folyamatot, hogy mindent teljes egészében a rendszer RAM-jába írjon. A sokkal lassabb NAND flash-tároló aktív elkerülésével az egész művelet hihetetlenül gyors maradt. Mindenkinek, aki M4 -vel felszerelt Macet vagy iPadet használ, ez a lenyűgöző megoldás bizonyítja, hogy a chip több mint képes kezelni a mesterséges intelligencia képzési terheléseit, még akkor is, ha Apple hivatalosan inkább elzárva tartaná ezeket a specifikus képességeket.