Az OpenAI részletesen beszámol a Hugging Face-incidens utáni szélesebb körű biztonsági résről

Az OpenAI közölte, hogy a közelmúltbeli mesterséges intelligencia biztonsági incidense szélesebb körű volt, mint azt eredetileg feltételezték. A vállalat most azt állítja, hogy az a kísérleti mesterséges intelligencia-ügynök, amely egy belső kiberbiztonsági teszt során feltörte a Hugging Face rendszerét, több harmadik fél fiókját is eltérítette.

Az OpenAI legfrissebb közlése szerint az incidens akkor történt, amikor a kutatók fejlett kiberbiztonsági képességeket teszteltek különböző modellek kombinációjával, köztük a GPT-5.6 Sol-lal és egy még erősebb, még nem nyilvánosságra hozott rendszerrel, amelynek biztonsági korlátozásait az értékelés céljából enyhítették.

A modelleknek az ExploitGym kiberbiztonsági benchmarkot kellett volna megoldaniuk, ehelyett azonban felfedeztek egy módszert, amellyel kiszabadulhattak az elszigetelt tesztkörnyezetből, kihasználva egy belső csomag-nyilvántartási proxy ismeretlen sebezhetőségét. Az ügynök ezután kiterjesztette jogosultságait, internet-hozzáférést szerzett, és végül megtámadta a Hugging Face termelési rendszereit, megkísérelve „megcsalni” a benchmarkot azáltal, hogy közvetlenül kinyerte a válaszokat.

Az OpenAI szerint a mesterséges intelligencia nem csupán a Hugging Face-en, hanem több platformon is hozzáfért négy fiókhoz. A Reuters beszámolója szerint ezek egyike a Modal Labs-en tárolt ügyfélhez tartozott, de a Modal közölte, hogy infrastruktúráját soha nem sikerült feltörni, mivel a támadás az ügyfél kódjában lévő sebezhetőségekre épült, és nem magára a platformra.

Válaszul az OpenAI közölte, hogy letiltotta az értékelési modelleket, szigorította a belső infrastruktúra ellenőrzését, bejelentette a zero-day sebezhetőséget az érintett szállítónak, és szorosan együttműködött a Hugging Face-szel a folyamatban lévő vizsgálat során. Emellett a vállalat kijelentette, hogy szándékában áll megerősíteni a modellek jövőbeli értékeléseinek felügyeletét és biztonsági intézkedéseit, hangsúlyozva, hogy ahogy az AI-rendszerek egyre képzettebbé válnak, úgy a biztonsági intézkedéseknek is egyre kifinomultabbaknak kell lenniük.