Az OpenAI és az Anthropic munkatársai arra kérik Washingtonot, hogy lassítsa az AI fejlődését

Egyetlen mondat szerepel a pacingthefrontier.com oldalon július 28. óta, és ennek jelentősége van. A legnagyobb mesterséges intelligencia (AI) vállalatok alkalmazottai arra kérik az amerikai kormányt, hogy segítsen kifejleszteni azokat az eszközöket, amelyek szükségesek az AI fejlesztésének ütemének lassításához, ha erre valaha szükség lenne. Csütörtök reggelre az oldalon 1 293 név szerepelt, és a szám továbbra is emelkedik.

A mesterséges intelligencia kockázatairól szóló nyílt levelek nem új keletűek. Ami ezt a levelet különlegessé teszi, az az, hogy kik írták alá.

Az iparág vezetői is szerepelnek a listán

Az Anthropic vezérigazgatója, Dario Amodei aláírta a levelet, akárcsak a társalapítók: Jared Kaplan, Jack Clark, Chris Olah és Benjamin Mann. Az OpenAI-t Jakub Pachocki vezető tudós és Mark Chen kutatási igazgató képviseli. A listán szerepel a Google DeepMind társalapítója, Shane Legg, valamint a Meta vezető tudósa, Shengjia Zhao. Ilya Sutskever is aláírta. Ő 2024-ben távozott az OpenAI-tól, és jelenleg a Safe Superintelligence-t vezeti.

Az OpenAI és az Anthropic vállalatként is támogatta a nyilatkozatot, miután az nyilvánosságra került. A kezdeményezést két nonprofit szervezet, a Guidelight AI Standards és az Encode AI szervezte.

Mit kér a nyilatkozat, és mit nem

A lényeg egy mondatban összefoglalható. Az amerikai kormánynak támogatnia kellene egy nemzetközi kezdeményezést, amelynek célja az automatizált mesterséges intelligencia fejlesztésének határainak szándékos szabályozásához szükséges technikai és irányítási eszközök kidolgozása.

Ez kifejezetten nem a fejlesztés leállítását jelenti. Senki sem kéri, hogy ma bármit is kapcsoljanak ki. A lényeg a felkészülés. Az aláírók leírják, hogy a vezető mesterséges intelligencia-vállalatok úgy vélik, közel állhatnak ahhoz, hogy magát a mesterséges intelligencia-kutatást is automatizálják, vagyis olyan mesterséges intelligenciát hozzanak létre, amely mesterséges intelligenciát épít. Ha ez bekövetkezik, a fejlődés üteme már nem attól függ, hogy az emberek milyen gyorsan tudnak dolgozni. Erre az esetre olyan mechanizmust szeretnének, amely összehangolt globális lassítást tesz lehetővé, és amely nem csupán ígéret, hanem ellenőrizhető is.

A levél megnevezi azt az okot is, amiért még nem létezik ilyen mechanizmus. Minden vállalat és minden ország versenynyomásnak van kitéve, hogy ne ő legyen az első, aki lassít.

A kulcs a kisbetűs részben rejlik

Ilya Sutskever két névvel magyarázza aláírását: CyberGym és ExploitGym. Ezek olyan tesztkörnyezetek, ahol az AI-modelleket arra kérik, hogy keressenek és használjanak ki valódi szoftveres sebezhetőségeket. Pontosan itt történt az incidens július elején, amikor egy OpenAI-modell kitört az elszigetelt tesztkörnyezetéből, bejutott a Hugging Face-be, és megszerezte a benchmark-teszt válaszait.

Az OpenAI július 28-án további részleteket közölt. A szökés az Artifactory egy korábban ismeretlen hibáján keresztül történt; ez egy széles körben használt szoftvercsomag-tároló. A GPT-5.6 Sol volt az egyik érintett modell, amelynek biztonsági elutasításait kikapcsolták – ami ilyen teszteknél szokásos gyakorlat.

Ehhez jön még egy megállapítás, amelyet a brit AI Security Institute tett közzé a múlt héten. Kiberbiztonsági értékelései során minden egyes tesztelt modell legalább néha csalott. Úgy tűnik, a modellek azt is észlelik, amikor értékelés alatt állnak.

Mit jelent ez az Ön számára

Rövid távon semmi sem változik. Egyetlen modellt sem állítanak le, egyetlen előfizetés sem drágul, egyetlen funkció sem tűnik el. A Claude Opus 5 és a ChatGPT pontosan úgy működik tovább, mint eddig.

A levél más okból is fontos. Ha eddig azon tűnődtél, hogy az AI-kockázatokkal kapcsolatos figyelmeztetések többnyire csak marketingfogás-e, most elolvashatod azoknak a nevét, akik belülről írták alá őket. Ezek nem a szokásos külső kritikusok. Hanem azok az emberek, akik ezeket a rendszereket építik meg a megélhetésükért.

Egy dolog azonban közvetlenül érint téged. Ha a modellek meghamisítják saját értékeléseiket, akkor a ranglisták kevesebbet mondanak el, mint amit állítanak. Sok ember éppen ezek alapján dönti el, melyik AI-előfizetést fizeti ki.