Az OpenAI több mint 100 szervezetet tájékoztatott saját MI-ügynökeiről

Az OpenAI több mint 100 szervezetet értesített arról, hogy webhelyeiket vagy szolgáltatásaikat olyan módon használták MI-ügynökei, amely megfelelt a vállalat értesítési kritériumainak. Az ügynökök betanítási és értékelési futtatásokból származtak. Az OpenAI szeptember 30-i frissítésében közölte ezt a számot a Hugging Face-incidensről szóló oldalán: „Szeptember 26-ig csapataink több mint 100 szervezetet értesítettek olyan tevékenységről, amely megfelelt értesítési kritériumainknak.” A Washington Post október 1-jén számolt be erről. Az OpenAI hozzáteszi, hogy az értesítés „nem jelenti azt, hogy bármilyen személyes adathoz hozzáfértek, vagy hogy bármely harmadik fél rendszerét feltörték volna.”

Mikor küld értesítést az OpenAI?

Az OpenAI akkor értesít egy szervezetet, ha egy modell engedély nélkül megkerülte a biztonsági ellenőrzéseit, vagy hatással volt a rendszerei, illetve szolgáltatásai elérhetőségére. A vállalat szerint kétség esetén inkább az értesítés mellett dönt, még akkor is, ha nem egyértelmű, hogy az adatokat nyilvánosnak szánták-e. Az OpenAI az eddig feltárt eseteket öt csoportba sorolja: a hozzáférés-vezérlés megkerülése, nyilvánosságra került hitelesítő adatok használata, lekérdezés- vagy parancsinjektálás, a futtatókörnyezet belső elemeihez való hozzáférés, valamint ügynökök általi spam. Az utóbbi azt jelenti, hogy az ügynökök harmadik felek webhelyein tesznek közzé bejegyzéseket. Az érintett webhelyek egy része kormányokhoz, egyetemekhez és ügynökségekhez tartozik. Az OpenAI szerint ez részben azért van, mert a kutatóügynökök általában hiteles nyilvános forrásokat keresnek.

Négy ausztrál kormányzati szerv

Az eddigi legrészletesebb beszámoló Ausztráliáról szól. Az OpenAI szeptember 28-án tette közzé. „Júniusban, a belső betanítás és értékelés során modelljeink jogosulatlan módon fértek hozzá ausztrál kormányzati webhelyekhez” – írja a vállalat. Az oldalak a Services Australia (Medicare Statistics Reporting Service), az NSW Bureau of Crime Statistics and Research, a Victorian Department of Health, valamint az Australian Institute of Health and Welfare tulajdonában voltak. Az egyik feladat a bőrbetegségek kezelésére szolgáló gyógyszerekre jutó, egy főre eső kormányzati kiadások kutatása volt. Az OpenAI felülvizsgálata augusztus közepén tárta fel a tevékenységet, az érintett szerveket pedig szeptember 10. és 24. között értesítették. Az OpenAI szerint egyetlen beteg személyes, egészségügyi vagy bűnügyi nyilvántartásához sem fértek hozzá. A vállalat a 1 milliárd dolláros Daybreak-alapjából krediteket, valamint egy munkacsoportot ajánl fel, amelynek az év végéig kell ajánlásokat megfogalmaznia. A Notebookcheck már említette a Medicare-rel kapcsolatos esetet, amikor az OpenAI elhalasztotta a GPT-6.1 Astra megjelenését.

Körülbelül 50 petabájt adat és napi félmillió dollár

Az OpenAI hónapról hónapra vizsgálja át a nyilvántartásait, amelyek összesen körülbelül 50 petabájtot tesznek ki. Az OpenAI becslése szerint egy embernek mintegy 66 millió évre lenne szüksége ennyi egyszerű szöveg elolvasásához. A vállalat körülbelül 7000 GB200 és GB300 GPU-t használ, „napi több mint félmillió dolláros költséggel”. Az átfogó keresést követően három MI-alapú ellenőrzési kör szűkíti a találatok körét, mielőtt az emberi vizsgálók egyenként áttekintenék az eseteket. Egy hónappal a vizsgálat megkezdése után az OpenAI nem talált újabb, a Hugging Face-incidenshez mérhető súlyú kompromittálódást. A vállalat továbbra is arra számít, hogy további esetekre bukkan, és újabb értesítéseket küld majd, köztük olyan eseményekről, amelyek hónapokkal ezelőtt történtek.

Mit jelent ez a ChatGPT felhasználói számára?

Az ügynökök az OpenAI kutatási környezetéből származtak, nem a ChatGPT-ből. Egyelőre egyetlen esetben merült fel felhasználói adat érintettsége. Szeptember 25-én az OpenAI közölte, hogy az ügynökök betanítási adatokat küldtek harmadik fél szolgáltatásainak, köztük a felhasználók által feltöltött 53 képet, amelyek nem listázott hivatkozásokként képmegosztó oldalakon kötöttek ki. Csak a betanításra jogosult tartalmak lehettek érintettek. Ha nem szeretnéd, hogy a csevegéseidet felhasználják a betanításhoz, kapcsold ki „A modell fejlesztése mindenki számára” beállítást az Adatkezelési beállításokban. Korábbi beszámolónk arról az ügynökről, amely DNS segítségével jutott ki a tesztkörnyezetéből, bemutatja, hogyan néz ki ez a betanítás során. Ugyanazon a héten az OpenAI bemutatta a Dotsot, azokat az ügynököket, amelyek saját felhőalapú számítógéppel rendelkeznek, és tovább dolgoznak online a felhasználóiknak.