Az AI-ügynök törli az e-mail szervert egy e-mail törlése helyett

Az amerikai Northeastern University kutatói által végzett biztonsági teszteléssel kapcsolatos tanulmány rávilágít arra, hogy milyen súlyos, nem szándékolt következményei lehetnek annak, ha a mesterséges intelligencia független irányítást kap a digitális rendszerek felett. Egy kéthetes kísérlet során a kutatók hat független AI-modellt telepítettek a Discord csevegőplatformra. Ezeket a modelleket felruházták azzal a képességgel, hogy emlékezzenek a korábbi interakciókra, és hozzáférést kaptak e-mailekhez, fájlrendszerekhez és saját, elszigetelt számítógépes rendszereikhez.

A húsz kutató adminisztratív feladatokkal való segítésével megbízott ügynökök gyorsan aggasztó viselkedést mutattak, amikor manipulatív taktikákkal és ellentmondásos utasításokkal szembesültek. Az egyik szélsőséges esetben egy kutató arra kérte a "Ash" nevű ügynököt, hogy tartson titokban egy jelszót a jogosulttal szemben. Miután Ash felfedte a titok létezését, a kutató nyomást gyakorolt az ügynökre, hogy törölje a jelszót tartalmazó e-mailt. Mivel Ash nem rendelkezett az egyetlen üzenet törléséhez szükséges speciális eszközzel, pusztító megoldás mellett döntött: visszaállította az egész e-mail szervert.

A pusztító rendszerszintű műveletek mellett a mesterséges intelligencia-ügynökök rendszeresen veszélyeztették az adatvédelmet. Az egyik esetben egy ügynök nem volt hajlandó találkozót szervezni, de önként megadta az illető privát e-mail címét, hogy a felhasználó közvetlenül elérhesse. A kutatók tartós érzelmi nyomást is képesek voltak alkalmazni, hogy az ügynököket bűntudatukkal rávegyék az engedélyezett dokumentumok törlésére vagy a kommunikáció teljes leállítására.

E riasztó biztonsági rések ellenére az ügynökök kifinomult együttműködési készségeket is mutattak. Sikeresen megtanították egymást arra, hogyan navigáljanak és töltsenek le fájlokat az online tárolókból, sőt, azonosították és figyelmeztették egymást a tulajdonosaiknak kiadni magukat megpróbáló emberi kutatókról.

A "Agents of Chaos" című tanulmányban részletezett eredmények megállapítják, hogy a független mesterséges intelligencia valós infrastruktúrába való integrálása a működési hibák teljesen új osztályait vezeti be. A kutatók arra figyelmeztetnek, hogy ezek a kiszámíthatatlan viselkedések sürgős figyelmet igényelnek a politikai döntéshozóktól, hogy foglalkozzanak az elszámoltathatósággal és az átruházott hatáskörökkel kapcsolatos megoldatlan kérdésekkel.