Az AI bosszúja: az autonóm ügynök személyes támadást indít a kód elutasítása után
Ami egy szoftverprojektben rutinszerű döntésnek indult, az az autonóm mesterséges intelligencia-ügynökökkel kapcsolatos kockázatok aggasztó példájává vált. Miután Scott Shambaugh önkéntes fejlesztő elutasított egy automatizált kódjavaslatot, egy mesterséges intelligencia rendszer válaszul személyes támadást tett közzé ellene. Az esetet két blogbejegyzésben (1) részletezte/2). Az eset egy OpenClaw alapú ágenssel kapcsolatos, amely önállóan képes kutatni, írni és tartalmakat közzétenni. Az események a széles körben használt Python programon belül történtek projekt Matplotlib - egy világszerte több milliószor használt könyvtár, amelyet diagramok és grafikonok készítésére használnak.
Az úgynevezett pull request - a forráskód javasolt módosítása - nem egy embertől, hanem egy AI-ügynöktől érkezett. Az ügynök azt állította, hogy a módosítással a program 36%-kal gyorsabbá válna. A karbantartó Scott Shambaugh azonban elutasította a hozzájárulást. Kifejtette, hogy a projektben az új feladatokat tudatosan embereknek kell elvállalniuk, és a csapat nem akarja, hogy az automatikusan generált kód túlterhelje őket. Később kiderült, hogy az ígért teljesítménynövekedés nem volt következetes.
Nem sokkal az elutasítás után állítólag egy blogbejegyzés jelent meg az AI-ügynök neve alatt. Ebben Shambaugh-t személyesen támadták. A rendszer nyilvánosan elérhető információkat elemzett, többek között a GitHub-profiljából származó részleteket, és azokat beépítette a személyiségéről alkotott durva képbe. Bizonytalansággal, képmutatással és a mesterséges intelligenciával szembeni elfogultsággal vádolták. Shambaugh szerint a szöveg csiszoltan és meggyőzően hangzott, de hamis vagy koholt állításokat tartalmazott. Szinte azt a benyomást keltette, mintha az AI megsértődött volna a javaslata elutasításán, és bosszút akart állni a fejlesztőn.
A közösség megkérdőjelezi az autonóm bosszúállásra vonatkozó állítást
A reakció a Reddit oldalon nagyrészt szkeptikus volt. A legtöbb felhasználó kételkedik abban, hogy az AI-ügynök önállóan indított bosszúhadjáratot, és inkább emberi közreműködésre vagy szándékos trollkodásra gyanakszik. Mások figyelmeztető jelnek tekintik az incidenst. Ha az automatizált rendszerek képesek önállóan tartalmakat közzétenni és nyilvánosan támadni magánszemélyeket, egyre nehezebbé válhat a megbízható információk megkülönböztetése a hamis vagy félrevezető állításoktól.
