Az autonóm mesterséges intelligencia alapú hackerek felülmúlják az emberi hackereket

A zsarolóvírusok számának növekedésével a vállalati biztonsági csapatok a fenyegetési vektorok rangsorolásának gyors változásával szembesülnek. Az Exabeam megbízásából a Sapio Research által végzett új kutatás megállapította, hogy az IT- és biztonsági vezetők 48%-a jelenleg a túlzott vagy nem szándékos rendszerhozzáféréssel rendelkező autonóm mesterséges intelligencia-ügynököket tartja a legnagyobb fenyegetésnek, megelőzve a külső hackereket, a kompromittált belső személyeket és a rosszindulatú alkalmazottakat.

A felmérés keretében 600 biztonsági és pénzügyi döntéshozót kérdeztek meg az Egyesült Államokban, Kanadában, az Egyesült Királyságban, Franciaországban, Németországban, Hollandiában és Ausztráliában, akik mindegyike 500 vagy annál több alkalmazottat foglalkoztató szervezetnél dolgozik. A külső fenyegető szereplők 28%-kal a második helyen végeztek, míg a kompromittált belső szereplők és a rosszindulatú alkalmazottak egyaránt 12%-ot tettek ki.

Miért jutnak át az autonóm rendszerek a hagyományos védelmi rendszereken?

Az Exabeam a szóban forgó AI-ügynököket olyan célorientált, autonóm rendszereknek definiálja, amelyek hozzáférhetnek a vállalati erőforrásokhoz, és korlátozott emberi felügyelet mellett működhetnek, eltérően a beszélgetős csevegőrobotoktól. Mivel ezek az ügynökök általában érvényes rendszergazdai hitelesítő adatokkal, API-kulcsokkal és emelt jogosultságokkal működnek, egy rosszindulatú vagy rosszul konfigurált ügynök által végrehajtott műveletek megkerülhetik a hagyományos peremvédelmi rendszereket és a felhasználói viselkedési referenciaértékeket anélkül, hogy standard biztonsági riasztásokat váltanának ki. A kockázat nem feltétlenül jár rosszindulattal az ügynök részéről, csupán ellenőrizetlen hozzáféréssel.

A felügyelet nehezen tart lépést a bevezetéssel

Ahogy a szervezetek egyre szélesebb körben alkalmazzák az autonóm mesterséges intelligenciát üzleti tevékenységeik során, a biztonsági szolgáltatók egyre inkább olyan speciális ügynöki viselkedéselemző rendszerek kiépítésére törekednek, amelyek a meglévő emberi hozzáférési naplófájlok mellett a gépek döntéshozatalát is nyomon követik. Az Exabeam „The Agentic Insider: From Monitoring to Understanding” című jelentése rámutat, hogy bár a vállalatok máris bővítik az AI-ügynökök felügyeletére irányuló erőfeszítéseiket, sokuknak még mindig nehézséget jelent az ügynökök rendszereken átívelő és üzleti kontextusban megnyilvánuló viselkedésének teljes körű megértése.

Érdemes megjegyezni, hogy a felmérés a döntéshozók által érzékelt kockázatot méri, nem pedig megerősített incidensadatokat, ezért nem szabad úgy értelmezni, mintha az AI-ügynökök a tényleges biztonsági incidensek számát tekintve megelőzték volna a hackereket. Ennek ellenére az eredmény egyértelmű prioritásváltásra utal: ahogy az ügynökök egyre szélesebb körű hozzáférést kapnak a vállalati rendszerekhez, a hozzáférés megadása és annak tényleges használatának figyelemmel kísérése közötti rés megszüntetése egyre sürgetőbb problémává válik a biztonsági csapatok számára.

Frissítésekkel való birkózás a Windows-rendszergazdák számára

Az eredmények éppen akkor jelentek meg, amikor a vállalati IT-csapatok már így is a Windows-frissítések és javítások folyamatos áradatával küszködnek a rendszereiken. A Microsoft saját, legutóbbi előzetes frissítése, a KB5124010, új funkciók mellett két nyilvánosságra hozott ismert hibát is hozott magával, ami emlékeztet arra, hogy az alaprendszerek frissített és stabil állapotban tartása még az AI-ügynökök megjelenése előtt is teljes munkaidős feladat. Ahogy a szervezetek autonóm ügynököket építenek be a meglévő javítás- és hozzáféréskezelési munkaterhelés tetejére, ugyanazoknak a rendszergazdáknak ki kell terjeszteniük felügyeletüket az operációs rendszerekről és a végpontokról azokra az ügynökökre is, amelyek most már mellettük működnek.