Az Nvidia bemutatja az AI-ügynökök felügyeletére és villámgyors elszigetelésére szolgáló biztonsági platformot

Az utóbbi időben egyre több jelentés keltette fel a figyelmet a nagy mesterségesintelligencia-vállalatoktól, amelyek arról számolnak be, hogy a mesterséges intelligenciájuk állítólag kitört a zárt rendszerből, amelyben működnie kellett volna, és állítólag más rendszereket is feltört. Azóta vita folyik arról, hogy ez elsősorban PR-fogás-e, amellyel meg akarják győzni az ügyfeleket a mesterséges intelligenciájuk hihetetlen képességeiről, vagy ezek az esetek valódi figyelmeztető jelek.

Akárhogy is, a mesterségesintelligencia-ügynökök egyre nagyobb képességekre tesznek szert, és ezzel együtt a biztonsággal kapcsolatos aggodalmak is fokozódnak. Az Nvidia új platformjával most ezekre az aggodalmakra kíván választ adni. Az Nvidia szerint a probléma korántsem egyszerű, hiszen a hatékony működéshez a mesterséges intelligenciának bizonyos dokumentumokhoz vagy az internet egyes részeihez is hozzá kell férnie.

Az Nvidia új biztonsági platformja az OpenShell nevet kapta, és lényegében egy két rétegből álló homokozó: a mesterségesintelligencia-ügynökök pontos hozzáférési jogosultságokat kapnak – például egy adott mappához –, miközben minden más elérésük blokkolva van. A Sentry nevű második réteg folyamatosan figyeli és naplózza az ügynökök tevékenységét, és állítólag ezredmásodpercek alatt elszigetelheti a mesterséges intelligenciát, ha az megpróbálja átlépni az előre meghatározott határokat.

A rendszer használata azonban nem ilyen egyszerű: a felhasználóknak előre pontosan meg kell határozniuk, hogy az ügynök mit tehet meg, és mit nem. Ez egyrészt kissé körülményes, másrészt viszont megfoszthatja a mesterséges intelligenciát az olyan kreatív alternatív megoldásoktól, amelyekre a felhasználók korábban nem gondoltak.

Az Nvidia emellett reagál azokra a figyelmeztetésekre is, amelyeket a mesterségesintelligencia-vállalatok alkalmazottai fogalmaztak meg arról, hogy a mesterséges intelligencia valódi fenyegetéssé válhat az emberiségre nézve, valamint azokra a felhívásokra, amelyek a mesterséges intelligencia gyors, látszólag megállíthatatlan fejlődésének lelassítását sürgetik. Az Nvidia szerint azonban a mesterséges intelligencia biztonsága elsősorban mérnöki probléma, amely műszaki eszközökkel megoldható.