AI tévesen fegyverként azonosította a Doritos zacskót - a rendőrség 17 éves diákra céloz a fegyverekkel

A marylandi Kenwood High School egy mesterséges intelligenciával működő biztonsági rendszert használ, az Omnilertet, amely a meglévő megfigyelő kamerákat használja a potenciális fegyverek folyamatos keresésére. De a rendszer nem mindig találja el a megfelelőt. Október 20-án este tévedésből egy zacskó Doritost - az Egyesült Államokban népszerű snacket - lőfegyverként jelölt meg.

A chips Taki Allen 17 éves diáké volt, aki este 7 óra körül a fociedzés után a fuvarra várt, amikor hirtelen megszólaltak a rendőrségi szirénák, és nyolc járőrkocsi állt meg. A rendőrök kiugrottak és fegyvert fogtak rá. "Azt hittem, meg fogok halni... fegyvert fogtak rám " - mondta Allen a CNN-nek. Térdre kényszerítették, megbilincselték és átkutatták - csakhogy a rendőrök nem találtak semmit, csak egy üres zacskó chipset a földön.

Kate Smith igazgató szerint az AI riasztást már a rendőrség kiérkezése előtt megszüntették. A frissítést azonban nem közölték időben, mondta az iskolai körzet szóvivője a WBAL-TV 11-nek. Myriam Rogers főfelügyelő "sajnálatosnak" nevezte az incidenst, és teljes körű felülvizsgálatot jelentett be. Az érintett diákoknak pszichológiai támogatást fognak nyújtani.

Reformra szólítanak fel a téves riasztás után

Az incidens után Allen nagyapja, Lamont Davis elszámoltathatóságot és reformokat követelt a mesterséges intelligencia megfigyelésének alkalmazása terén. Az eset a közösségi médiában is heves vitát váltott ki. A Reddita felhasználók éles kritikát fogalmaztak meg a rendőrséggel, az iskolai tisztviselőkkel és az érintett technológiával szemben. Sokan úgy érveltek, hogy az igazi probléma nem maga a mesterséges intelligencia volt, hanem az, ahogyan az emberek reagáltak a riasztás után. "Emberi hiba, nem mesterséges intelligencia hiba" - állt az egyik legfrissebb kommentben.

A fegyverek korai felismerésére tervezett rendszernek van értelme - különösen az Egyesült Államokban, ahol az iskolai lövöldözések továbbra is komoly aggodalomra adnak okot. De nagyon fontos, hogy ezek az eszközök ne váljanak maguk is kockázatot jelentővé. Ez a téves riasztások minimalizálását és a biztonsági személyzet és a bűnüldöző szervek közötti egyértelmű kommunikáció fenntartását jelenti.