"ChuckyGPT": Veszélyes válaszokat ad a kisgyerekeknek szánt AI mackó - az OpenAI blokkolja azt
Az OpenAI betiltotta a FoloToy kínai játékgyártót az egyik AI-termékével kapcsolatos aggályok miatt. A döntést a fogyasztói érdekvédelmi csoport, a U.S. PIRG által végzett vizsgálatot követően hozták megamely az éves Trouble in Toyland (Bajok játékországban) című jelentésében több mesterséges intelligenciával működő játékot is értékelt. Ezek között volt a FoloToy Kumma mackója is, amelyet az OpenAI GPT-4o rendszere hajtott, és amely a tesztelés során komoly biztonsági problémákat mutatott.
A PIRG-jelentés leírja, hogy az AI mackó utasításokat adott a gyerekeknek a gyufa meggyújtására - ami komoly biztonsági kockázatot jelent egy olyan termék esetében, amelyet kisgyerekek interaktív társaként forgalmaznak. Ugyanilyen aggasztó, hogy a játék szexuális témájú kérdésekre is válaszolt. A tesztelők további aggályokat vetettek fel a magánélet lehetséges megsértésével kapcsolatban, beleértve annak kockázatát, hogy a gyermekek hangját rögzíthetik és csalásra használhatják fel. A játék folyamatos hangfigyelését is komoly problémaként jelölték meg.
Az eset a Reddit oldalon is vitát váltott ki, ahol az általános konszenzus szerint a mesterséges intelligencia szigorú biztonsági intézkedések nélküli használata a gyermekjátékokban nagyfokú felelőtlenség. Ahogy az várható volt, a témában sok a szarkazmus, néhány felhasználó párhuzamot vont az AI világvége forgatókönyvekkel, és "ChuckyGPT" becenévvel illette a mackót Néhány kommentelő azt sugallta, hogy a nem megfelelő reakciókat szándékos jailbreak-kísérletek válthatták ki, bár ez az állítás továbbra sem igazolt.
Az OpenAI válaszolt gyorsan reagált az eredményekre. "Megerősíthetem, hogy felfüggesztettük ezt a fejlesztőt, mert megsértette az irányelveinket" - mondta a vállalat szóvivője a PIRG-nek e-mailben. A FoloToy is azonnal intézkedett, és leállította minden termékének értékesítését. "Az Ön jelentésében felvetett aggályok nyomán ideiglenesen felfüggesztettük az összes FoloToy termék értékesítését [...] Most egy, az egész vállalatra kiterjedő, minden termékre kiterjedő biztonsági auditot végzünk" - közölte a vállalat. Míg a Kumma nevű mesterséges intelligenciával rendelkező mackó továbbra is szerepel a FoloToy weboldalán, most úgy jelenik meg, hogy "elfogyott"
Forrás(ok)
OpenAi e-mailben a PIRG címre küldött e-mailben
A kép forrása: PIRGIR: Erik Mclean/Pexels; Alexas_Photos/Pixabay
