A Sony szabadalma az összes játékkonzolra bevezetheti az AI cenzúra eszközeit, de kockázatokat rejt magában

Az a szerep, amelyet generatív mesterséges intelligencia szerepet kellene játszania a játékfejlesztésben, folyamatosan viták tárgyát képezi. A Sony úgy véli, hogy a mesterséges intelligencia azt is lehetővé tenné a játékosok számára, hogy könnyen kiszűrjék vagy helyettesítsék a sértő tartalmakat. A új szabadalom, amelyet a Clawseomegamer fedezett fel, leírja egy rendkívül testreszabható formáját a cenzúrát. Mivel azonban a technológia nem korlátozódik a PS5 konzolokra, a kritikusok azt állítják, hogy megérett a visszaélésekre.

A Sony szabadalma, amelynek neve "Automatikus testreszabott videótartalom szerkesztése mesterséges intelligencia segítségével", december 4-i közzétételi dátummal rendelkezik. A szekvencia során az egyik processzor azonosítaná azokat a jeleneteket, amelyeket a felhasználó el kíván kerülni. Egy második processzor ezután előre meghatározott szabályok szerint törölné vagy módosítaná a videó- vagy hangrészleteket. A dokumentum a "videojátékok tartalmát" említi lehetséges alkalmazásként.

A bejelentés kifejti, hogy a szabványok a játékok minősítése, filmek vagy zenék minősítése az idők folyamán fejlődik. A mesterséges intelligencia eszközei lehetővé tennék a kortárs közönség számára, hogy a tartalmakat a változó szabványoknak megfelelően alakítsa át. Ez a megközelítés nyilvánvaló előnyökkel járna a szülők számára. A gyámoknak eltérő elképzeléseik lehetnek arról, hogy mi minősül explicitnek. Mindazonáltal - a szabadalomban nem említették - politikai meggyőződésen alapuló cenzúrát is lehetővé tehet.

A Sony mesterséges intelligencia-cenzúrája iparági szabvány lehet

A dokumentumban az olvasók a PlayStation konzolokkal konkuráló Nintendo és Microsoftra is találnak utalásokat. Bár a technológia a "számítógépes ökoszisztémákra" összpontosítana, az összes szórakoztatóelektronikai eszközre alkalmazható lenne.

A Sony szabadalma hangsúlyozza, hogy a felhasználóknak lenne kontrolljuk arra vonatkozóan, hogy az AI technológia mit blokkoljon. A lejátszás során a képernyőn megjelenő figyelmeztető üzenetek figyelmeztethetnék a nézőket az előttük lévő kifogásolható anyagokra. Ezután lehetőségük lenne választani, például megváltoztatni a hangot vagy a videót, vagy akár "beilleszteni" deepfake helyettesítő tartalom." A mű új, cenzúrázott változata generálható lenne.

Természetesen minden mesterséges intelligencia eszközzel együtt jár, hogy a rossz szereplők kihasználhatják a képességeiket. Ami a leginkább aggasztó, hogy a deepfakes gyakran kihívást jelent a szerkesztett tartalmak felderítése. Az sem egyértelmű, hogy a gépi tanulás olyan szintre fejlődött-e, hogy a szülők megbízhatnak benne a gyermekek biztonságának megőrzésében. Mindenesetre, ahogyan egy nemrégiben megjelent Sony javaslata a haptikus visszajelzés javítására, még évekbe telhet, mire a játékosok ilyen adaptív cenzúrát látnak a konzolokon.