CMV Subreddit beszivárgott botok egy etikátlan egyetemi kísérlethez

A Zürichi Egyetem kutatói titokban végeztek egy tanulmányt mesterséges intelligencia-robotok bevonásával, hogy kiderítsék, megváltoztatják-e az emberek véleményét különböző témákban. A kísérlet az r/changemyview (CMV) subredditet vette célba, egy népszerű vitafórumot, ahol számos témában ellentétes nézőpontokból folyik a vita.

A meg nem nevezett kutatók előzetesen nem vették fel a kapcsolatot a moderátorokkal, és nem kértek engedélyt az AI által generált botok bevetése előtt. A moderátorokat a kísérlet után e-mailben tájékoztatták a kísérletről, "egy közzétételi lépés részeként"

Néhány a elmarasztaló példák közül közé tartozik egy olyan bot, amely "nemi erőszak áldozatának adta ki magát", egy olyan, amely "a bántalmazásra szakosodott trauma-tanácsadónak" adta ki magát, vagy egy olyan bot, amely "a Black Lives Matter ellenes fekete embernek adta ki magát"

A moderátorok azzal is vádolták a kutatókat, hogy az egyetem etikai bizottsága által engedélyezett tervezett "értékalapú érvek" megközelítésről áttértek a "személyre szabottabb és finomhangoltabb érvek" készítésére, amelyeket nem hagytak jóvá.

A botok hozzáférést kaptak az eredeti hozzászóló (Original Poster, OP) személyes attribútumaihoz, amelyek közé tartozott a nem, az életkor, a lakóhely, az etnikai hovatartozás és a politikai irányultság, ahogyan azt a platformon közzétett bejegyzési előzményeikből kikövetkeztették. A kutatók szerint a módszer azért volt indokolt, mert "a meglévő helyszíni kísérletek hiánya elfogadhatatlan hiányosságot jelent a tudásanyagban"

A Zürichi Egyetem kutatócsoportjának válasza kevéssé oltotta a tüzet. Azt állították, hogy "elkötelezettek a teljes átjárhatóság mellett" Azzal védekeztek, hogy "segítenek a társadalomnak felkészülni a mesterséges intelligencia által vezérelt meggyőzés valós hatására"

Ennél is fontosabbnak tartották, hogy ez a projekt "fontos felismeréseket hozott", és "a publikáció elhallgatása nem áll arányban a tanulmány által nyert felismerések fontosságával"

Az Engadgetnek küldött e-mailbena kutatók azt állították, hogy "a kutatás potenciális előnyei lényegesen meghaladják a kockázatokat"

A dolog annyira rosszra fordult, hogy a Reddit jogi vezetője, Ben Lee reagált a posztokra, mondván, hogy a csapat "letiltott minden olyan fiókot, amely a Zürichi Egyetem kutatási erőfeszítéseivel kapcsolatos" Lee szerint a Reddit "folyamatban van a Zürichi Egyetem és az adott kutatócsoport hivatalos jogi követelésekkel való megkeresése"