A Legfelsőbb Bíróság bírságot szabott ki egy ügyvédre, mert gyilkossági perben használta a ChatGPT-t

Az Új-Mexikói Legfelsőbb Bíróság nemrég bíróság megsértéséért elítélte Stephen Aarons santa fe-i ügyvédet, miután az a ChatGPT által kitalált tanúvallomásokat és tanúkat tartalmazó fellebbezési beadványt nyújtott be. Tavaly Aarons egy gyilkosságért elítélt ügyfelét védte, amikor a csevegőrobot segítségével összefoglalta a tárgyalási jegyzőkönyveket, majd az így elkészült dokumentumot előzetes lektorálás nélkül nyújtotta be. A beadvány olyan tanúknak tulajdonított kijelentéseket tartalmazott, akik nem is léteztek, valamint kitalált megjegyzéseket, amelyeket hamisan egy valódi tanúnak tulajdonítottak.

A bíróság válasza nem hagyott kétséget. C. Shannon Bacon bíró nyíltan megkérdezte Aarons-tól, hogy egyáltalán követi-e a híreket, tekintve, hogy milyen gyakran kerülnek címlapra az AI-„hallucinációk” a jogi beadványokban, és azt sugallta, hogy vagy figyelmen kívül hagyta a jelenséget, vagy meggondolatlanul kockáztatta ügyfele ügyét. Aarons, aki több mint négy évtizede ügyvédként dolgozik, elismerte saját „ostobaságát”, és hozzátette, hogy tévesen feltételezte, hogy a szoftver megbízható összefoglalót fog készíteni.

A megrováson túl a bíróság 5 000 dolláros bírságot szabott ki, amelyet egy ügyfélvédelmi alapnak kell befizetni, és az ügyet az állami ügyvédi fegyelmi bizottság elé utalta. Az eset több más olyan esetet követ, amelyekben ügyvédek szankciókkal vagy fegyelmi vizsgálattal szembesültek, miután ellenőrizetlen, mesterséges intelligencia által generált anyagokat nyújtottak be a bíróságon (1, 2, 3).