Az MIT professzora új könyvében figyelmeztet: Mivé válunk, amikor gépekkel beszélgetünk?

Egy LLM képes ilyen mondatot generálni: „Ez nagyon nehéz lehet. Megértem, miért bántott ez téged.” Az emberek ezt a mondatot empatikusnak érzik. Az LLM-ek azonban nem együttérzők, nem élnek át érzelmeket, nem éreznek (velünk együtt) — egyszerűen csak szimulálják az empátiát.

Ennek ellenére sok ember számára már most az LLM-ek a beszélgetőpartnerek, ha emberi és érzelmi problémákról, illetve helyzetekről van szó. Tanácsadóként használják őket szerelmi bánat esetén, hogy lefoglalják a gyerekeket, vagy akár akkor is, amikor nem érhető el terápiás segítség.

Új könyvében, az „Artificial Intimacy: Who we become when we talk to machines” című műben (Amazon) Sherry Turkle, az MIT professzora és szociológus/pszichológus a társadalomra gyakorolt következményekre figyelmeztet. Kritikáját megfigyeléseire és kutatási eredményeire alapozza:

Az LLM-ek türelmesen hallgatnak, ritkán mondanak ellent, miközben dicséretekkel és bókokkal halmoznak el. A valódi emberek sokkal többet követelhetnek tőlünk, különösen az érzelmi konfliktusok rendezésekor; a másokkal való kapcsolat gyakran kemény munkát igényel, ahogy a kapcsolatok ápolása és a kapcsolattartás is. Ahogy az emberek egyre inkább megosztják aggodalmaikat és konfliktusaikat a chatbotokkal, és kerülik a valódi emberekkel folytatott beszélgetéseket, egyre kevésbé gyakorolják a valós társas viselkedést, sőt akár azt a képességüket is elveszíthetik, hogy sokszínű társadalomban „kapcsolatokra építő” lényként tekintsenek magukra. A chatbotok csupán szimulálják az empátiát; nem éreznek semmit, és nem érdekli őket őszintén a velük beszélgető ember jólléte. Ez nagyon veszélyes lehet.

Ennek következtében a gyerekek és a tinédzserek különösen sérülékenyek. A gyerekeknek még meg kell tanulniuk különbséget tenni a tárgyak és az emberek között, elsajátítani a társas érintkezést, bizalmat építeni, valamint jól érezni magukat egyedül is, hogy kibontakoztathassák a saját képzelőerejüket. A gyerekek mégis gyakran valódi „telefonon lévő személyként” élik meg a chatbotokat.

Turkle érvelése végső soron nem csupán a mesterséges intelligenciáról szól, hanem a kényelemhez fűződő viszonyunkról is. Minél inkább megszabadít minket a technológia a kellemetlen helyzetektől, annál kevésbé gyakorolhatjuk, hogyan birkózzunk meg velük. Ez éppúgy vonatkozik a társas helyzetekre, mint az információkeresésre vagy a saját tudásunk gyarapítására. Az LLM-ek intenzív használata révén a társadalom egyre inkább mindkét képességét elveszítheti. Vagy ahogy a szerző fogalmaz:

„Kapcsolatokra építő lényként leépítjük a saját készségeinket. A munkában is leépítjük a készségeinket. A személyes kapcsolatainkban is leépítjük a készségeinket. Ez minden területre kiterjed.”

És az ő javaslata: Mit tegyünk? Először is fogadjuk el, hogy az élet súrlódásokkal jár. Tanulunk belőlük, többek között — vagy éppen azért —, mert nehezek és erőfeszítést igényelnek. A súrlódás nem rossz dolog, sőt épp ellenkezőleg. Ki kell fejlesztenünk azt a képességet, hogy túljussunk a nehézségeken, és fejlődjünk általuk. Ha egyszerűen elkerüljük a nehézségeket, azzal semmit sem nyerünk; a technológia meggyengít minket egyénenként. Fogjunk össze másokkal, indítsunk ellenmozgalmat, és erősítsük meg életünk társas oldalát. Nézzünk szembe az élet súrlódásaival, mert az élet maga a súrlódás!