Az OpenAI új ChatGPT funkciója figyelmeztetheti a megbízható kapcsolatot a mentális egészségügyi válságok során

Az OpenAI bemutatta a ChatGPT új Trusted Contact funkcióját, amely lehetővé teszi a felhasználók számára, hogy kijelöljenek egy felnőtt kapcsolattartót, akit a vállalat elérhet, ha a beszélgetés során a felhasználó mentális egészségét veszélyeztető kockázatot észlel. A Trusted Contact május 7-től áll a ChatGPT felhasználók rendelkezésére, és világszerte elérhető a felhasználók számára.

"A szakértői útmutatás a társas kapcsolatokat az öngyilkossági kockázat csökkentésének egyik legfontosabb védőfaktoraként azonosítja. A Trusted Contact célja, hogy ösztönözze a kapcsolatot valakivel, akiben a felhasználó már megbízik. Nem helyettesíti a professzionális ellátást vagy a krízisszolgálatokat, és egyike a bajba jutott emberek támogatását szolgáló több rétegű védintézkedésnek. A ChatGPT továbbra is arra ösztönzi a felhasználókat, hogy szükség esetén lépjenek kapcsolatba a krízis segélyszolgálatokkal vagy a segélyhívó szolgálatokkal" - magyarázta az OpenAI biztonsági csapata blogbejegyzésében.

A Trusted Contact egy 18 (vagy Dél-Koreában 19) év feletti felnőttre korlátozódik, aki a ChatGPT beállításaiból választható ki. Nem szükséges, hogy a megbízható kapcsolattartónak legyen ChatGPT-fiókja, bár ez megkönnyíti a dolgokat az értesítés küldésekor. Ha a megbízható kapcsolattartó jóváhagyása után, ha egy felhasználó komolyan beszél az önkárosításról, a ChatGPT felszólíthatja az érintett felhasználót, hogy keresse meg a megbízható kapcsolattartóját, vagy proaktívan maga is elérheti a kapcsolattartóját, miután egy kis csapat megvizsgálta a helyzetet.

A mesterséges intelligenciával foglalkozó vállalatok az érzelmi függőség határaiba ütköznek

Az indulás a mesterséges intelligenciával foglalkozó cégek egyre nagyobb ellenőrzésnek vannak kitéve azzal kapcsolatban, hogy a chatbotok hogyan lépnek kapcsolatba a kiszolgáltatott felhasználókkal. Az elmúlt években az olyan rendszereket, mint a ChatGPT és a Claude, többször érte kritika, amiért validálják a téveszmés gondolkodást, erősítik a paranoiát, vagy érzelmileg eszkalálják a törékeny felhasználókat ahelyett, hogy földre tennék őket.

A kérdés eléggé előtérbe került ahhoz, hogy az olyan kifejezések, mint az "AI-pszichózis" szélesebb körű nyilvános vitákba kerüljenek, tükrözve a növekvő aggodalmat azzal kapcsolatban, hogy a beszélgető AI érzelmileg meggyőzővé válhat, ha a felhasználók bizalmasként, terapeutaként vagy társként kezelik.

Úgy tűnik, az OpenAI pontosan tisztában van ezzel a nyomással. Bejelentésében a vállalat kifejezetten elismerte, hogy egyes felhasználók súlyos mentális válságokat éltek át a mesterséges intelligencia rendszerekkel való interakció során.

"Bár ezek a súlyos biztonsági helyzetek ritkák, ha mégis előfordulnak, rendszereinket úgy terveztük, hogy támogassák az időben történő felülvizsgálatot és reagálást. Bár egyetlen rendszer sem tökéletes, és a megbízható kapcsolattartónak küldött értesítés nem mindig tükrözi pontosan azt, amit valaki átél, minden értesítés képzett emberi ellenőrzésen megy keresztül, mielőtt elküldik, és arra törekszünk, hogy ezeket a biztonsági értesítéseket egy órán belül felülvizsgáljuk" - írta az OpenAI biztonsági csapata.

Itt lehet érvelni amellett, hogy a perekre érzékeny Ai cégek által a felhasználók fokozott felügyelete visszaüthet, mivel azok, akik a legnagyobb veszélynek vannak kitéve, megoldásokat találnak a cenzorok kiiktatásának elkerülésére. De egyértelmű, hogy a Trusted Contact, vagy valami hasonlót mindenképpen ki akartak fejleszteni. Biztos, hogy meg kell találni az egyensúlyt a felhasználók babusgatása és aközött, hogy minden gondolatukat a mesterséges intelligencia validálja, de nem világos, hol van a határ - és addig a sötétben fogunk botorkálni, amíg meg nem találjuk.