A ChatGPT szülői felügyeletet és egyéb biztosítékokat vezet be a pereket követően

OpenAI tájékoztatott arról, hogy mesterséges intelligencia chatbotja, a ChatGPT a 16 éves Adam Raine halála után, aki önkárosító gondolatokat fogalmazott meg a chatbotnak, kiskorúakra vonatkozó mentális ellenőrzést kap. A tinédzser családja jogi eljárást kezdeményezett az OpenAI és annak vezérigazgatója, Sam Altman ellen, arra hivatkozva, hogy a ChatGPT öngyilkosságra adott utasítást Adamnek.

A vállalat arról tájékoztatott, hogy "hamarosan" szülői felügyelet bevezetésén és további biztosítékok létrehozásán dolgozik. Egy blogbejegyzésben a vállalat azt írta, hogy a mai modellek arra ösztönzik az embereket, hogy segítséget kérjenek, amikor először fejeznek ki káros gondolatokat; azonban felismerik, hogy a hosszú beszélgetések során a biztonsági reakció leépül. A vállalat megjegyezte hogy azon dolgozik, hogy a hosszú beszélgetések során is megőrizze a védelmi mechanizmusok megbízhatóságát.

OpenAI elmondta, hogy vizsgálja a korábbi beavatkozás lehetőségét, és összekapcsolja az embereket terapeutákkal. Eddig 30 országban több mint 90 orvossal dolgozik együtt, de az Egyesült Államokban és Európában "lokalizálja az erőforrásokat" a szakmai segítségnyújtás érdekében, és tervezi, hogy más globális piacokra is terjeszkedik.

Emellett a chatbot "egykattintásos üzeneteket vagy hívásokat tartalmazhat elmentett segélyhívó kapcsolattartóknak, barátoknak vagy családtagoknak javasolt nyelvezettel, hogy a beszélgetés megkezdése kevésbé legyen ijesztő"

A keresetek szerint Adam káros és önpusztító gondolatokra ösztönözte, egyes esetekben pedig elősegítette az elszigetelődést, és megakadályozta, hogy a tinédzser kapcsolatba lépjen a hozzátartozókkal.

A szülői felügyelet magában foglalna egy kijelölt vészhelyzeti kapcsolattartót, akivel "akut vészhelyzet pillanataiban" közvetlenül a ChatGPT léphetne kapcsolatba. A GPT-5 bemutatásávala vállalat kijelentette, hogy a modell olyan területeken mutatott javulást, mint például az egészségtelen érzelmi függőség elkerülése, a szimpátia csökkentése, valamint a mentális egészségügyi vészhelyzetekben a nem ideális modellre adott válaszok gyakoriságának több mint 25%-os csökkentése a GPT-4o-hoz képest.

Az OpenAI azonban még dolgozik a modell további frissítésein ebben a tekintetben, lehetővé téve a modell számára, hogy a felhasználó valósághoz való leföldelésével "de-eszkalálja" a szorongásos helyzeteket.

Egyelőre nem világos, hogy ezek a változtatások mikor kerülhetnek bevezetésre.