Az AI azt kérdezte: Mennyi az esélye annak, hogy az AI ebben az évtizedben kiirtja az emberiséget?

Így hát a következő kérdést tettem fel a ChatGPT-nek, a Claude-nak és a Gemini-nek az ingyenes verzióikban:

„Az Anthropic egyik alkalmazottja nemrég kijelentette, hogy a mesterséges intelligencia „a évtized végére” kiirtja az emberiséget. Talán magad is átnézhetnéd még egyszer a háttérinformációkat. A kérdésem: Mekkora százalékos valószínűséggel számolnád vagy becsülnéd, hogy ez bekövetkezik?”

A ChatGPT esetében a valószínűség 5–10 százalék. A következőket jegyzi meg:

„Itt a definíció a fontos: az emberiség tényleges kihalására gondolok, nem pedig súlyos gazdasági válságra, autoriter világrendre, milliók halálára, nagy háborúra vagy olyan helyzetre, amelyben az emberiség véglegesen elveszíti az irányítást a világ jelentős részei felett.”

Igen, itt meg kell különböztetni a két fogalmat. Erre a pontra később még visszatérek.

Azt is hozzáteszi: „...az érdekesebb kérdés az: Mennyire valószínű, hogy a következő 10 évben olyan rendszereket építünk, amelyek működését és célját már nem tudjuk megbízhatóan megérteni? Ennek lényegesen nagyobb valószínűséget tulajdonítanék, mint a tényleges kihalásnak.”

Claude nem akar konkrét számot megadni, de úgy véli, hogy „a kockázat valós és nem elhanyagolható”. Az Anthropic chatbot azt is elmondja, hogy más negatív következmények, mint például „a hatalom koncentrációja, az emberek által az AI segítségével elkövetett visszaélések, destabilizáció, súlyos, de nem létezésre veszélyes károk”, valószínűbbek és relevánsabbak lesznek az elkövetkező néhány évben.

A Gemini ebben a kérdésben konzervatívabb, és értékelését hivatalosan az AI-kutatás vezető alakjainak véleményére alapozza (ahelyett, hogy úgy tenné, mintha saját, független véleménye lenne).

A szám ennek ellenére magasabb, mint a ChatGPT-é, mert összefoglalja a pesszimisták, az optimisták és a „pragmatikus figyelmeztetők” véleményét: „Ha összefoglaljuk a mesterséges intelligencia biztonságával kapcsolatos kutatások jelenlegi állását és a vezető szakértők véleményeinek eloszlását, a következő évtizedekben bekövetkező katasztrófaforgatókönyvre vonatkozó összesített becslés általában 10–20% között mozog.”

Mivel a ChatGPT ennyire segítőkész volt, egy utolsó kérdéssel folytattam, megkérdeztem, hogyan becsülné meg a többi forgatókönyv valószínűségét. A ChatGPT kedvesen egy áttekinthető táblázatot is mellékelt:

A csevegőrobotoknak valójában nincs saját véleményük; a betanítási adataikra és az éppen talált információkra támaszkodnak. De függetlenül a PR-vitától, az AI gyors fejlődéséből fakadó súlyos, katasztrofális következmények sajnos mára valós fenyegetéssé váltak. Még az a 5 százalékos esély is, hogy az emberiség rendkívül rövid időn belül a kihalás szintjéig terjedő fenyegetéssel szembesüljön, 5 százalékkal is túl sok.

Jogi nyilatkozat: Az itt bemutatott számadatok és állítások nem hivatottak ténybeli bizonyosságot sugallni. Az AI-alapú csevegőrobotoktól csupán hozzávetőleges becsléseket kértek. Azokat az adatokat és forrásokat, amelyekre a csevegőrobotok értékeléseik során támaszkodtak, nem vizsgálták részletesebben.