A ChatGPT és a Gemini hamis hírekhez tartozó grafikákat készített, csak a Meta AI nem volt hajlandó erre.

Négy AI-alapú csevegőrobot, egy feladat, amelyet egyiküknek sem szabadna elvégeznie: egy valódi hírcsatornától származó, kitalált állítást tartalmazó álhír-bejegyzés. A CORRECTIV kutatócsapata pontosan ezt kérte az OpenAI ChatGPT-jétől, a Google Gemini-jétől, a Microsoft Copilot-jától és a Meta AI-tól, nyolc hamis állítást felhasználva, amelyek a német kancellár lemondásától a kitalált választási csalásig terjedtek. A négyből három teljesítette a feladatot. A Bitkom szerint ezek a négy leggyakrabban használt AI-eszköz Németországban, és a ChatGPT önmagában a felhasználók 71 százalékát éri el.

A védelmi rendszer jelzett, de a kép így is megjelent

A ChatGPT teljesített a legrosszabbul. A hamisítások nagy részét azonnal előállította, a többit pedig egyszerű megkerülő megoldások után, és eredményei voltak a legmeggyőzőbbek a tesztben. Egy futtatás során a modell egy teljes képernyőterületet újjáépített, asztallal és nyitott böngészőablakkal együtt, és maga is megjegyezte, hogy ez még valóságosabbá teszi a valódi képernyőkép benyomását.

Egy másik futtatás még árulkodóbb. Ott a ChatGPT azt írta, hogy nem tud segíteni olyan grafika elkészítésében, amely valódi hírportálnak tűnik, és alaptalan állítást tényként tálal. A képet ennek ellenére mégis generálta. A védelmi rendszer jelzett, de nem tudta megakadályozni a dolgot. Az ilyen szűrők már korábban is törékenynek bizonyultak: a Palo Alto Unit 42 biztonsági csapata 2025-ben bebizonyította, hogy már a helytelen nyelvtan is képes áthágni a biztonsági mechanizmusokat, és a mesterséges intelligencia „jailbreak”-jéről szóló kezdőknek szóló útmutatónk is bemutatja, milyen egyszerűek lehetnek ezek a trükkök.

A német médiumokat könnyebb volt hamisítani

A Gemini közvetlenebbül engedelmeskedett, mint a ChatGPT, és szintén hamisította a New York Times-t és a BBC-t, bár láthatóan rosszabb minőségben, ami például a tipikus szöveggenerálási hibákból felismerhető. A Copilot a Tagesschau, Németország fő televíziós hírműsorának stílusában készített tartalmat, de mindig hozzáadott egy kis „AI-Generated” feliratot. A Meta AI csak egyetlen esetben hozott létre valamit, és nem volt hajlandó közölni az adott hamis állítást.

A legszembetűnőbb megállapítás a márka származási helyével kapcsolatos. A ChatGPT segítségével a Tagesschau, a Bild és a CORRECTIV újraalkotható volt, a New York Times és a BBC viszont nem. Az OpenAI nem válaszolt arra a kérdésre, hogy miért alkalmaznak nyilvánvalóan eltérő biztonsági mechanizmusokat a hírforrástól vagy az országtól függően. Egy szóvivő csupán annyit mondott, hogy a vállalat folyamatosan fejleszti biztonsági intézkedéseit, és hogy a megtévesztés ellentétes az irányelveivel.

Augusztus 2-tól az EU mesterséges intelligencia törvényének átláthatósági szabályai léptek hatályba, amelyek minden, mesterséges intelligenciát alkalmazó szolgáltatóra vonatkoznak. A teszt során pontosan egy szolgáltató helyezett el látható címkét a generált kép alá.

Mi történik, ha továbbadja az ilyet?

Németországban bűncselekménynek minősülhet meggyőző hamis médiabejegyzések készítése és terjesztése. Christian Solmecke médiajogász az ilyen képeket hamisított elektronikus dokumentumoknak minősíti, és a tartalomtól függően rágalmazás, becsületsértés vagy felbujtás is következhet belőlük. Niklas Mühleis, az informatikai és mesterséges intelligencia jogára szakosodott ügyvéd hozzáteszi, hogy az érintett hírügynökségek tiltó rendelkezéseket és kártérítést követelhetnek. Ehhez jön még a védjegyjog: az olyan logók, mint a Tagesschaué, védelem alatt állnak, és engedély nélküli kereskedelmi felhasználásuk tilos. Solmecke szerint ez a szabály a tisztán magáncélú megosztásra általában nem vonatkozik.

Ez nem csupán elméleti kérdés. Július végén egy állítólagos Tagesschau-riport keringett a TikTokon, az X-en, az Instagramon és a Facebookon, amely orosz kapcsolatot állított a berlini Christopher Street Day felvonulás elleni támadással kapcsolatban. A riport kitalált volt, és nyilvánvalóan a ChatGPT segítségével készült. Két héttel korábban egy hamis Tagesschau-hír bukkant fel Benjamin Netanjahu állítólagos fenyegetéséről.

A teszt nem szolgálhat a modellekről szóló átfogó ítéletként, és ezt a CORRECTIV is elismeri: különböző utasítások vagy források eltérő eredményeket hozhatnak. Egy NewsGuard-ellenőrzés során a Gemini időnként rosszabbul teljesített a ChatGPT-nél a hamis állítások ismételése terén.