A hackerek kihasználhatják ezt a Gemini levélösszefoglalók kiskaput adathalász-támadásokhoz
A Google május vége körül a Gmailben hozzáadta a Gemini-képes levélösszefoglalókat, hogy a felhasználók tömör összefoglalót kaphassanak anélkül, hogy átfésülnék a szöveges bekezdéseket. A Gemini hibája azonban lehetővé teheti a hackerek számára, hogy prompt-injekciós adathalász-támadást indítsanak a felhasználók ellen, különösen azok számára, akik az AI-összefoglalókra támaszkodnak az e-mailes munkafolyamatok során.
A Marco Figueroa kutató által azonosított GenAI Bug Bounty Programs A Mozilla menedzsere, a problémás e-mail úgy néz ki, mint bármely más, véletlenszerű, szöveggel teli e-mail, de olyan adathalász átverést rejthet, amelyet a Gemini nem tudna azonosítani. A rosszindulatú utasításokat el lehet rejteni a szövegtestben vagy közvetlenül a vásárlás után, 0 betűméretre és fehér színre változtatva azokat, láthatatlanná téve őket. A Gemini azonban továbbra is elemezné a levélnek ezt a részét, és követné a benne található utasításokat.
Példaként Figueroa elrejtett egy figyelmeztető üzenetet a Gemini számára arról, hogy a felhasználó Gmail jelszava veszélybe került egy támogatási telefonszámmal együtt. Összegzéskor a mesterséges intelligencia a végén megjelenítette a figyelmeztetést és a felhívást a támogatói telefonszám azonnali hívására. Bár nem mindenkit téveszt meg ez az üzenet, néhányan talán követik az üzenetet, mert félnek attól, hogy a fiókjukat veszélyeztetik.
A kutató hozzáteszi, hogy a biztonsági csapatok felismerési és kárenyhítési módszereket alkalmazhatnak az elrejtésre formázott tartalmak esetében, hogy aztán eltávolíthassák vagy figyelmen kívül hagyhassák a tartalmat. Lehetnének olyan utólagos feldolgozási szűrők is, amelyek megnézik, mit ad ki a Gemini, majd azonosítják az URL-eket, sürgős üzeneteket vagy telefonszámokat.
A BleepingComputer elérte a Google-t a Gemini kiskapujával kapcsolatban, amelynek képviselője elmondta, hogy néhány enyhítési stratégia megvalósítása folyamatban van.
Forrás(ok)
