WhatsApp-csalásriadó: A mesterséges intelligencia csak az ismeretleneket ellenőrzi, a névjegyzékben szereplőket nem

Augusztus 12-én a Meta közzétett egy technikai áttekintést a Scam Alertről, a WhatsApp új funkciójáról. A funkció célja, hogy figyelmeztesse a felhasználókat a csaló üzenetekre, mielőtt bárki is bedőlne nekik. Az ellenőrzési folyamat teljes egészében a felhasználó telefonján zajlik.

Az engedélyezés után a WhatsApp letölt egy kis méretű mesterséges intelligencia modellt az eszközre. Ez a modell elemzi a beérkező üzeneteket, és összehasonlítja őket a bejelentett csalások mintáival, vagyis az ismert csalásokra jellemző beszélgetési szálakkal és kifejezésekkel. Erre a célra az üzenetek tartalma nem hagyja el a telefont. A végpontok közötti titkosítás, amelynek keretében csak a feladó és a címzett láthatja a sima szöveget, változatlanul fennmarad.

Csak a címzett látja a figyelmeztetést

Ha a modell valószínűsíthető csalási kísérletet észlel, közvetlenül a csevegésben jelenik meg egy értesítés. A feladót nem értesítik erről. Ekkor a felhasználó letilthatja a feladót, bejelentheti őt, vagy egyszerűen folytathatja a beszélgetést. A WhatsApp nem jelent be automatikusan semmit a Meta-nak. Ez csak akkor történik meg, ha a felhasználó aktívan rákattint a „Bejelentés” gombra.

Csak a címjegyzékben nem szereplő feladók üzeneteit ellenőrzi

Ez a korlátozás, és a Meta saját leírásában is szerepel. A modell kizárólag azokat az üzeneteket osztályozza, amelyek olyan feladótól érkeznek, akit a felhasználó nem mentett el a névjegyzékébe. A címjegyzékben már szereplő személyektől érkező üzeneteket nem ellenőrzik.

Ez azt jelenti, hogy – ironikus módon – éppen a leghatékonyabb csalás marad ki a rendszerből. Ha egy barát vagy rokon WhatsApp-fiókját feltörik, a csaló üzenet egy valódi, ismerős fiókból érkezik. A Csalásfigyelmeztetés ilyen esetekben nem jelzi a veszélyt. Egy hamis alkalmazás esete, amely WhatsApp-fiókokat lopott el, bemutatta, hogyan működik egy ilyen fiókátvétel. Még a klónozott hanggal történő sokkoló hívás is megkerüli ezt az ellenőrzést, mert egyáltalán nem a WhatsApp-on keresztül érkezik.

Ha egyszer megbízhatónak jelölöd, soha többé nem fogsz figyelmeztetést látni

Ha úgy gondolod, hogy egy figyelmeztetés téves, megjelölheted a csevegést megbízhatónak. A figyelmeztetés ezután véglegesen eltűnik az adott névjegy esetében. Ez kényelmes, de egyben a gyenge pont is: pontosan ez az a fajta döntés, amit nyomás alatt hozol meg, amikor egy ügyes csaló már felépített egy beszélgetést. Aki így jelöli meg a csevegést, az önként benyújthatja a WhatsAppnak az utolsó öt beérkezett üzenetet is.

Az ellenőrizhetőség jegyében

Ami az átláthatóságot illeti, a Meta a szokásosnál tovább megy. Minden modellverziót a bevezetés előtt nyilvános nyilvántartásba vesznek az ellenőrző összeggel együtt. Az aláírás a Cloudflare-től származik; a Meta nem rendelkezik az ehhez szükséges kulccsal. A modell súlyozásait közzéteszik, hogy a kutatók ellenőrizhessék, valóban csak csalásokat észlel-e a modell. Maguk a felhasználók is megtalálhatnak egy naplófájlt a „Fiók” > „Információk kérése” > „Csalásriadó-tevékenység” menüpont alatt, amelyből kiderül, mely üzeneteket ellenőrizték, és melyik modellverzió futott éppen akkor.

A figyelmeztetések gyakoriságára és a felhasználók reakcióira vonatkozó statisztikákat izolált számítástechnikai környezetekben dolgozzák fel. Mielőtt a Meta hozzáférne az adatokhoz, azokat összesítik és elrejtik, így az egyes felhasználókról nem lehet következtetéseket levonni.

Még nem elérhető

A Scam Alert jelenleg korlátozott bétateszt keretében működik, a Meta hibajelentési programjával párhuzamosan. A vállalat még nem jelentette be a teljes bevezetés dátumát, sem azokat az országokat, ahol elérhető lesz. Németországról eddig nem érkezett nyilatkozat. Addig is a régi szabály érvényes: ha pénzt kérnek tőled, vagy egy állítólag új telefonszámot adnak meg, lépj kapcsolatba az illetővel egy másik csatornán keresztül, lehetőleg a régi számon hívva fel. Ha szeretnéd megtudni, milyen gyorsan lehet feltörni egy fiókot jelszó nélkül is, olvasd el a lopott munkamenet-süti című jelentést.