Apple és a Microsoft csatlakozik az Anthropichoz az új, 100 millió dolláros AI biztonsági projektben

Anthropic's Project Glasswing projekt egy új kiberbiztonsági kezdeményezés, amelynek célja a globális szoftverinfrastruktúra sebezhetőségének azonosítása és javítása. A programban olyan nagy szereplők vesznek részt, mint az Amazon Web Services, Apple, Broadcom, Cisco, Google, Microsoft, Nvidia, és a Linux Alapítvány. Ezek a partnerek egy új, határon átnyúló modellt fognak használni az első féltől származó és nyílt forráskódú rendszerek átvizsgálására és keményítésére.

A projekt alapja a Claude Mythos Preview, egy speciális modell, amely az Anthropic állítása szerint olyan szintű kódolási képességet ért el, amely a legtöbb embert felülmúlja a szoftveres exploitok felkutatásában. Az előzetes tesztek során az Anthropic szerint a modell autonóm módon több ezer nagyfokú sebezhetőséget fedezett fel a főbb operációs rendszerekben és webböngészőkben. Ezek között volt egy 27 éves hiba az OpenBSD-ben és egy 16 éves sebezhetőség az FFmpeg-ben, amely több millió korábbi automatizált tesztet élt túl.

Az Anthropic 100 millió dolláros modellhasználati kreditet biztosít a projekt résztvevői számára. A vállalat emellett 4 millió dollárt adományoz nyílt forráskódú szervezeteknek, konkrétan 2,5 millió dollárt az Alpha-Omega és az OpenSSF, valamint 1,5 millió dollárt az Apache Software Foundationnek. A vállalat azonban nem tervezi, hogy a Claude Mythos Preview-t általánosan elérhetővé teszi a nyilvánosság számára. Ehelyett a modell a Claude API-n, az Amazon Bedrockon, a Google Cloud Vertex AI-ján és a Microsoft Foundryn keresztül lesz elérhető az ellenőrzött szervezetek számára. E résztvevők számára a használat ára 25 dollár/millió input token és 125 dollár/millió output token lesz.

A Glasswing projekt várhatóan több hónapig fog futni - az Anthropic egy 90 napon belüli nyilvános jelentést is ígért. A jelentés részletezi majd a felfedezett sebezhetőségeket, valamint felsorolja a biztonsági gyakorlatok javítására vonatkozó gyakorlati ajánlásokat, például az automatikus javítás és a beszállítói lánc biztonságának javítása érdekében. Az Anthropic kijelentette, hogy folyamatos megbeszéléseket folytat az amerikai kormányzati tisztviselőkkel a modell támadó és védekező képességeiről.