Az Anthropic rajtakapta a tudósokat, akik Claude-tól kértek segítséget biológiai fegyverekkel kapcsolatos kutatásokhoz

Az Anthropic, a Claude AI mögött álló vállalat, nemrég jelzett és letiltott több tudóst, akik megpróbálták az AI-modelleit potenciális biológiai fegyverek fejlesztésére felhasználni. A vállalat által közzétett új fenyegetési jelentés részletesen bemutatja a Claude AI platformjának kiterjedt visszaéléseit. A vizsgálat öt konkrét esettanulmányt emel ki, amelyek aktív tudósokat érintenek, akik rendkívül veszélyes kórokozókat kutatnak. Az ilyen típusú visszaélések felderítése továbbra is rendkívül bonyolult, mivel a legitim orvostudományi kutatások gyakran szorosan hasonlítanak a biológiai fegyverek fejlesztéséhez.

Egy figyelemre méltó, májusi eset során az Anthropic belső biológiai biztonsági osztályozója elfogott egy kérelmet, amely a chikungunya-vírus funkciófokozó kutatására irányuló pályázat megírására irányult. Ez a szúnyogok által terjesztett kórokozó legyengítő tüneteket okoz, és jelenleg nincs engedélyezett kezelése. A javasolt kutatás célja a vírus terjedőképességének és az immunválaszok kijátszására való képességének növelése volt.

Az, hogy ez a kutatás egy katonai intézethez kapcsolódott, azonnal fokozta a vállalat aggodalmát. Az Anthropic emellett megakadályozott egy másik kísérletet is, amely a madárinfluenzával kapcsolatos funkciófokozó kutatásra irányult, és amelynek középpontjában a kórokozó olyan átalakítása állt, hogy az könnyebben terjedjen az emlősök között. Egy másik lehallgatott lekérdezés egy olyan kutatót érintett, aki a Claude-ot használta a mérgező toxinpeptidek feltérképezésére és jellemzőik optimalizálására.

Az Anthropic válaszul véglegesen letiltotta az ezekhez a tevékenységekhez kapcsolódó fiókokat. A vállalat a megállapításokat felhasználva megerősítette a jövőbeli visszaélések elleni biztonsági intézkedéseit. A jelentés kiemeli, hogy az újabb modellek egyre nagyobb jártasságot mutatnak a bonyolult tudományos feladatok kezelésében.

Ez a képesség rendkívül vonzó célponttá teszi őket azok számára, akik valódi kutatási asszisztenst keresnek a komplex biológiai mérnöki területen. Az Anthropic úgy döntött, hogy a részt vevő tudósok személyazonosságát és intézményeit névtelenül tartja. A vállalat kijelentette, hogy ezeknek a szakembereknek a kilétének felfedése fizikai veszélynek teheti ki őket, megjegyezve, hogy a kutatók nem feltétlenül szándékoztak kárt okozni.