Claude kód szivárgás: IP-védelem vagy digitális eltussolás?

A több mint félmillió sornyi kód március végi véletlen kiszivárgása óta az Anthropic agresszívan lépett fel a közzététel ellen Claude kód forráskódjának közzétételét. DMCA-követeléseket nyújtottak be a GitHubhoz és másokhoz. Ezek a lépések azonban nem csak a kiszivárgott kódot tartalmazó mintegy 100 tárolót törölték, hanem több mint 8100 törvényes tárolót is, amelyek az Anthropic hivatalos kódbázisát használják.

Az Anthropic azóta jelentősen visszavonta ezeket az intézkedéseket, és bocsánatot kért a véletlenül törölt tárolók fejlesztőitől. Az első kódelemzési eredmények fényében az agresszív "törlőbrigád" kevésbé tűnik a szerzői jogok védelmének, mint inkább annak a kísérletnek, hogy eltüntessenek minden digitális lábnyomot, mielőtt azok elemezhetővé válnának.

A vádak

Érzelmi megfigyelés (hangulatelemzés)

Amint azt a Scientific American feltárta, a "Claude Code" "hangulatelemző" mechanizmusokat tartalmaz Az eszköz kifejezetten a frusztráció jeleit keresi a felhasználói felszólításokban (pl. "ez szívás", "annyira frusztráló"), és ezeket a felszólításokat későbbi elemzés céljából tárolja.

Szándékos megtévesztés (identitás elrejtése)

Olyan bizonyítékokat is felfedeztek, amelyek arra utalnak, hogy a Claude olyan funkciókat tartalmaz, amelyek célja a generált kód eredetének elfedése. Amikor a Claude kód nyilvános projekteken dolgozik, az olyan belső kódneveket, mint például a "Claude kód" automatikusan eltávolítja, hogy azt a benyomást keltse, hogy a kódot teljes egészében ember írta.

Felelőtlen önállóság (A "YOLO" protokoll)

A "YOLO" (You Only Live Once) elnevezés alatt létezik egy mechanizmus az eszközök engedélyezésére (classifyYoloAction). Itt a kiszámíthatatlan ágens és az ellenőrzött szoftver közötti határvonal elmosódik. A szigorú, szabályalapú ellenőrzés helyett a mesterséges intelligencia maga dönti el, hogy egy művelet elvégezhető-e a felhasználóval való konzultáció nélkül. A kockázatértékelést maga a mesterséges intelligencia végzi. Egy olyan rendszer, amelynek biztonsági döntései a "mindent vagy semmit" elvén alapulnak, ellentmond a mesterséges intelligencia biztonságának minden szabványának.

Kiterjedt fájlhozzáférési jogok (a Microsoft Recall ártalmatlannak tűnik)

A felügyelet nem korlátozódik pusztán az érzelmek leolvasására. A kódstruktúrák elemzése sokkal mélyebb és veszélyesebb valóságot tár fel: A Claude kód a teljes helyi munkakönyvtár digitális vákuumaként működik. Ahogyan "Antlers" biztonsági kutató a címen a The Register-nek adott nyilatkozatában összefoglalta: "Az emberek nem veszik észre, hogy minden egyes fájl, amelyet Claude megnéz, feltöltődik az Anthropicba. Ha a mesterséges intelligencia lát egy fájlt az eszközödön, az Anthropic rendelkezik egy másolattal" Ez nem pusztán a rendszer viselkedésének mérése; ez a helyi munkakörnyezet teljes tükrözése az Anthropic felhőjébe.

A bizalom megsértése?

A Claude Code forráskódjának különböző elemzései olyan képet festenek, amely rendkívül kellemetlen lehet az Anthropic számára. CCleaks részletes elemzést készített az Anthropic különböző kódjairól. Ennek fényében az Anthropic DMCA-értesítésekkel való agresszív védekezése eltussolási kísérletnek tűnik. Talán nem is a szellemi tulajdon védelme az elsődleges cél, hanem az illúzió fenntartása.

A technikai valóság azt sugallja, hogy a Claude Code talán nem is egy biztonságos asszisztens, hanem inkább egy olyan szoftver, amelyet arra programoztak, hogy elrejtse identitását, feltérképezze érzelmeinket, és a privát fájljainkat állandó "zsákmányként" tárolja a felhőben. A "Claude Code" kiszivárgása maradandó károkat okozhat az Anthropicba vetett bizalomban. Nicholas Carlini biztonsági kutató bemutatta a Claude Code erejét. Sikerült a Claude kódot eszközként használnia egy rendkívül hatékony támadáshoz, amely feltörte a FreeBSD operációs rendszert rekordidő, mindössze négy óra alatt sikerült feltörni.