"A világ veszélyben van": Az Anthropic mesterséges intelligencia biztonsági vezetője lemond, mivel nem tudja összeegyeztetni munkáját az értékrendjével
Mrinank Sharma, aki a OpenAI biztosítékokkal foglalkozó kutatócsoportját vezette anthropic versenytársát vezette, elhagyta a vállalatot. Az X-en közzétett búcsúlevelében - amelyet több mint tízmilliószor néztek meg és több ezer kommentet kapott - megköszönte a vállalatnak a lehetőséget, hogy előmozdíthatta az AI biztonságát. Ugyanakkor azt írta, hogy a növekvő gazdasági nyomás olyan döntésekhez vezetett, amelyeket már nem tud összeegyeztetni az értékeivel.
Búcsúlevelében Sharma nemcsak távozásának okait vázolja fel, hanem egy éles figyelmeztetést is megfogalmaz: "A világ veszélyben van A jelenlegi helyzetet "polikrízisként" írja le, amelyben egyszerre több, egymással összefüggő válság bontakozik ki. Szerinte ez már most is bekövetkezett. Világossá teszi, hogy aggodalmai nem korlátozódnak az olyan technikai fenyegetésekre, mint a mesterséges intelligencia vagy a biofegyverekre, hanem az egymással összefüggő globális válságok szélesebb körére terjed ki - beleértve a növekvő geopolitikai feszültségeket is.
Sharma hangsúlyozza, hogy milyen nehéz a mindennapi munka során fenntartani az értékeinket. Még az erős elvekkel rendelkező szervezetek is állandó nyomással szembesülnek, hogy a prioritásokat át kell helyezniük, vagy pragmatikus kompromisszumokat kell kötniük. Az Anthropic a biztonságra összpontosító, értékközpontú alternatívaként mutatja be magát más vezető AI-vállalatokkal szemben - így kritikája még jelentősebbé válik.
Sharma filozófiát tervez tanulni - a közösség tisztelettel válaszol
Figyelemre méltó, hogy Mrinank Sharma azt tervezi, hogy teljesen elhagyja a technológiai ipart, és helyette filozófiát tanul. Az X közösség összességében tisztelettel és megértéssel reagált. Sok felhasználó dicséri a mesterséges intelligencia biztonsága terén végzett munkáját, és minden jót kíván neki. Egyes kritikusok szerint nagyobb befolyása lehetett volna, ha a vállalatnál marad. Sharma azt állítja, hogy a szervezeten kívül maradva nagyobb szabadságot kap, hogy nyíltan beszéljen. Ez arra utal, hogy továbbra is figyelemmel kísérheti a technológiai ágazat fejleményeit, és a távolból is megoszthatja véleményét.
A globális válságokkal kapcsolatos megjegyzései mellett Sharma búcsúlevele olyan utalásokat is tartalmaz, amelyek felkeltették a figyelmet. A lábjegyzetekben idéz egy David J. Temple álnéven kiadott, úgynevezett "kozmo-etikus humanizmusról" szóló művet. A név állítólag Marc Gafni spirituális tanítóhoz köthető, akit a múltban szexuális visszaélésekkel kapcsolatos vádak miatt bírálatok értek. Bár Sharma nem kommentálja ezt a kapcsolatot, a hivatkozás kérdéseket vetett fel a lemondása mögött álló szellemi hatásokról.
Egyelőre nem világos, hogy Sharma lemondása milyen hatással lesz az Anthropic jövőjére. A Claude chatbot mögött álló vállalat jelenleg nagyszabású reklámkampányt folytat, a hirdetések nélküli alternatívaként népszerűsíti mesterséges intelligencia asszisztensét. Ebben a kontextusban a távozás időzítése kellemetlen lehet.
Forrás(ok)
MrinankSharma via X (korábban Twitter)
A kép forrása: PIRO4D/Pixabay
