„Nyilvánvalóan becstelen”: egy matematikus szerint az OpenAI hazudott neki a magáncsevegéseinek felhasználásáról
Andreas Thom, a drezdai Műszaki Egyetem (TU Dresden) csoportelméleti kutatója, nyilvánosan felvetette a kérdést, hogy vajon az ő magánjellegű ChatGPT-ülései is hozzájárultak-e ahhoz az OpenAI-eredményhez, amely létrehozta az első ismert nem-sofic csoportot – ez volt az egyik a tíz feladat közül, amelyeket az OpenAI szerint az Astra augusztus 1-jén megoldott.
Egy hosszú, háromrészes Mathstodon-bejegyzésében Thom leírta, hogy röviddel a bejelentés után e-mailt küldött az OpenAI kutatóinak, Mark Sellkének és Sebastien Bubecknek. Ő és egy drezdai kollégája hónapokig dolgoztak az expander-illesztési problémán és a Gabor Kunnal közösen végzett munkájuk kiterjesztésein a ChatGPT-n belül, és két dolgot kérdeztek: hogy azok a párbeszédek bekerültek-e a tanulási adatok közé, és hogy a rendszer hozzáférhetett-e hozzájuk a bizonyítás kidolgozása közben. Sellke válasza – ahogyan Thom idézi – egyetlen sor volt: ez nem történt meg. Thom azzal érvel, hogy a válasz csak a „közvetlen hozzáférés” részére vonatkozott. Most ezt indokolatlanul tág értelmezésnek és utólag visszagondolva tisztességtelennek minősíti.
A vita a héten az OpenAI Navier-Stokes-bejelentésével együtt újra felmerült. Az OpenAI ott kijelentette, hogy sem kutatói, sem ügynökei nem látták a páros munkáját a publikálás előtt, és hogy semmilyen konkrét felhasználói adathoz nem fértek hozzá. Hozzátette továbbá, hogy nem zárható ki, hogy a termékeik használatából származó, azonosításra alkalmatlan adatok hozzájárultak a modellek fejlesztéséhez.
Két további pont is alátámasztja az érvelését. Június 29-én kikapcsolta a modelltréninget. A modelltréning olyan beállítás, amelyet a felhasználók nem tudnak ellenőrizni – nem árul el semmit a korábbi csevegésekről. A legtöbb kutató a kvantumjáték-módszereket részesítette előnyben az általa Kunnal alkalmazott megközelítéssel szemben, ezért meglepődött, hogy az Astra ugyanazt az utat választotta, mint ő.
A cikk írásának pillanatában Thom még nem állította, hogy bizonyítéka lenne. Ehelyett arra kérte az OpenAI-t, hogy hozza nyilvánosságra a tagadásának alapját.
Az OpenAI nyilvánosan nem reagált a bejegyzéseire.
Forrás(ok)
@andreasthom a mathstodonon, @ValerioCapraro közvetítésével az X-en
Kiemelt kép: Levart_Photographer az Unsplash-en
Add as a preferred source on Google
