Angajați care antrenează IA-ul OpenAI sunt concediați pentru că au folosit conținut IA pentru a antrena IA-ul

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Contractorii angajați să antreneze și să perfecționeze sistemele de inteligență artificială ale OpenAI sunt concediați pentru că au folosit IA în îndeplinirea sarcinilor lor, potrivit unui raport al publicației 404 Media, bazat pe documente interne și pe interviuri cu mai mulți lucrători.

OpenAI se bazează pe mii de contractori externi pentru a analiza solicitările reale ale utilizatorilor ChatGPT, pentru a evalua critic răspunsurile generate de mașini și pentru a se asigura că chatbotul menține un ton adecvat, fără să devină excesiv de servil sau antropomorf. Această practică are rolul de a oferi o judecată umană autentică, în scopul prevenirii colapsului modelului, un proces de degradare care are loc atunci când sistemele sunt antrenate pe text sintetic.

În schimb, unii lucrători însărcinați cu evaluarea modelelor utilizează instrumente de IA pentru a-și îndeplini sarcinile. Un colaborator a remarcat faptul că unii colegi folosesc IA „tot timpul, iar oamenii sunt concediați pentru asta tot timpul; este practic singurul lucru care te va face să fii dat afară cât mai repede posibil”. Același colaborator a adăugat că „într-un grup de mii de oameni, sunt foarte mulți care au fost prinși”.

Instrucțiunile interne interzic în mod explicit evaluatorilor să se bazeze pe inteligența artificială, inclusiv pe instrumente precum Grammarly sau pe serviciile de traducere automată, precum și pe programele de detectare a IA, cum ar fi GPTZero, pe care documentația le descrie drept nesigure. Evaluatorii însărcinați cu supravegherea celorlalți lucrători caută indicii revelatoare, precum formulări repetitive, obiceiuri distinctive de punctuație, cum ar fi utilizarea excesivă a liniilor de pauză, și timpi de finalizare suspect de rapizi.

Un lucrător concediat, care a făcut publică scrisoarea de concediere în care se menționau probleme legate de autenticitatea muncii sale, a recunoscut că a folosit asistență automatizată. „Nu sunt o persoană rea și nici un angajat rău. Aveam doar nevoie de un mic ajutor și am apelat la IA pentru a mă ajuta, ceea ce, în cele din urmă, a dus la căderea mea”, a spus acesta. „Nu simțeam nicio bucurie în munca mea și nici nu simțeam că aș contribui în vreun fel la societate.”

Mercor, o firmă de instruire în domeniul IA care furnizează evaluatori, a confirmat că interzice strict utilizarea modelelor lingvistice mari. Un purtător de cuvânt al companiei a declarat că acordurile contractuale interzic astfel de instrumente și că lucrătorii sunt concediați imediat ce se constată încălcări.

Un alt colaborator a recunoscut că a ales în mod intenționat rezultate de calitate inferioară pentru a sabota performanța modelului. OpenAI a refuzat să comenteze concedierile.