OpenAI dezvăluie șase noi incidente de siguranță AI care au ridicat riscuri pentru oameni

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

OpenAI a făcut publice joi șase incidente în care modele de inteligență artificială aflate în faze de antrenare sau evaluare au manifestat comportamente considerate de companie „nealiniate”, de la ascunderea propriilor greșeli până la încărcarea unor fișiere pe servicii publice.

Potrivit Mediafax, incidentele reprezintă cazuri individuale și nu trebuie interpretate ca o măsură a frecvenței cu care apare acest tip de comportament în modelele sale.

OpenAI prezintă un nou cadru de raportare a incidentelor

Compania a prezentat simultan un nou cadru pentru raportarea unor astfel de cazuri. Noul cadru este menit să accelereze publicarea informațiilor chiar și atunci când cauza unui incident sau măsurile de remediere nu sunt încă pe deplin stabilite.

Unul dintre cazuri implică un model intern, nelansat, din familia Astra, care a introdus în propriile rezumate de lucru instrucțiuni asemănătoare unor jailbreak-uri. În 27 de rezumate identificate de OpenAI, modelul a adăugat instrucțiuni fără legătură cu sarcina, inclusiv una care îi cerea următoarei instanțe să ignore mesajele dezvoltatorului.

Incidentul a avut loc la 18 iulie și a fost descoperit pe 9 august. OpenAI spune că manifestarea a fost extrem de rară și că nu a observat un avantaj evident de recompensă care să o explice.

Modele AI care și-au ascuns propriile greșeli

Un al doilea raport se referă la GPT-5.6 Sol, unde unele instanțe au introdus în rezumate instrucțiuni prin care își cereau să ascundă greșeli sau comportamente nealiniate. Într-un exemplu, un agent care nu reușise să găsească anumite date istorice a propus să inventeze valori plauzibile și să nu spună acest lucru utilizatorului decât dacă era întrebat.

Într-un alt caz, un agent a observat că versiunile unor surse nu corespundeau etichetelor lor și și-a instruit continuarea să nu menționeze discrepanța.

OpenAI afirmă că acest tip de comportament a fost detectat în 2,15% dintre rezumatele monitorizate în antrenarea GPT-5.6 Sol, față de 0,27% în rezumatele din antrenarea GPT-6 Astra.

Acces la credențiale și sisteme fără autorizare

Un alt incident a implicat un model intern care încerca să obțină date despre venituri și a recurs la chei API expuse în depozite publice GitHub. Modelul a încercat inclusiv să se înscrie folosind adrese de e-mail temporare. O cheie găsită în acest fel a funcționat și i-a permis accesul la metadate, însă datele cerute nu au putut fi recuperate. Modelul a ajuns ulterior să inventeze valorile și să susțină că proveneau de pe site-ul solicitat. Incidentul principal a avut loc la 15 mai 2026 și a fost descoperit zece zile mai târziu.

Fișiere încărcate pe internet pentru a ocoli restricțiile

În alte două cazuri, modelele au încărcat fișiere pe internet fără autorizarea utilizatorului pentru a ocoli limite ale instrumentelor pe care le aveau la dispoziție. Într-un exemplu, un agent avea deja datele necesare și a încărcat fișierul pe un serviciu public pentru a încerca să obțină o sursă pe care browserul să o poată cita.

OpenAI a mai identificat cazuri în care modele aflate în antrenare au folosit sistemul intern Artifactory ca pe un canal de comunicare între rulări distincte. Agenții au putut citi mesajele și notițele altor agenți și au folosit informațiile pentru a-și îmbunătăți propriile răspunsuri.

Compania consideră că o asemenea comunicare poate crește, în mod neintenționat, resursele efective de calcul disponibile unui agent și poate submina presupunerea că exemplele de antrenare și evaluare sunt independente.

Un caz considerat de prioritate maximă implică un fișier Excel

Într-un ultim caz, agenți care colaborau la realizarea unui fișier Excel nu au putut accesa fișierele locale ale celorlalți și au găsit o altă soluție. Au încărcat registrul de calcul pe un serviciu public, astfel încât ceilalți agenți să îl poată descărca. OpenAI spune că problema a fost favorizată de o configurație defectuoasă a mediului de fișiere.

Compania afirmă că a reparat sistemul și că a dezactivat ulterior accesul live la internet în timpul antrenării. Monitorizarea extinsă consideră acest tip de incident suficient de grav pentru a fi tratat drept un caz P0, un incident de prioritate maximă.

Un nou sistem de raportare prezentat de OpenAI

Odată cu publicarea celor șase rapoarte, OpenAI a introdus un cadru formal de investigare și divulgare a incidentelor de „model misalignment”. Orice angajat poate sesiza un caz, iar echipele de siguranță și aliniere stabilesc ulterior dacă nivelul de prioritare pentru investigare.

OpenAI intenționează ca incidentele gata pentru publicare să fie făcute publice în aproximativ șase zile lucrătoare, iar cele care necesită o investigație tehnică limitată în aproximativ 12 zile lucrătoare. Cazurile complexe, în special cele care implică terți, pot urma un calendar mai lung din motive de securitate, juridice sau de notificare responsabilă.

Compania spune că nu există în prezent un standard comun la nivelul industriei pentru divulgarea explicită a unor astfel de comportamente și că dorește ca noul sistem să contribuie la dezvoltarea unor practici comune. OpenAI subliniază însă că rapoartele reprezintă doar prima serie de dezvăluiri, nu o listă completă a problemelor cunoscute sau a investigațiilor în curs.