OpenAI, avertizată de angajați asupra unor riscuri de securitate încă înainte de lansarea ChatGPT

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Angajați ai OpenAI au semnalat conducerii, încă dinaintea lansării ChatGPT, vulnerabilități care ar fi putut permite accesul neautorizat la informații sensibile. Potrivit unei investigații Reuters, avertismentele au continuat pe parcursul mai multor ani, însă sursele citate susțin că acestea au fost ignorate.

Cinci persoane familiarizate cu situația au declarat agenției că îngrijorările au ajuns inclusiv la conducerea executivă și la consiliul de administrație. Problemele semnalate vizau accesul extins la documentația internă, verificările insuficiente ale unor instrumente software și posibilitatea ca informații confidențiale să fie obținute de angajați sau de persoane din exterior.

OpenAI afirmă, în schimb, că își protejează cele mai sensibile proiecte prin sisteme separate și că investește substanțial în securizarea tehnologiei, a datelor și a personalului.

Accesul la cod și documentație, printre principalele îngrijorări

Conform surselor Reuters, o mare parte din codul companiei era păstrată într-un sistem comun, denumit „monorepo”. Angajații cu acces la acest depozit puteau consulta informații tehnice despre numeroase proiecte, inclusiv despre unele la care nu participau.

Documentația de cercetare era disponibilă parțial și prin platforme precum GitHub și Slack. Sursele susțin că dezvoltarea agenților de inteligență artificială a amplificat îngrijorările, deoarece aceste instrumente pot analiza rapid volume mari de informații și identifica date relevante.

Compania precizează că depozitul comun nu include toate informațiile critice și nici parametrii numerici care determină funcționarea modelelor sale. De asemenea, OpenAI susține că proiectele cu cel mai ridicat nivel de sensibilitate beneficiază de acces restricționat.

O altă problemă relatată de sursele agenției privește instrumentele interne de testare. Acestea ar fi fost modificate frecvent de cercetători, fără ca fiecare schimbare să fie supusă unei verificări riguroase din perspectiva securității.

Reuters amintește și avertismentul transmis în 2023 de cercetătorul Leopold Aschenbrenner, care își exprimase temerea că autoritățile chineze ar putea obține acces la tehnologia OpenAI.

Arestarea unui inginer și reorganizarea activităților de securitate

Riscurile au revenit în atenție în octombrie, după arestarea unui inginer OpenAI acuzat că ar fi instalat un dispozitiv de înregistrare audio într-o sală de conferințe folosită de conducere. Potrivit documentelor judiciare, Abdulrahman Alfozan, cetățean saudit în vârstă de 35 de ani, ar fi utilizat și un instrument AI intern pentru a căuta informații despre deplasările unor directori ai companiei în Arabia Saudită.

Anchetatorii au identificat inclusiv contacte cu un membru al familiei regale saudite, care încercase să îl recruteze pentru un proiect de inteligență artificială. Aceste informații fac parte din ancheta relatată, iar acuzațiile împotriva inginerului nu reprezintă o constatare definitivă a vinovăției.

În paralel, OpenAI a început să își reorganizeze activitățile pentru reducerea riscurilor. Potrivit unei surse, în august, aproximativ un sfert dintre inginerii responsabili de sistemele de producție au fost redirecționați către îmbunătățirea infrastructurii de securitate. Inițiativa este coordonată de Thibault Sottiaux, unul dintre directorii implicați în dezvoltarea produselor.

Elana Widmann, purtătoare de cuvânt a OpenAI, a declarat că organizația se numără printre țintele cele mai vizate de atacuri informatice. Compania susține că verifică periodic securitatea instrumentelor interne și că va continua consolidarea sistemelor de apărare.

La începutul acestei săptămâni, după solicitarea Reuters referitoare la investigație, OpenAI a anunțat pregătirea unei noi etape interne de îmbunătățire a securității.

Sursa: Mediafax