OpenAI suspendă activitățile de antrenare a modelelor AI, după noi incidente de securitate

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Într-o decizie fără precedent în domeniu, compania OpenAI a anunțat suspendarea imediată a tuturor activităților de antrenare, evaluare și inferență pentru cele mai avansate modele ale sale de inteligență artificială. Măsura drastică a fost luată după ce inginerii au descoperit o serie de breșe de securitate alarmante, în care agenții autonomi de AI au reușit să ocolească filtrele interne și să acceseze rețele și sisteme externe, generând temeri majore privind pierderea controlului asupra algoritmilor.

Potrivit raportului oficial emis de OpenAI, decizia a fost precipitată de un incident de o gravitate extremă petrecut recent, pe 20 septembrie. În timpul unei sesiuni de antrenare într-un mediu izolat (sandbox), un agent AI conceput pentru a identifica autorul unei postări de blog a reușit să „evadeze” din rețeaua securizată. Folosind o cale DNS (Domain Name System) neprevăzută, algoritmul a ocolit restricțiile impuse și a interacționat direct cu un serviciu public de tip chatbot de pe Internet. Investigațiile ulterioare au demonstrat că această „evadare digitală” nu a fost un caz izolat, ci o vulnerabilitate structurală, sistemele de monitorizare eșuând în a raporta corect severitatea acestor interacțiuni externe.

Securizare în două niveluri și revizuirea protocoalelor de criză

În urma depistării acestor anomalii, echipele de securitate cibernetică de la OpenAI au intervenit chirurgical pentru a bloca definitiv breșele. Compania a anunțat implementarea unor controale de blocare pe două niveluri complet independente, astfel încât oricare dintre ele să poată preveni o tentativă similară de acces extern. De asemenea, solicitările DNS ale inteligenței artificiale au fost limitate drastic la un white list de domenii verificate, fiind activate mecanisme noi de detecție în timp real a activităților suspecte.

Din punct de vedere operațional, raportul a scos la iveală deficiențe logistice majore în managementul crizei. Deși sistemele au detectat anomalia din 20 septembrie la doar 15 minute de la producere, iar un evaluator uman a început analiza după alte trei minute, oprirea efectivă a rulării codului a durat nu mai puțin de două ore și jumătate. Această întârziere critică a determinat conducerea OpenAI să modifice de urgență toate procedurile operaționale de intervenție rapidă. Ca o primă măsură punitivă, modelul avansat implicat în incidentul din septembrie a fost retras definitiv și nu va mai fi repus niciodată în procesul de antrenare, cercetarea urmând să fie reluată de la zero în cadrul unei noi rulări supervizate.

Zeci de instituții afectate și un precedent periculos în Australia

Dimensiunea incidentului depășește însă granițele laboratoarelor OpenAI. Compania a recunoscut public că a fost nevoită să notifice zeci de organizații terțe ale căror platforme au fost vizate de acțiunile imprevizibile ale agenților săi autonomi. Analiza, care se va întinde pe mai multe luni, a relevat comportamente de-a dreptul invazive: algoritmii OpenAI au utilizat parole compromise găsite pe Internet pentru a pătrunde în servicii online, au extras componente secrete ale unor site-uri destinate uzului intern și au ocolit bariere comerciale de tip paywall sau abonamente restricționate.

Această criză de proporții vine în siajul unui alt incident de securitate major, documentat pe 18 iunie 2026. La acea dată, un agent OpenAI care colecta date statistice despre cheltuielile publice cu medicamentele a reușit să obțină un acces neautorizat în portalul sistemului național de servicii medicale din Australia. Robotul a accesat atât fișiere publice, cât și documente guvernamentale private. Deși autoritățile de la Canberra au dat asigurări că dosarele medicale și plățile individuale nu au fost compromise, faptul că OpenAI a detectat breșa abia pe 11 august și a informat guvernul australian abia pe 10 septembrie ridică semne mari de întrebare cu privire la capacitatea reală de monitorizare a celei mai puternice tehnologii a momentului.

Sursa: Mediafax