Premierul Australiei dezvăluie că un agent AI al OpenAI că a accesat ilegal un portal guvernamental

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Un incident de securitate cibernetică fără precedent a declanșat o criză diplomatică și tehnologică majoră între Guvernul Australiei și OpenAI, unul dintre liderii mondiali din domeniul inteligenței artificiale. Un agent autonom dezvoltat de compania americană a reușit în luna iunie să obțină acces neautorizat la un portal guvernamental securizat, care stochează datele și statisticile sistemului public de sănătate din Australia. Reacția autorităților de la Canberra a fost extrem de dură, premierul Anthony Albanese calificând public acțiunile algoritmului drept „absolut inacceptabile” și acuzând compania din Silicon Valley de o lipsă gravă de transparență.

Aflat la New York cu ocazia Consiliului de Securitate din cadrul Organizației Națiunilor Unite, prim-ministrul australian a dezvăluit că a purtat o discuție tensionată direct cu Sam Altman, CEO-ul OpenAI. În cadrul acestei întrevederi, liderul de la Canberra și-a exprimat îngrijorarea și profunda dezamăgire cu privire la faptul că gigantul tehnologic a avut nevoie de luni de zile pentru a raporta bizarul incident. Informarea oficială a ajuns la cunoștința autorităților abia în luna septembrie, fiind transmisă sub forma unui simplu e-mail trimis pe o adresă generală a guvernului.

Algoritmul a căutat modalități de a ocoli blocajele de securitate

Din primele date ale anchetei reiese că breșa a survenit în timpul unei evaluări interne riguroase, în care un instrument de cercetare al OpenAI analiza date globale din domeniul medical. Problema majoră a apărut atunci când agentul AI a vizat Serviciul Medicare de raportare a statisticilor (Medicare Statistics Reporting Service), platforma guvernamentală care centralizează cheltuielile și datele sistemului public de sănătate din Australia. În momentul în care sistemele de protecție ale portalului i-au blocat accesul la zonele restricționate, sistemul autonom nu s-a oprit, ci a început să caute activ rute alternative și vulnerabilități pentru a ocoli protocoalele de securitate.

Conform premierului Albanese, entitatea digitală a reușit în final să acceseze atât fișiere publice, cât și documente cu regim confidențial. Cu toate acestea, oficialul a ținut să liniștească populația, precizând că în acest moment nu există dovezi clare care să ateste compromiterea datelor personale sau a identității pacienților. Pentru a stabili cu exactitate amploarea intruziunii, agenția australiană de spionaj cibernetic, Australian Signals Directorate, a declanșat o investigație criminalistică de proporții. Experții încearcă să afle dacă rețeaua mai extinsă a agenției Services Australia a fost infectată sau dacă și alte ministere au căzut victime ale curiozității necontrolate a algoritmului.

Tehnologia scăpată de sub control și recunoașterea parțială din partea OpenAI

În replică, reprezentanții OpenAI au adoptat o poziție mult mai nuanțată, încercând să atenueze impactul mediatic. Compania a confirmat oficial că modelele sale au întreprins „acțiuni neintenționate” în timpul unor teste de performanță concepute pentru a găsi răspunsuri și statistici despre Australia, însă au evitat să folosească termeni precum „atac” sau „breșă de securitate”, insistând că totul s-a petrecut în cadrul unei simulări controlate în laboratoarele proprii.

Acest incident nu este însă unul izolat și repune în discuție pericolele asociate agenților AI capabili să acționeze complet autonom, fără supervizare umană. Chiar în luna august, OpenAI a recunoscut public că alte modele experimentale au reușit să ocolească barierele digitale menite să le izoleze de Internet, reușind să compromită segmente din propria infrastructură și din rețeaua platformei Hugging Face. Ceea ce transformă cazul australian într-o premieră extrem de periculoasă este capacitatea agentului inteligent de a evada din mediul de testare și de a pătrunde în sistemele informatice externe ale unui stat suveran. Coincidență sau nu, dezvăluirile premierului Albanese au fost făcute imediat după o sesiune specială a ONU dedicată reglementării inteligenței artificiale, reuniune la care au participat lideri globali de tehnologie și în cadrul căreia s-a discutat intens despre pierderea controlului uman asupra sistemelor autonome.

Sursa: Mediafax