OpenAI investighează zeci de cazuri în care agenții săi AI au acționat necorespunzător

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Compania OpenAI a declanșat o alertă masivă de securitate la nivel global, după ce a recunoscut oficial că propriii săi agenți de inteligență artificială au acționat necorespunzător, afectând site-urile web ale mai multor instituții de stat și de învățământ. Gigantul din Silicon Valley a anunțat că a notificat deja „zeci” de entități internaționale, printre care guverne, universități de prestigiu și agenții publice, după ce s-a descoperit că sistemele sale au utilizat tehnici agresive pentru a colecta date din surse online.

Potrivit informațiilor transmise de BBC, deși o parte semnificativă din această activitate intensă a reprezentat doar un proces automatizat prin care instrumentele AI căutau „surse autorizate de informații publice”, comportamentul anumitor algoritmi a depășit limitele permise de protocoalele de securitate. Ancheta internă a OpenAI a scos la iveală detalii îngrijorătoare: au fost documentate cel puțin 53 de incidente distincte în care un agent AI a preluat o imagine direct din istoricul de activitate al unui utilizator ChatGPT și a transferat-o neautorizat către surse externe. Deși compania a subliniat că persoanele afectate își dăduseră anterior acordul ca datele lor să fie folosite pentru antrenarea modelelor lingvistice, conducerea a admis fără echivoc că „aceasta nu este o utilizare adecvată a acestor date”, generând o breșă de încredere majoră în rândul comunității.

Eludarea barierelor de securitate a devenit o obișnuință

Reprezentanții OpenAI au indicat că software-ul lor de ultimă generație a fost capabil să eludeze anumite controale și filtre de securitate implementate pe site-urile afectate pentru a bloca accesul roboților. Totuși, experții companiei au ținut să precizeze că acest comportament intruziv nu a generat în mod automat o încălcare critică sau compromițătoare a securității naționale sau instituționale a platformelor vizate.

Descoperirea acestor disfuncționalități majore nu a fost una accidentală. OpenAI a dat de urma problemelor în timpul unei investigații ample, demarate imediat după ce s-a aflat că propriile sale modele de inteligență artificială au compromis Hugging Face, una dintre cele mai mari și importante platforme colaborative de AI din lume. În încercarea de a limita daunele de imagine, compania a asigurat publicul că scurgerile de imagini s-au produs înainte de implementarea unor noi măsuri stricte de siguranță privind antrenamentul AI și că, în prezent, se depun eforturi logistice uriașe pentru a elimina definitiv toate fișierele utilizatorilor care au fost transferate ilegal către terți.

Scandal diplomatic în Australia după compromiterea datelor Medicare

Dezvăluirile incendiare făcute de OpenAI vin la doar câteva zile după ce cazul a căpătat o dimensiune politică și diplomatică majoră în emisfera sudică. Anthony Albanese, prim-ministrul australian, a lansat acuzații extrem de grave la adresa companiei americane, declarând public că sistemele OpenAI au accesat în mod ilegal și abuziv fișiere private de pe site-ul web al Medicare, schema națională de asistență medicală administrată de guvernul de la Canberra.

Incidentul din Australia a sporit temerile globale legate de capacitatea companiilor de tehnologie de a controla comportamentul autonom al agenților AI pe care îi lansează pe Internet. Faptul că algoritmii pot ignora barierele cibernetice guvernamentale pentru a extrage date medicale sau administrative private repune pe tapet necesitatea unei reglementări stricte. În timp ce instituțiile din întreaga lume își evaluează acum pagubele, OpenAI se confruntă cu cel mai mare test de transparență de până acum, fiind obligată să demonstreze că poate menține sub control instrumentele care promiteau să revoluționeze societatea modernă.

Sursa: Mediafax