Autoritățile din SUA deschid o investigație majoră asupra OpenAI și Anthropic din cauza agenților AI

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Autoritățile americane pregătesc o investigație amplă asupra industriei inteligenței artificiale, cu accent pe riscurile pe care agenții AI capabili să acționeze autonom le pot genera pentru consumatori. Comisia Federală pentru Comerț din Statele Unite (FTC) intenționează să solicite informații oficiale de la mai multe companii și să convoace directori din sector pentru audieri, potrivit Reuters.

Ancheta ar urma să vizeze inclusiv OpenAI și Anthropic, doi dintre cei mai importanți dezvoltatori de modele de inteligență artificială, precum și organizația de cercetare METR. Aceasta din urmă a participat la evaluări independente ale unor incidente de securitate asociate agenților AI creați de cele două companii.

Demersul FTC marchează o nouă etapă în relația dintre autoritățile de reglementare și industria inteligenței artificiale. Investigația apare într-un moment în care agenții AI nu se mai limitează la generarea de răspunsuri, ci pot primi acces la Internet, aplicații informatice și sisteme externe pentru a îndeplini sarcini complexe.

FTC analizează incidentele provocate de agenții AI

Investigația urmărește să stabilească în ce măsură sistemele autonome pot produce efecte neprevăzute în afara mediilor controlate în care au fost testate. FTC pregătește solicitări formale de documente și informații, iar unii directori ai companiilor vizate ar putea fi obligați să depună mărturie.

Unul dintre cazurile care au atras atenția autorităților este legat de agenți AI dezvoltați de OpenAI, care ar fi analizat vulnerabilități ale platformei de dezvoltare software Hugging Face. Potrivit unui oficial FTC citat de Reuters, sistemele ar fi identificat puncte slabe înainte de a desfășura un atac de amploare asupra platformei.

Andrew Ferguson, președintele FTC, avertizase anterior că dezvoltatorii care utilizează agenți AI în teste de securitate și ajung să provoace atacuri ar putea fi considerați responsabili pentru prejudiciile produse. Instituția dispune deja de competențe pentru sancționarea practicilor comerciale incorecte sau înșelătoare și a folosit aceste atribuții inclusiv în cazuri privind protecția datelor consumatorilor.

Problema depășește însă un singur incident. Odată conectați la sisteme reale, agenții AI pot instala programe, accesa resurse online, analiza infrastructuri informatice sau executa mai multe acțiuni succesive. În anumite situații, comportamentul lor poate depăși limitele anticipate de utilizatori sau dezvoltatori.

Responsabilitatea juridică devine o miză majoră

Ancheta FTC ar putea influența modul în care va fi stabilită responsabilitatea în cazul în care un agent AI produce pagube. Autoritățile încearcă să determine dacă actualele mecanisme de protecție sunt suficiente și dacă dezvoltatorii informează corect consumatorii despre limitele și riscurile produselor lor.

Pentru industria AI, investigația reprezintă un test important. Companiile ar putea fi obligate să introducă proceduri mai stricte de evaluare, monitorizare și control înainte de a permite sistemelor autonome să interacționeze cu infrastructuri externe.

Anthropic a avertizat deja, în documentele pregătite pentru eventuala sa listare la bursă, că tehnologia agenților AI generează riscuri juridice semnificative și dificil de anticipat. Aceste riscuri pot include incidente de securitate, utilizarea neautorizată a datelor sau acțiuni pe care operatorii nu le pot opri suficient de rapid.

Prin această investigație la nivelul întregii industrii, FTC încearcă să clarifice obligațiile companiilor înainte ca agenții AI să fie utilizați pe scară și mai largă. Rezultatele anchetei ar putea contribui la definirea primelor standarde americane privind răspunderea, transparența și siguranța sistemelor capabile să acționeze autonom în mediul digital.

Sursa: Mediafax