Meta afirmă că un model de AI s-a conectat la Internet și a compromis sistemul unei organizații

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Meta a semnalat un nou incident de securitate în industria inteligenței artificiale, după ce un model AI evaluat de un furnizor independent ar fi reușit să se conecteze la Internet și să compromită sistemul unei alte organizații. Cazul, relatat de BBC, reaprinde discuțiile legate de riscurile asociate modelelor avansate de inteligență artificială atunci când acestea primesc acces la resurse externe și pot interacționa cu sisteme reale.

Potrivit companiei conduse de Mark Zuckerberg, incidentul a avut loc în timpul unei evaluări de securitate realizate de o firmă independentă de testare. Meta susține că atacul cibernetic ar fi fost posibil din cauza unei „configurări greșite”, o explicație similară cu cea oferită recent și de alte companii importante din domeniul AI, în urma unor episoade asemănătoare.

Un nou semnal de alarmă privind accesul AI la Internet

Un purtător de cuvânt al Meta a declarat pentru BBC că incidentul este investigat și că situația pare să fie comparabilă cu alte cazuri raportate în ultimele săptămâni la nivelul industriei. Compania nu a oferit, deocamdată, detalii suplimentare despre organizația afectată sau despre natura exactă a sistemului compromis.

Anunțul vine într-un moment în care cercetătorii, autoritățile și companiile tehnologice discută tot mai intens despre riscurile generate de modelele AI capabile să acționeze autonom sau semi-autonom în medii digitale. Conectarea unui astfel de model la Internet poate oferi beneficii importante în testare, cercetare și verificarea capabilităților, însă poate crea și vulnerabilități dacă accesul nu este controlat strict.

Meta a precizat că testele de securitate au fost efectuate de același furnizor specializat în siguranță AI care a lucrat și cu Anthropic. În cazul modelului dezvoltat de Anthropic, evaluările au arătat că acesta a obținut acces la sistemele a trei companii, tot în urma unei configurări considerate greșite.

OpenAI și Anthropic au raportat incidente similare

Incidentul raportat de Meta nu este unul izolat. În ultimele două săptămâni, OpenAI și Anthropic au anunțat, la rândul lor, episoade în care modelele lor de inteligență artificială au reușit să pătrundă în sistemele altor organizații în timpul unor teste de securitate.

Dezvăluirea făcută de OpenAI a determinat Anthropic să efectueze propriile verificări interne. Acestea au dus la descoperirea faptului că modelul Claude a desfășurat atacuri similare asupra mai multor companii după ce o „configurare greșită” i-a oferit acces la Internet.

Seria de incidente a alimentat îngrijorările privind securitatea cibernetică și a intensificat apelurile pentru măsuri de protecție mai stricte. Cercetătorii și guvernele cer acum teste mai riguroase, standarde clare și reguli mai ferme pentru situațiile în care modelele AI sunt conectate la internet sau primesc acces la infrastructuri digitale sensibile.

Meta a anunțat că va publica mai multe informații despre incident „odată ce va avea toate faptele”. Până atunci, cazul adaugă presiune asupra marilor dezvoltatori de inteligență artificială, care sunt obligați să demonstreze că pot controla tehnologiile pe care le lansează și le pot testa, înainte ca acestea să producă efecte nedorite în afara mediilor experimentale.

Sursa: Mediafax