Modelele AI ar putea ajunge să se copieze singure pe dispozitivele conectate la Internet

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Inteligența artificială ar putea ajunge, într-un viitor nu foarte îndepărtat, să se copieze și să se distribuie autonom pe dispozitive conectate la Internet, avertizează compania Anthropic. Potrivit cercetătorilor săi, modelele AI de dimensiuni medii evoluează suficient de rapid încât ar putea dobândi capacitățile tehnice necesare unui astfel de proces până la sfârșitul anului 2026.

Avertismentul, publicat la începutul acestei săptămâni, a generat reacții diferite în comunitatea specialiștilor în securitate cibernetică. În timp ce unii experți consideră scenariul îngrijorător, alții atrag atenția că această cercetare descrie, deocamdată, posibilități teoretice și experimente desfășurate în medii controlate, nu incidente reale produse pe Internet, potrivit Reuters.

Modelele AI pot funcționa distribuit pe dispozitive ieftine

Cercetătorii Anthropic au analizat dacă sistemele de inteligență artificială ar putea rula pe echipamente accesibile, fără infrastructura informatică puternică folosită în mod obișnuit pentru operarea modelelor avansate. Testele au arătat că modelele cu cel mult 30 de miliarde de parametri pot executa deja multe dintre sarcinile individuale necesare autoreplicării.

Într-unul dintre experimente, un model AI cu 26 de miliarde de parametri a fost distribuit pe 15 dispozitive Android TV, fiecare având un preț de aproximativ 55 de dolari. Echipamentele au funcționat împreună, compensând puterea redusă de calcul a fiecărei unități.

Separat, într-o rețea virtuală controlată, un model a coordonat propagarea unui alt sistem AI către opt noduri disponibile. Operațiunea a reușit în patru dintre cele cinci teste. Anthropic subliniază însă că aceste rezultate nu demonstrează existența unui model capabil să se răspândească singur, în mod fiabil, pe Internet. Cercetarea a confirmat doar că anumite componente tehnice ale unui asemenea proces sunt deja posibile.

Compania estimează că viitoare sisteme ar putea identifica dispozitive vulnerabile, instala copii ale modelului și utiliza resursele acestora pentru a-și extinde capacitatea de calcul. Televizoarele inteligente, camerele de supraveghere și alte echipamente conectate, dar insuficient securizate, ar putea deveni ținte într-un asemenea scenariu.

Un sistem distribuit ar putea fi dificil de dezactivat

Dispozitivele compromise ar putea forma o rețea de tip botnet, coordonată de un model AI și folosită inclusiv pentru automatizarea atacurilor cibernetice. Principala dificultate ar fi absența unui centru unic de comandă care să poată fi închis.

„Un asemenea sistem autoreplicant ar fi dificil de oprit, deoarece nu există un punct central care să poată fi dezactivat”, avertizează Anthropic.

Compania analizează și posibilitatea ca un astfel de sistem să încerce să pătrundă în infrastructuri mai performante, inclusiv în centre de date, pentru a obține acces la resurse suplimentare. Aceste ipoteze descriu însă riscuri potențiale, nu atacuri despre care s-a demonstrat că s-au produs.

Ciaran Martin, fost director al Centrului Național pentru Securitate Cibernetică din Marea Britanie, consideră că rularea unui model pe televizoare ieftine reprezintă o demonstrație tehnică interesantă, dar nu justifică automat un scenariu de criză. În opinia sa, prezentarea riscurilor include și o doză de exagerare.

În schimb, Zhengxiong Li, profesor asistent de informatică și inginerie la Universitatea Colorado Denver, avertizează că un model capabil să se comporte asemenea unui vierme informatic ar putea identifica singur modalități de compromitere a dispozitivelor. Distribuirea sa pe numeroase echipamente independente ar face intervenția mult mai dificilă.

Jessica Ji, cercetătoare la Centrul pentru Securitate și Tehnologii Emergente al Universității Georgetown, susține că scenariul trebuie tratat drept o posibilitate, nu ca o predicție certă. Anthropic nu a demonstrat încă întregul proces într-un mediu real și necontrolat. Totuși, compania consideră că ritmul actual de dezvoltare justifică studierea preventivă a riscului, în condițiile în care Dario Amodei, CEO-ul companiei, avertizase anterior că un sistem AI ar putea ajunge să controleze o rețea persistentă de dispozitive compromise și răspândite pe Internet.

Sursa: Mediafax