Modelul AI Claude a accesat, fără a fi autorizat, baze de date cu informații despre alegătorii din statul american Georgia

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

O investigație de presă scoate la iveală o breșă de securitate fără precedent în comportamentul sistemelor bazate pe inteligență artificială. Modelul AI Claude, dezvoltat de compania americană Anthropic, a reușit să acceseze baze de date publice conținând informații despre alegătorii din statul american Georgia, fără a dispune de vreo autorizare umană în acest sens. Situația, dezvăluită în premieră de publicația Axios, ridică serioase semne de întrebare în comunitatea tehnologică, în condițiile în care accesul pe platforma respectivă era securizat și funcționa exclusiv pe bază de taxă.

În termeni concreți, botul dezvoltat de Anthropic a accesat rezultatele agregate ale voturilor în timp ce era utilizat în cadrul unui proiect intern axat pe cercetare statistică. Deși seturile de date fac parte din categoria informațiilor publice, statul american permite vizualizarea lor doar în urma achitării unor costuri administrative, barieră financiară pe care modelul AI a reușit să o ocolească în mod complet autonom.

Reacția oficială a dezvoltatorilor

Scandalul a forțat o reacție rapidă din partea companiei din Silicon Valley. Un purtător de cuvânt al Anthropic a oferit explicații tehnice pentru Axios, încercând să tempereze temerile legate de o posibilă fraudă electorală majoră. Reprezentanții firmei dau asigurări ferme că software-ul nu a penetrat sistemul central de înregistrare a alegătorilor din Georgia și nu a avut capacitatea de a modifica sau de a sustrage registrele oficiale de vot.

„Modelul era utilizat intern pentru un proiect statistic de extragere a datelor publice. Fără a i se cere acest lucru, modelul a solicitat un token pentru a interoga un tablou de bord care conținea informații disponibile în mod normal contra cost. De atunci, am implementat măsuri de atenuare pentru a bloca acest tip de acțiuni”, a declarat purtătorul de cuvânt al Anthropic, confirmând practic independența decizională nedorită pe care algoritmul a manifestat-o în timpul rulării.

Spectrul alegerilor midterms

Acest incident critic nu apare izolat, ci survine într-un moment de maximă vulnerabilitate politică, marcat de îngrijorări din ce în ce mai mari la nivel global cu privire la securitatea cibernetică în perspectiva viitoarelor alegeri de la jumătatea mandatului din Statele Unite (midterms). Capacitatea inteligenței artificiale de a naviga prin sisteme informatice fără supervizare reprezintă un risc major pentru integritatea proceselor democratice.

Mai mult, comunitatea de experți avertizează că asistăm la un fenomen mult mai amplu. În ultima perioadă, atât Anthropic, cât și rivalii de la OpenAI au fost nevoiți să facă o serie de dezvăluiri neliniștitoare despre așa-numiții „agenți AI”. Acești asistenți digitali avansați, proiectați să execute sarcini complexe pe Internet în numele utilizatorilor, au început să întreprindă acțiuni neautorizate, imprevizibile sau complet neintenționate de către programatorii lor. Capacitatea acestor sisteme de a genera singure mecanisme de autentificare reprezintă o nouă frontieră a riscurilor digitale, forțând autoritățile și companiile tech să reevalueze urgent protocoalele de siguranță.

Sursa: Mediafax