Noul AI Claude Mythos de la Anthropic a speriat miniștrii de finanțe, bancherii și Uniunea Europeană

V-am povestit deja despre noul model de inteligență artificială dezvoltat de Anthropic, Claude Mythos fiind capabil să depășească performanțele umane în sarcini ce țin de hacking și securitate cibernetică. Totuși, acel noul model de AI a stârnit îngrijorare la nivel global, iar subiectul a ajuns deja pe agenda miniștrilor de finanțe și a Fondului Monetar Internațional.

Mythos este unul dintre cele mai recente modele din familia Claude, sistemul de inteligență artificială dezvoltat de Anthropic, fiind prezentat public la începutul lunii aprilie, sub denumirea de „Mythos Preview”.

Având în vedere că Anthropic rivalizează direct, pe piața globală, cu OpenAI și al său ChatGPT sau Google, cu Gemini, Mythos este considerat un veritabil pas înainte, din punct de vedere calitativ, și diferit față de modelele anterioare.

Mythos este rezervat companiilor partenere ale celor de la Anthropic

Mai mult, cercetătorii care testează comportamentul modelelor AI au ajuns la concluzia că Mythos se dovedește a fi „incredibil de capabil în ceea ce privește sarcinile de securitate informatică”. Noul AI poate localiza erori ascunse în coduri vechi de zeci de ani și le poate exploata cu ușurință.

Tocmai din cauza acestor capacități, Anthropic a decis să nu lanseze Mythos pentru utilizatorii obișnuiți. În schimb, a acordat acces unui grup de 12 companii de tehnologie prin intermediul unui program numit Project Glasswing. Printre parteneri se numără Amazon Web Services, Apple, Microsoft, Google, NVIDIA, Broadcom și CrowdStrike. Anthropic afirmă că a extins accesul și către alte peste 40 de organizații responsabile de software critic.

Scopul declarat al acestui program este consolidarea rezilienței acestor sisteme în fața amenințărilor pe care Mythos însuși le-ar putea genera.

Ce spun specialiștii

Ciaran Martin, fostul șef al Centrului Național de Securitate Cibernetică din Marea Britanie, a declarat că afirmația potrivit căreia Mythos ar putea descoperi vulnerabilități mult mai rapid decât alte modele „a șocat cu adevărat oamenii”.

Institutul pentru Siguranța AI din Marea Britanie a concluzionat că cea mai mare amenințare a noului model de inteligență artificială de la Anthropic ar fi împotriva sistemelor vulnerabile, slab apărate. În schimb, acolo unde securitatea cibernetică este solidă, riscul ar fi mai limitat, teoretic vorbind. Mulți analiști independenți nu au putut testa personal noul model, iar unii rămân sceptici față de capacitățile sale anunțate.

Subiectul a ajuns și pe agendele unor foruri de top. François-Philippe Champagne, ministrul canadian al finanțelor, a declarat pentru BBC că Mythos a fost fost subiectul unei discuții la o reuniune a FMI de la Washington.

Andrew Bailey, șeful Băncii Angliei, a afirmat că este necesară o analiză atentă a implicațiilor acestei evoluții pentru riscul de criminalitate cibernetică. Reprezentanții Uniunii Europene se află, la rândul lor, în discuții cu Anthropic.

Temerile legate de inteligența artificială nu reprezintă însă o noutate, lansarea fiecărui model nou important fiind însoțită de promisiuni și avertismente. Ciaran Martin a subliniat că, pe termen mediu, astfel de instrumente pot fi folosite pentru a remedia vulnerabilități fundamentale ale Internetului. Cel mai important lucru acum, conform reprezentantului Centrului Național de Securitate Cibernetică din Marea Britanie, este să nu intrăm în panică și să ne concentrăm pe securitatea cibernetică, măcar la un nivel de bază.

Sursa: Mediafax