Google cere testarea modelelor de AI înainte de lansarea lor publică

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Șeful diviziei de inteligență artificială a Google cere crearea unei autorități care să testeze cele mai avansate modele de inteligență artificială înainte de lansarea lor publică. Potrivit acestuia, în următorii ani ar putea apărea modele de inteligență artificială care vor egala performanțele intelectuale umane.

Demis Hassabis, directorul Google DeepMind, laureat al Premiului Nobel pentru Chimie în 2024, a cerut marți autorităților americane să creeze un organism de reglementare care să evalueze cele mai avansate modele de inteligență artificială înainte de lansarea lor comercială.

Potrivit francezilor de la Le Figaro, citați de Mediafax, oficialul estimează că un model de inteligență artificială capabil să egaleze performanțele intelectuale umane ar putea deveni disponibil „în câțiva ani”. „Când există un asemenea grad de incertitudine și mizele sunt atât de ridicate, cea mai bună strategie este să avansăm cu un optimism prudent”, a subliniat cercetătorul.

Șeful DeepMind propune un organism construit după modelul Autorității de Reglementare a Industriei Financiare din SUA (FINRA), care supraveghează firmele de brokeraj sub control federal. Noua structură ar fi alcătuită din specialiști de top în domeniul inteligenței artificiale și finanțată în principal de industria inteligenței artificiale. Misiunea sa ar fi să stabilească standardele pe care un model AI trebuie să le îndeplinească, înainte să fie lansat pe piață.

Regulile s-ar aplica tuturor modelelor de inteligență artificială considerate suficient de avansate, indiferent dacă sunt dezvoltate în Statele Unite sau în alte țări.

Autoritățile și companiile din domeniu discută tot mai des despre reguli mai stricte pentru dezvoltarea și lansarea modelelor avansate de inteligență artificială. Recent, Departamentul american al Comerțului a suspendat temporar accesul cetățenilor străini și al angajaților din afara SUA la două modele dezvoltate de Anthropic, Claude Fable 5 și Mythos 5, invocând motive de securitate națională.

Compania a fost nevoită să retragă complet accesul la acestea timp de două săptămâni, înainte de a-l restabili treptat.

Demis Hassabis nu este singurul lider din industrie care cere reguli mai stricte. La începutul lunii iunie, directorul executiv al Anthropic, Dario Amodei, a solicitat o implicare mai mare a guvernului american și a susținut înființarea unei agenții federale care să testeze modelele de inteligență artificială înainte de lansarea lor.