Conducătorii OpenAI și Anthropic avertizează ONU asupra riscurilor AI

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Într-o mobilizare diplomatică de o importanță crucială pentru viitorul tehnologiei, Consiliul de Securitate al Organizației Națiunilor Unite a devenit scena unor avertismente sumbre lansate chiar de liderii care proiectează noua eră digitală. În cadrul unei reuniuni de nivel înalt convocate de Franța, Sam Altman, CEO-ul OpenAI, a lansat un apel global la responsabilitate, subliniind că ritmul galopant al dezvoltării inteligenței artificiale impune „o grijă extremă”. Acesta a cerut comunității internaționale să se asigure că oamenii vor păstra permanent controlul asupra celor mai avansate modele generative, avertizând asupra riscurilor existențiale asociate acestei tehnologii disruptive.

„Industria nu trebuie să accepte prea mult risc tehnologic doar pentru că beneficiile sunt prea mari și importante pentru a încetini”, a declarat ferm Sam Altman în fața diplomaților prezenți la New York. Discursul său a marcat o încercare vizibilă de a poziționa OpenAI pe o cale de mijloc: „Nu vrem să cădem în capcana optimismului orb, dar nici în fatalism”, a adăugat acesta, sugerând că AI-ul poate deschide porțile unei noi „Renașteri” dacă este utilizat corect, ca un instrument de extindere a capacităților umane.

Apelul pentru democrație în tehnologie

Unul dintre punctele centrale ale intervenției lui Altman a vizat modul în care ar trebui guvernată această forță tehnologică, subliniind că marile corporații nu pot acționa în izolare totală față de societate. „Dacă inteligența artificială trebuie să fie democratică, cele mai importante decizii nu pot fi luate doar în laboratoare din San Francisco. Aceste decizii trebuie stabilite prin procese democratice și de către guverne responsabile în fața cetățenilor”, a punctat șeful OpenAI, plasând responsabilitatea reglementării în mâinile statelor suverane.

Conștient de tensiunile geopolitice actuale, Altman a oferit exemple istorice în care marile puteri globale au reușit să își dea mâna în momente de cumpănă pentru supraviețuirea colectivă. „La nivel internațional, acest lucru va necesita cooperare. În istoria noastră, au existat momente în care țări care concurează și nu se plac întotdeauna foarte mult s-au reunit pentru interese comune și binele colectiv în fața unei tehnologii noi și puternice. Credem că acesta trebuie să fie unul dintre acele momente”, a completat liderul tech, încheindu-și pledoaria cu o notă de modestie: „Poate că noi suntem creatorii acestei tehnologii, dar nu suntem eroii acestei povești. Rolul nostru este să avem încredere în magia talentului uman”.

Riscuri pentru umanitate și diviziuni politice la nivel înalt

Avertismentele de la tribuna ONU au căpătat accente și mai dramatice odată cu discursul susținut de Dario Amodei, CEO-ul companiei concurente Anthropic. „Cred chiar că AI ar putea fi un risc pentru umanitate în ansamblu, dacă tehnologia este gestionată necorespunzător”, a declarat Amodei, cerând măsuri concrete urgente, cum ar fi interzicerea utilizării AI în proliferarea sau fabricarea de arme biologice. Această poziție a fost susținută ferm și de reputatul cercetător Yoshua Bengio, copreședinte al panelului științific al ONU, care a reamintit asistenței că „pericolele sunt reale și iminente”, ignorând complet granițele naționale.

Sesiunea, prezidată de Jean-Noël Barrot, Ministrul francez de Externe, a scos la iveală însă și faliile adânci din politica internațională. În timp ce ONU încearcă să construiască reguli globale solide pentru o tehnologie care evoluează mult mai rapid decât legile tradiționale, pe axa Washington-New York apar viziuni diametral opuse. Președintele american Donald Trump s-a pronunțat recent împotriva unui cadru global care să limiteze sau să încetinească dezvoltarea inteligenței artificiale în SUA, poziție care evidențiază o concurență acerbă și dificultatea uriașă de a ajunge la un consens global privind controlul algoritmilor autonomi.

Sursa: Mediafax