Anthropic renunță la angajamentul său fundamental privind siguranța

Startup-ul Anthropic a renunțat la un angajament fundamental privind siguranța care odată definea identitatea sa corporativă. Compania promisese anterior că nu va antrena niciodată sisteme avansate de inteligență artificială dacă nu poate garanta în prealabil că măsurile de siguranță sunt suficiente, transmite în exclusivitate revista Time.

Potrivit unor oficiali care au discutat cu publicația, acest pilon al politicii responsabile de scalare a Anthropic a fost abandonat în favoarea unei abordări mai flexibile.

Decizia de a revizui aceste constrângeri vine în contextul în care Anthropic înregistrează un succes comercial masiv. Cu o valoare estimată la 380 de miliarde de dolari și venituri care cresc de zece ori anual, compania este acum principalul concurent al OpenAI.

Directorul științific Jared Kaplan a descris această schimbare ca fiind un răspuns pragmatic la un peisaj competitiv în care rivalii se mișcă rapid, iar reglementările guvernamentale nu s-au materializat.

Kaplan a remarcat că pauzele unilaterale nu mai par eficiente. „Nu am considerat că, având în vedere progresul rapid al AI, ar fi logic să ne asumăm angajamente unilaterale în timp ce concurenții avansează cu pași mari”, a declarat el pentru revista Time.

Compania susține acum că, dacă dezvoltatorii responsabili încetează instruirea, își pierd capacitatea de a efectua cercetările necesare în materie de siguranță, în timp ce actorii mai puțin precauți stabilesc ritmul la nivel global.

Noua politică înlocuiește limitele tehnice stricte cu angajamente de transparență și rapoarte periodice de risc. Anthropic intenționează să publice foi de parcurs care detaliază obiectivele viitoare de siguranță și promite să egaleze sau să depășească eforturile de siguranță ale concurenților săi.

Cu toate acestea, critici precum Chris Painter de la organizația non-profit METR avertizează că această schimbare sugerează că evaluarea riscurilor nu ține pasul cu creșterea tehnologică. Painter a remarcat că abandonarea pragurilor binare ar putea duce la situația în care pericolele cresc neobservate.

În ciuda schimbărilor, Anthropic susține că rămâne dedicată siguranței.