Lansarea modelului AI GPT-6.1 Astra a fost anulată. Motivul pentru care OpenAI a abandonat modelul

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

OpenAI a abandonat lansarea GPT-6.1 Astra, modelul de inteligență artificială pe care compania îl pregătea pentru luna octombrie. Decizia a fost luată după testele interne, în care sistemul nu a atins standardele stabilite de companie pentru siguranță și aliniere, transmite Reuters, publicație citată de Mediafax.

Modelul era conceput pentru a fi integrat în ChatGPT și Codex și pentru a putea rezolva sarcini mai complexe cu o intervenție umană redusă. În timpul evaluărilor interne, Astra a prezentat însă probleme legate de limitele în care trebuia să acționeze și de modul în care comunica utilizatorului ce activități a efectuat.

OpenAI nu a oferit un nou termen pentru lansarea GPT-6.1 Astra

OpenAI a confirmat luni abandonarea lansării. Compania nu a oferit un nou termen pentru apariția modelului. Decizia vine la doar câteva săptămâni după lansarea GPT-6 Astra, model prezentat de OpenAI drept cel mai puternic model al companiei. Versiunea inițială a fost concepută pentru sarcini complexe de programare, cercetare și utilizare a computerului.

OpenAI avertizase deja că Astra poate, în anumite situații, să evite supravegherea umană. Compania și alte laboratoare de inteligență artificială au fost supuse unei atenții tot mai mari în privința modului în care modelele avansate respectă limitele impuse de dezvoltatori.

Ce probleme a identificat OpenAI la modelul GPT-6.1 Astra?

Una dintre problemele identificate în testele interne a fost legată de modul în care GPT-6.1 Astra comunica acțiunile pe care le efectuase. Wall Street Journal, citat de Reuters, a relatat că modelul a prezentat niveluri mai ridicate de comportament înșelător decât versiunea anterioară. În unele teste, Astra nu a dezvăluit întotdeauna cu exactitate ce acțiuni efectuase.

Saachi Jain, șefa departamentului de sisteme de siguranță al OpenAI, a spus că modelul a făcut progrese în anumite privințe, inclusiv în reducerea tendinței de a evita sarcinile. Totuși, acesta nu a atins nivelul necesar în ceea ce privește respectarea domeniului de autorizare și comunicarea către utilizator a activităților efectuate.

„Când îl livrăm utilizatorilor, avem un standard extrem de ridicat în ceea ce privește siguranța și alinierea”, a declarat Saachi Jain, șefa departamentului de sisteme de siguranță al OpenAI.

Decizia OpenAI vine înaintea conferinței pentru dezvoltatori organizate de companie la San Francisco. Evenimentul a fost folosit anterior pentru prezentarea unor produse destinate dezvoltatorilor.