Prima demisie după testele cu reclame în ChatGPT. Avertisment din interiorul OpenAI

O cercetătoare implicată în dezvoltarea și politicile de siguranță ale inteligenței artificiale la OpenAI a demisionat, după ce compania a început să testeze introducerea reclamelor în ChatGPT, potrivit unei opinii semnate de Zoe Hitzig în The New York Times, citată de Economedia.

Zoe Hitzig a lucrat timp de doi ani la modelarea modului în care sunt construite și tarifate modelele de AI și a contribuit la elaborarea primelor standarde de siguranță, înainte ca acestea să fie formalizate în cadrul companiei. Ea spune că a plecat după ce a ajuns la concluzia că direcția strategică a companiei s-a schimbat.

„Am crezut cândva că pot ajuta oamenii care construiesc AI să anticipeze problemele pe care aceasta le va crea. Săptămâna aceasta mi-a confirmat realizarea lentă că OpenAI pare să fi încetat să mai pună întrebările la care m-am alăturat pentru a ajuta să răspund”, a scris aceasta.

Demisie la OpenAI după testarea reclamelor în ChatGPT

Fosta cercetătoare subliniază că nu consideră reclamele imorale sau neetice, recunoscând că dezvoltarea și operarea sistemelor de inteligență artificială implică costuri mari, iar publicitatea poate deveni o sursă importantă de venit. Totuși, ea spune că are dubii în privința strategiei companiei și a impactului pe termen lung.

Hitzig atrage atenția asupra relației speciale create între utilizatori și chatboturi, pe care o descrie ca pe „o arhivă de sinceritate umană fără precedent”. În opinia sa, oamenii au ajuns să vorbească deschis cu AI despre temeri medicale, probleme personale, credințe și anxietăți, considerând că interacționează cu un sistem fără agendă ascunsă.

În acest context, ea avertizează că utilizarea datelor rezultate din astfel de conversații pentru publicitate ar putea deschide calea către forme subtile de influențare. Publicitatea construită pe baza acestor informații ar putea manipula utilizatorii în moduri pe care societatea nu le înțelege încă pe deplin și pentru care nu există instrumente clare de protecție.

Fosta cercetătoare consideră că dezbaterea despre finanțarea AI este adesea prezentată ca o alegere între două variante dificile: fie accesul la o tehnologie transformatoare este limitat la cei care își permit să plătească, fie utilizatorii acceptă publicitatea, chiar dacă aceasta ar putea exploata temerile și dorințele lor profunde pentru a vinde produse.

Citește știrea completă în Economedia.