Discuțiile cu ChatGPT nu mai sunt private. Cine le evaluează și cu ce scop

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Iluzia unei confidențialități totale în interacțiunea cu inteligența artificială este spulberată de o recentă investigație jurnalistică. ChatGPT, chatbot-ul preferat al planetei, nu este doar un interlocutor algoritmic izolat, ci o poartă deschisă către privirile unor străini. O anchetă publicată inițial de publicația 404 Media și preluată de platforma Nexta dezvăluie că OpenAI a contractat sute de angajați umani a căror misiune zilnică este să citească, să analizeze și să evalueze dialogurile reale purtate de utilizatori cu ChatGPT. Deși măsura este justificată oficial prin necesitatea de a îmbunătăți calitatea răspunsurilor și siguranța sistemului, criticii și experții în securitate cibernetică avertizează că această practică pune într-un pericol iminent intimitatea și datele cu caracter personal ale milioanelor de utilizatori.

„Project Lily” sau cum ajung secretele utilizatorilor la contractori externi

Operațiunea secretă de analiză a comportamentului lingvistic poartă numele de cod intern „Project Lily”. Pentru a gestiona volumul uriaș de date, OpenAI nu folosește doar personal propriu, ci colaborează cu firme terțe de recrutare, precum Mercor și Crossing Hurdles, prin intermediul cărora a format o armată de evaluatori externi. Sarcina principală a acestor angajați este de a monitoriza și corecta deviațiile de comportament ale modelului. Mai exact, ei trebuie să descurajeze software-ul de la a deveni excesiv de politicos, de a tinde spre o „umanizare” artificială sau de a adopta obiceiuri conversaționale nedorite care ar putea induce utilizatorul în eroare.

Marea problemă constă în nivelul de acces al acestor evaluatori. Aceștia pot vizualiza ferestre întregi de chat, parcurgând firul narativ complet al discuțiilor. Reprezentanții OpenAI se apără susținând că folosesc filtre software automatizate care încearcă să șteargă datele de identificare (cum ar fi numele sau numerele de telefon) înainte ca textul să ajungă la ochi umani. Cu toate acestea, gigantul tech recunoaște deschis o vulnerabilitate majoră: filtrele nu sunt perfecte și permit adesea trecerea unor detalii extrem de intime sau a unor elemente de context care pot duce la identificarea indirectă a persoanei din spatele ecranului.

Mitul confidențialității s-a spulberat

Această breșă controlată în intimitatea utilizatorilor generează îngrijorări masive în rândul organizațiilor pentru drepturile digitale. Mulți oameni au ajuns să folosească inteligența artificială pe post de confident psihologic, jurnal personal sau asistent pentru redactarea unor documente corporative ultrasensibile și confidențiale. Toți cei care s-au destăinuit prin ChatGPT, expunându-și vulnerabilitățile emoționale, problemele medicale sau secretele de afaceri, trebuie să conștientizeze că acele informații au un risc uriaș de a fi citite de terți.

În ciuda interfeței prietenoase care mimează o discuție privată, realitatea crudă a industriei de tech demonstrează că „igiena digitală” este adesea sacrificată în numele optimizării algoritmilor. În acest peisaj, specialiștii recomandă prudență maximă și evitarea introducerii oricăror date sensibile în ferestrele de dialog, amintind că, în spatele cortinei de cod a celor de la OpenAI, se află întotdeauna un ochi uman gata să analizeze fiecare cuvânt.

Sursa: Mediafax