OpenAI introduce restricții severe pe ChatGPT privind armele și monitorizarea conversațiilor violente

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Într-un efort de a combate violența și de a îmbunătăți protecția utilizatorilor minori, gigantul tehnologic OpenAI a anunțat la sfârșitul acestei săptămâni o serie de măsuri radicale de securitate pentru platforma ChatGPT. Noua strategie vizează înăsprirea drastică a filtrelor pentru adolescenți, restricționând accesul la informații sensibile legate de armament, chiar și în cazurile în care întrebările adresate par complet inofensive sau lipsite de intenții malițioase. Decizia vine pe fondul unei presiuni internaționale tot mai mari din partea autorităților de reglementare, care cer companiilor din domeniul inteligenței artificiale (AI) să își asume un rol activ în detectarea amenințărilor și prevenirea vătămării tinerilor.

Filtre stricte pentru adolescenți și blocarea automată a tiparelor de comportament violent

Conform detaliilor publicate de agenția de presă Reuters, noile protocoale dezvoltate de OpenAI vor bloca furnizarea de detalii practice despre arme de foc, muniție sau sisteme de securitate care ar putea fi exploatate sau utilizate în mod abuziv. Această barieră digitală se va aplica automat pentru conturile utilizatorilor minori, indiferent de contextul interogării. Mai mult decât atât, algoritmul ChatGPT a fost instruit să identifice semnele unei posibile obsesii față de violență. În cazul în care un utilizator manifestă o fixație pe teme agresive, chatbot-ul va avea capacitatea de a încheia automat sesiunea de conversație. Dacă acest comportament se repetă, OpenAI va suspenda temporar contul respectiv.

Pentru a asigura eficiența acestor măsuri, compania și-a îmbunătățit sistemele de estimare a vârstei bazate pe inteligență artificială, reușind să redirecționeze mult mai precis utilizatorii suspectați de a avea sub 18 ani către versiunea securizată a platformei. Într-o mișcare strategică spre transparență parentală, OpenAI a anunțat că va implementa un sistem de notificare prin care părinții vor fi alertați în mod direct în cazul în care contul adolescentului lor este suspendat din cauza discuțiilor repetate despre acte de violență. De asemenea, restricțiile se extind la nivel global pentru toți utilizatorii în ceea ce privește atacurile armate în masă din trecut; algoritmul va limita sever oferirea de detalii specifice despre tipurile de arme folosite de atacatori sau despre modalitățile prin care acestea au fost procurate, evitând astfel propagarea unor potențiale ghiduri logistice.

Presiunea societății civile și realitatea utilizării ChatGPT în rândul tinerilor

Această reformă de securitate nu este una întâmplătoare, ci vine ca răspuns direct la semnalele de alarmă trase de organizațiile neguvernamentale. La începutul lunii octombrie, un raport critic publicat de ONG-ul Common Sense Media a dezvăluit vulnerabilități majore în sistemul de monitorizare al OpenAI. Analiza demonstra că versiunea ChatGPT dedicată adolescenților emitea avertismente către părinți mult prea târziu sau chiar deloc atunci când minorii purtau conversații sensibile despre automutilare, sinucidere sau tulburări de alimentație.

Deși datele statistice oficiale publicate recent de OpenAI indică faptul că adolescenții petrec, în medie, mai puțin de 15 minute pe zi interacționând cu ChatGPT, potențialul de expunere la riscuri rămâne ridicat. Compania din Silicon Valley a confirmat că implementarea noilor linii de apărare va începe treptat în următoarele săptămâni. Într-un peisaj digital aflat în continuă schimbare, OpenAI a subliniat că aceste instrumente de protecție nu sunt definitive, ci vor fi perfecționate și ajustate continuu pentru a răspunde dinamic noilor provocări de securitate cibernetică.

Sursa: Mediafax