UE propune interzicerea aplicațiilor de generare cu AI a imaginilor nud. Acestea au beneficiat de peste 705 milioane de descărcări

Adaugă Go4IT la sursele tale preferate din Google

Uniunea Europeană propune interzicerea aplicațiilor de creare a imaginilor nud, bazate pe inteligență artificială, capabile să elimine digital hainele unei persoane dintr-o fotografie, pentru a crea conținut sexualizat fără consimțământ. La nivel mondial, acest gen de aplicații au fost descărcate de peste 705 milioane de ori.

Aceste aplicații au devenit populare pentru prima dată în 2017, dar au avut o evoluție rapidă, chiar alarmantă. Acestea întrebuințează tehnologia AI generativă pentru a analiza contururile unui subiect îmbrăcat și a reda în locul acestuia un corp gol sintetic. Prin intermediul unor modele avansate de difuzie, ele pot produce în câteva secunde rezultate fotorealiste de înaltă rezoluție, pornind de la o singură fotografie publicată pe rețelele de socializare.

În 7 mai, legiuitorii UE au ajuns la un acord privind interzicerea explicită a aplicațiilor de creare a imaginilor nud, descriind această generare a imaginilor nepotrivite fără consimțământ drept „o linie roșie”, atât moral, cât și juridic. Acest acord interzice introducerea pe piața Uniunii Europene a sistemelor de inteligență artificială destinate în principal „dezbrăcării” persoanelor din imagini sau reprezentării unor persoane identificabile în scenarii cu caracter sexual explicit.

Mecanismul de aplicare impune dezvoltatorilor și magazinelor de aplicații să elimine aceste servicii până în decembrie 2026, sub amenințarea unor amenzi severe.

Premierul Italiei a fost una dintre victime

Până în 2026, aplicațiile de acest tip fuseseră descărcate de peste 705 milioane de ori la nivel mondial. Rapoartele indică o creștere de 118% numai în 2024 și o creștere de zece ori a incidentelor legate de AI până la începutul anului 2026, dintre care 99% au implicat femei.

Un caz celebru a fost reprezentat de cel al Giorgiei Meloni, care a denunțat distribuirea unei imagini create cu conținut sexual, fără consimțământul ei. Primul-ministru al Italiei a tras un semnal de alarmă pe rețele de socializare cu privire la riscurile generate de aceste imagini deepfake.

„Deepfake-urile sunt un instrument periculos, pentru că pot înșela, manipula și ținti pe oricine. Eu mă pot apăra. Mulți alții nu pot”, a declarat premierul italian Giorgia Meloni.

O poarte din evoluția din ultimii ani a acestui tip de tehnologie a fost generată de Grok, chatbot-ul companiei xAI (condusă de Elon Musk), care a produs milioane de imagini cu caracter sexual explicit, realizate fără consimțământul persoanelor implicate, reprezentând atât femei, cât și copii.

Sursa: Mediafax