Deepfake-urile cu caracter sexual ar putea fi interzise în Uniunea Europeană. Ce amenzi riscă platformele care le găzduiesc

Utilizarea inteligenței artificiale pentru a genera imagini intime false cu persoane reale atrage atenția la nivel european. Eurodeputații cer clarificări privind limitele acestor tehnologii și eventualele interdicții, transmite Mediafax.

Europarlamentarul Dan Motreanu a anunțat joi că Parlamentul European analizează necesitatea unor reguli mai clare privind utilizarea inteligenței artificiale pentru generarea sau manipularea imaginilor intime. „Susțin interzicerea aplicațiilor care folosesc inteligența artificială pentru a crea sau manipula imagini sexuale sau intime ce seamănă cu o persoană reală, fără consimțământul acesteia”, a transmis acesta.

Motreanu a precizat că membrii Comisiilor pentru Piață Internă și Libertăți Civile merg în aceeași direcție. Mai mulți eurodeputați au solicitat clarificări din partea Comisiei Europene cu privire la posibilitatea includerii acestor aplicații pe lista practicilor de inteligență artificială interzise.

Regulamentul european privind inteligența artificială impune obligații pentru furnizorii celor mai puternice modele de AI. Aceștia trebuie să evalueze și să reducă riscurile generate de tehnologiile dezvoltate, inclusiv cele legate de conținut ilegal sau discriminatoriu. Aceste obligații vor intra în vigoare începând cu 2 august 2026.

Însă interdicțiile prevăzute în prezent nu includ explicit sistemele de inteligență artificială care generează imagini sexuale deepfake sau materiale ce pot conține abuzuri asupra copiilor. De aceea, o parte dintre statele membre, printre care și România, au formulat deja propuneri pentru extinderea acestor restricții.

În baza Regulamentului privind serviciile digitale, executivul european a lansat o procedură împotriva platformei X pentru a verifica modul în care compania a evaluat și a gestionat riscurile asociate noilor funcționalități bazate pe inteligență artificială. Ancheta vizează inclusiv riscurile legate de distribuirea de conținut ilegal, precum imagini manipulate cu caracter sexual explicit sau materiale care ar putea intra în categoria pornografiei infantile.

Dacă vor fi constatate nereguli, Comisia poate impune amenzi de până la 6% din cifra de afaceri anuală globală a companiei.