Modelul AI Grok al lui Elon Musk, criticat dur la nivel internațional după ce a generat imagini cu femei și copii dezbrăcați

Chatbotul AI Grok al lui Elon Musk se confruntă cu reacții negative din partea guvernelor din întreaga lume, după o recentă creștere a numărului de imagini sexualizate cu femei și copii, generate de instrumentul bazat pe inteligență artificială fără consimțământul acestora, transmite Mediafax.

Cel mai înalt oficial britanic în domeniul tehnologiei a cerut marți platformei de socializare X a lui Musk să ia măsuri urgente, în timp ce un legislator polonez a invocat acest fapt ca motiv pentru adoptarea unor legi privind siguranța digitală, scrie Associated Press.

Executivul Uniunii Europene a denunțat Grok, în timp ce oficialii și autoritățile de reglementare din Franța, India, Malaezia și Brazilia au condamnat platforma și au solicitat anchete.

Alarma crescândă din partea unor națiuni disparate indică potențialul de coșmar al aplicațiilor de nudificare care utilizează inteligența artificială pentru a genera imagini deepfake sexual explicite.

Problema a apărut după lansarea, anul trecut, a Grok Imagine, un generator de imagini bazat pe inteligență artificială care permite utilizatorilor să creeze videoclipuri și imagini prin introducerea unor comenzi textuale. Acesta include un așa-numit „mod picant” care poate genera conținut pentru adulți. Situația s-a agravat la sfârșitul lunii trecute, când Grok, care este găzduit pe X, a început aparent să accepte un număr mare de solicitări din partea utilizatorilor pentru a modifica imaginile postate de alții. Marți, utilizatorii Grok puteau încă genera imagini cu femei prin utilizarea unor solicitări precum „pune-o într-un bikini transparent”.

Problema este amplificată atât pentru că Musk își promovează chatbotul ca o alternativă mai îndrăzneață la rivalii săi, cu mai puține măsuri de siguranță, cât și pentru că imaginile Grok sunt vizibile public și, prin urmare, pot fi răspândite cu ușurință.

Grupul non-profit AI Forensics a declarat într-un raport că a analizat 20.000 de imagini generate de Grok între 25 decembrie și 1 ianuarie și a constatat că 2% dintre acestea înfățișau o persoană care părea să aibă 18 ani sau mai puțin, inclusiv 30 de femei sau fete tinere sau foarte tinere în bikini sau haine transparente.

Compania de inteligență artificială a lui Musk, xAI, a răspuns la o solicitare de comentarii cu răspunsul automat „Legacy Media Lies” (Minciunile mass-media tradiționale).

Cu toate acestea, X nu a negat existența conținutului problematic generat prin Grok. Totuși, într-o postare pe contul său Safety, compania a afirmat că ia măsuri împotriva conținutului ilegal, inclusiv împotriva materialelor cu abuzuri sexuale asupra copiilor, prin eliminarea acestuia, suspendarea permanentă a conturilor și colaborarea cu autoritățile locale și forțele de ordine, după caz.

Platforma a repetat, de asemenea, un comentariu al lui Musk, care a spus: „Oricine folosește Grok pentru a crea conținut ilegal va suferi aceleași consecințe ca și cum ar încărca conținut ilegal”.

O listă tot mai mare de țări cere ca Musk să ia mai multe măsuri pentru a controla conținutul explicit sau abuziv.