Scandal pe X: Grok poate crea conținut explicit fără consimțământ

Rețeaua socială X continuă să găzduiască imagini și materiale video cu caracter sexual generate cu ajutorul inteligenței artificiale, inclusiv conținut realizat fără acordul persoanelor implicate, în ciuda anunțurilor recente privind introducerea unor restricții stricte. Informațiile au fost semnalate inițial de Mediafax și detaliate într-o investigație publicată de The Guardian.

Potrivit companiei, la începutul săptămânii au fost implementate „instrumente tehnologice” menite să împiedice folosirea AI-ului Grok pentru manipularea imaginilor reale ale oamenilor în scop sexual. Reprezentanții X au reiterat public politica de „toleranță zero” față de nuditatea nonconsensuală și exploatarea sexuală, inclusiv în cazul minorilor. În practică, însă, aceste măsuri par insuficiente.

Restricții anunțate, dar ușor de ocolit

Ancheta realizată de The Guardian arată că o versiune separată a aplicației, cunoscută sub numele de Grok Imagine, rămâne accesibilă prin browser. Aceasta permite generarea de imagini și chiar videoclipuri sexualizate pornind de la fotografii obișnuite ale unor femei îmbrăcate. Conținutul rezultat poate fi distribuit ulterior fără obstacole pe platforma X și devine public în doar câteva secunde.

Această posibilitate de ocolire a restricțiilor ridică semne de întrebare serioase legate de eficiența reală a măsurilor anunțate de companie. În lipsa unor filtre solide aplicate la nivelul tuturor instrumentelor AI, utilizatorii pot exploata în continuare tehnologia pentru a crea materiale cu potențial abuziv.

Citește articolul complet pe Mediafax.ro.