Apple a avertizat xAI că va retrage Grok de pe App Store din cauza generării de imagini cu tentă sexuală

În luna ianuarie a acestui an, Apple a avertizat în mod confidențial compania xAI a lui Elon Musk că va elimina aplicația Grok din App Store, cu excepția cazului în care compania va pune capăt difuzării de deepfake-uri cu nuditate și conținut sexualizat generat de acest chatbot, potrivit unei scrisori trimise de Apple senatorilor americani și obținută de NBC News.

La începutul acestui an, capacitățile de AI ale Grok au fost supuse unei analize amănunțite după ce utilizatorii X au distribuit, fără consimțământ, imagini sexualizate cu femei și copii create de aplicație, multe dintre acestea fiind bazate pe fotografii ale unor persoane reale.

A urmat o implementare confuză a modificărilor de moderare pentru Grok, dintre care unele puteau fi ușor ocolite. Public, Apple nu a comentat controversa la momentul respectiv, dar a răspuns în privat și a fost, de fapt, inițiatorul modificărilor. La nivel intern, compania a constatat că atât X, cât și Grok încălcau politicile magazinului App Store și a cerut dezvoltatorilor să prezinte un plan de moderare a conținutului, relevă această scrisoare.

Conform scrisorii, Apple a respins o soluție inițială propusă de xAI ca fiind insuficientă, afirmând că „modificările nu mergeau suficient de departe”, iar Apple a avertizat compania că sunt necesare modificări suplimentare, altfel aplicația Grok urma să fie eliminată. După mai multe discuții, însă, Apple a hotărât, în cele din urmă, că o versiune ulterioară a aplicației se îmbunătățise suficient pentru a fi aprobată.

Ce au cerut senatorii americani

Dezvăluirea a fost aparent determinată de o scrisoare din ianuarie a senatorilor Ron Wyden, Ben Ray Luján și Edward Markey, care au îndemnat Apple și Google să retragă aplicația Grok, argumentând că imaginile generate încălcau regulile App Store, care interzic conținutul ofensator, sexual și de exploatare.

Senatorii au mai spus că răspunsul Apple va pune la încercare chiar propriile politici ale companiei, aceasta laudându-și mereu App Store-ul ca fiind “curat”, susținând că procesul său de aprobare a aplicațiilor asigură o mai mare siguranță utilizatorilor. Permisiunea ca Grok să continue să genereze acest tip de imagini, au susținut ei, ar submina acest argument în ochii publicului și în fața unei instanțe de judecată.

Poziția X în acest scandal

După ce NBC News a publicat raportul, X a postat următoarea declarație pe platforma sa:

„Interzicem strict utilizatorilor să genereze deepfake-uri explicite fără consimțământ și să folosească instrumentele noastre pentru a dezbrăca persoane reale. xAI dispune de măsuri de protecție extinse pentru a preveni astfel de abuzuri, precum monitorizarea continuă a utilizării publice, analiza în timp real a încercărilor de eludare, actualizări frecvente ale modelelor, filtre de prompt și măsuri de protecție suplimentare”.

Deși numărul de deepfake-uri sexualizate create de Grok și postate pe X pare să fi scăzut semnificativ, NBC News a constatat că Grok este încă capabil să genereze imagini similare, iar unii utilizatori și-au actualizat pur și simplu comenzile pe care le adresează chatbot-ului pentru a ocoli măsurile de protecție.

Sursa: Mac Rumors