Meta a eliminat în secret sistemul de recunoaștere facială din aplicația pentru ochelarii săi inteligenți, în urma unui articol publicat de Wired

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Meta a eliminat aproape toate urmele unui sistem de recunoaștere facială încă nelansat din aplicația complementară pentru ochelarii săi inteligenți, la o zi după ce publicația Wired a raportat că software-ul fusese integrat în secret într-o aplicație instalată pe peste 50 de milioane de telefoane. Funcția, denumită intern de Meta „NameTag”, a fost concepută pentru a transforma fețele capturate de ochelarii inteligenți Ray-Ban ai companiei în semnături biometrice unice și a le compara cu o bază de date stocată pe dispozitivul utilizatorului. Publicația Wired a descoperit, de asemenea, că fețele pe care sistemul nu le-a recunoscut erau decupate, indexate și stocate local pentru procesare ulterioară.

Cu alte cuvinte, aceeași aplicație necesară pentru conectarea ochelarilor inteligenți Meta la telefonul utilizatorului prin Bluetooth era, de asemenea, pregătită să înceapă colectarea tuturor fețelor pe lângă care trecea utilizatorul în timp ce îi purta.

Meta a încorporat în secret codul pentru un software de recunoaștere facială

Ochelarii Meta Ray-Ban au fost supuși unei atenții sporite din partea publicului în urma dezvăluirilor privind activitatea de recunoaștere facială pe care Meta o desfășoară în cadrul ochelarilor săi inteligenți. Consumatorii sunt, pe bună dreptate, reticenți față de produsele care ar putea transforma tehnologia purtabilă în dispozitive de supraveghere de zi cu zi.

La începutul lunii iunie, o anchetă realizată de Wired a dezvăluit modul în care Meta a încorporat în secret codul pentru un software de recunoaștere facială inactiv, sub denumirea internă „NameTag”. Dacă ar fi fost lansată, această funcție ar fi permis ochelarilor inteligenți Meta să identifice biometric orice persoană aflată în câmpul vizual, în timp real, fără consimțământ, folosind o amprentă facială digitală stocată. Codul, care nu a fost niciodată activat pentru utilizatori, a fost eliminat o zi mai târziu. Publicația a considerat acest lucru deosebit de îngrijorător, întrucât codul pentru sistem fusese introdus în secret într-o aplicație descărcată de milioane de ori.

Electronic Frontier Foundation a verificat concluziile inițiale și a raportat că Meta și-a schimbat cursul în urma reacțiilor negative din partea publicului. Totuși, organizația non-profit dedicată protecției vieții private a subliniat că ștergerea codului de către Meta „nu înseamnă o schimbare permanentă de atitudine”.

Meta colaborează cu un furnizor al armatei americane și al agențiilor de aplicare a legii

Acum, la doar o săptămână după ce Meta a eliminat codul, compania se confruntă cu noi întrebări privind prototipul său de software de recunoaștere facială. O nouă investigație realizată de Wired a dezvăluit că Meta a colaborat cu Rank One Computing, un furnizor al armatei americane și al agențiilor de aplicare a legii, pentru tehnologia sa de identificare biometrică. Publicația a relatat că a descoperit o licență de software care leagă furnizorul Pentagonului de aplicația Meta AI, aceeași utilizată pentru ochelarii inteligenți ai Meta.

Acordul de licență ar autoriza Meta să utilizeze tehnologia de recunoaștere facială de nivel militar și „detectarea prezenței” a Rank One, o tehnologie care confirmă dacă se vede o persoană în carne și oase, o mască sau o fotografie. Această relație de afaceri, așa cu a subliniat Wired, „arată cât de subțire a devenit linia de demarcație între tehnologia de supraveghere vândută forțelor de ordine și armatei și produsele de consum vândute tuturor celorlalți”.

Potrivit Wired, Rank One Computing, firma cu sediul în Denver, își obține aproximativ 80% din venituri de la clienți guvernamentali, iar conducerea sa este formată din foști ofițeri de rang înalt din forțele de ordine și serviciile de informații, cum ar fi FBI, CIA și Pentagon.

Istoricul problematic al companiei legat de recunoașterea facială

Potrivit declarațiilor, Meta nu a luat nicio decizie finală cu privire la software-ul de recunoaștere facială pentru Meta Glasses și nu a confirmat dacă gigantul tehnologic licențiază un software de nivel militar pentru ochelarii săi. Într-o declarație transmisă prin e-mail, Meta a menționat: „Nu s-a livrat nimic consumatorilor și nu s-a luat nicio decizie finală cu privire la ce se va face în acest sens, dacă se va face ceva. Dacă vom decide să lansăm ceva, vom adopta o abordare chibzuită și vom proceda cu transparență deplină.”

În rapoarte anterioare, s-a subliniat că ar fi un precedent periculos dacă ochelarii Meta ar stoca date biometrice faciale într-o bază de date încorporată, capabilă să compare amprentele faciale noi cu cele existente. La momentul respectiv, un purtător de cuvânt al Meta a răspuns că compania „nu construiește o bază de date centralizată pentru fețe”.

La sfârșitul anului 2021, sub presiunea opiniei publice, Meta a anunțat planuri de a renunța la eforturile de a construi o bază de date centralizată de recunoaștere facială pe platforma Facebook. Până la acel moment, a declarat compania, aproximativ 600 de milioane de utilizatori la nivel global optaseră deja pentru utilizarea software-ului, care putea identifica fețele din fotografii și videoclipuri pentru a eticheta persoanele pe site-ul de socializare. Ulterior, Meta a ajuns la o înțelegere în cadrul unui proces din 2024 intentat de statul Texas privind colectarea datelor de recunoaștere facială, în schimbul sumei de 1,4 miliarde de dolari.

La începutul acestui an, The New York Times a relatat că Meta dezvolta un software pentru ochelarii săi inteligenți menit să identifice persoanele, probabil folosind date de pe rețelele sale sociale, precum Facebook și Instagram. Articolul cita o notă internă a Meta în care se afirma că agitația politică din SUA ar distrage atenția criticilor de la lansarea acestei funcționalități.

Grupurile de apărare a vieții private, precum EFF, au subliniat de mult timp efectele negative ale tehnologiei de recunoaștere facială, întrucât supravegherea publică bazată pe date biometrice subminează grav anonimatul. Tehnologia de recunoaștere facială are, de asemenea, un impact negativ disproporționat asupra grupurilor marginalizate, deoarece poate urmări mișcările, poate identifica eronat persoanele de culoare și poate duce la arestări nejustificate. Companiile și guvernele pot, de asemenea, să abuzeze de amprentele faciale fără consimțământ, creând riscuri de furt de identitate și de securitate cibernetică.

La fel ca alte sisteme de recunoaștere facială, cel al Rank One nu funcționează la fel de bine în toate grupurile demografice. În cadrul testelor efectuate de Institutul Național de Standarde și Tehnologie (NIST), o versiune a algoritmului companiei a generat potriviri eronate la rate semnificativ diferite, în funcție de sexul persoanei și de țara de naștere, pe care NIST le folosește ca indicator al rasei. Ratele de eroare au fost cele mai scăzute în cazul persoanelor născute în Europa de Est și au avut tendința de a fi mai ridicate în cazul femeilor decât în cazul bărbaților.

Necesitatea legilor de protecție a confidențialității consumatorilor

Kade Crockford, directorul programului „Tehnologie pentru libertate” al Uniunii Americane pentru Libertăți Civile din Massachusetts, a declarat că eliminarea codului nu anulează decizia inițială de a-l include în ochelari și a subliniat că acest lucru dovedește faptul că confidențialitatea consumatorilor are nevoie de o protecție juridică mai puternică decât cea pe care Congresul a fost dispus să o ofere. Camera Reprezentanților din Massachusetts a adoptat în unanimitate un proiect de lege privind confidențialitatea consumatorilor care, dacă ar fi promulgat așa cum a fost redactat, ar impune dispoziții stricte de aplicare, inclusiv un drept privat de acțiune care să le permită utilizatorilor lezați să intenteze procese. „Legiuitorii statali trebuie să-și facă datoria și să ia măsuri pentru a proteja confidențialitatea consumatorilor”, a spus Crockford.

„Tacticile viclene ale Meta de a strecura codul de recunoaștere facială în ochelarii săi inteligenți arată exact de ce proiectele de lege privind confidențialitatea datelor au nevoie de forța unei aplicări stricte”, a adăugat Crockford. „Companiile precum Meta acordă prioritate profitului, așa că legiuitorii trebuie să vorbească în singurul limbaj pe care îl înțelege conducerea lor.”

Meta a refuzat să răspundă la întrebări adresate de Wired înainte de publicarea articolului de investigație, inclusiv dacă a creat deja baza de date cu profiluri faciale utilizată de NameTag, cât timp păstrează aplicația fotografiile și datele biometrice ale persoanelor nerecunoscute stocate pe dispozitivul unui utilizator și dacă aceste date vor fi vreodată trimise înapoi către serverele Meta.

În plus, Meta nu a răspuns la o întrebare referitoare la faptul dacă dezvoltă NameTag special pentru utilizatorii nevăzători sau cu vedere slabă și nu a răspuns la criticile aduse de apărătorii confidențialității, care au avertizat că sistemul ar putea permite hărțuitorilor și agresorilor să identifice persoane necunoscute în spațiul public. De asemenea, nu a răspuns la întrebarea dacă intenționează să le ofere utilizatorilor posibilitatea de a opta pentru sau împotriva utilizării sistemului.

Faptul că eliminarea codului, determinată de jurnalismul de investigație, constituie o victorie sau doar o retragere tactică depinde de ceea ce va face Meta în continuare și de faptul dacă presiunea de reglementare care se acumulează de ambele părți ale Atlanticului va produce consecințe aplicabile înainte ca funcția să revină în tăcere sub un alt nume.