YouTube extinde sistemul de detectare a videoclipurilor deepfake pentru politicieni și jurnaliști

YouTube a anunțat extinderea unui instrument bazat pe inteligență artificială destinat identificării videoclipurilor deepfake. Noua etapă a programului include politicieni, oficiali guvernamentali și jurnaliști, categorii care pot solicita verificarea și, în anumite cazuri, eliminarea conținutului care le imită identitatea.

Decizia vine pe fondul creșterii numărului de materiale generate artificial care pot reproduce în mod convingător imaginea sau vocea unor persoane reale.

Cum funcționează sistemul de identificare

Tehnologia utilizată de platformă analizează videoclipurile încărcate pentru a detecta fețe generate sau modificate cu ajutorul instrumentelor de inteligență artificială. Sistemul identifică modele vizuale specifice conținutului sintetic și încearcă să stabilească dacă acestea imită o persoană reală.

Instrumentul este inspirat de modul de funcționare al sistemului Content ID, utilizat de ani de zile pentru identificarea materialelor protejate de drepturi de autor. În loc să compare fragmente audio sau video, noua tehnologie se concentrează asupra caracteristicilor vizuale ale fețelor generate digital.

Atunci când este detectată o posibilă potrivire, persoana vizată primește acces la materialul respectiv pentru a-l analiza și, dacă este cazul, poate solicita eliminarea lui în baza regulilor platformei.

Extinderea accesului la instrument

Inițial, funcția de detectare a asemănării vizuale a fost disponibilă exclusiv pentru creatorii înscriși în programul YouTube Partner Program.

Prin extinderea anunțată, instrumentul devine accesibil și altor categorii de persoane publice, inclusiv politicieni, oficiali guvernamentali și jurnaliști. Potrivit companiei-mamă Google, această schimbare urmărește să ofere un mecanism suplimentar pentru identificarea materialelor care folosesc în mod neautorizat imaginea unor persoane implicate în viața publică.

Rolul verificării identității

Pentru a utiliza instrumentul, persoanele eligibile trebuie să treacă printr-un proces de verificare a identității. Acesta presupune transmiterea unui document oficial și a unei fotografii realizate în timp real.

După validare, utilizatorii pot consulta videoclipurile semnalate de sistem și pot decide dacă solicită eliminarea lor.

Evaluarea contextului înainte de eliminare

Platforma precizează că nu toate videoclipurile identificate vor fi eliminate automat. Fiecare solicitare este analizată individual, iar decizia finală ia în considerare contextul în care apare materialul.

În unele situații, conținutul poate rămâne online dacă este considerat satiră, parodie sau comentariu politic, elemente care sunt tratate diferit în politicile platformei privind libertatea de exprimare.

Extinderea instrumentului reflectă preocupările tot mai mari legate de utilizarea tehnologiilor deepfake și de impactul acestora asupra circulației informațiilor în spațiul public.