Noul site web SynthID al Google care poate identifica conținutul media generat de IA se lansează la nivel global

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Google pune la dispoziția tuturor SynthID Detector, instrumentul său web pentru identificarea conținutului creat și editat cu ajutorul IA. Instrumentul web poate detecta care imagini, clipuri video și audio au fost create cu instrumente de IA de la Google, OpenAI, NVIDIA și Kakao, potrivit ArsTechnica.

Utilizarea sa este gratuită, dar necesită autentificarea cu un cont Google, OpenAI sau Apple. Compania a pus acest instrument la dispoziția unor jurnaliști, profesioniști din domeniul mass-media și cercetători selectați pentru testare la Google I/O anul trecut, iar acum deschide accesul la instrument pentru toată lumea.

Site-ul acceptă formatele JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF și GIF pentru imagini; MP4, MOV și WEBM pentru videoclipuri; și WAV, MP3, OGG, FLAC, AAC și M4A pentru fișiere audio.

Google folosește SynthID, pe care l-a introdus în 2023, pentru a identifica dacă un conținut media este generat de IA. Modelele companiei Nano Banana, Veo și Lyria, precum și instrumentele cu capacități de generare, precum Gemini, Flow, ProducerAI și Vids, utilizează toate SynthID pentru a aplica un filigran oricărui conținut media pe care îl generează.

OpenAI, Nvidia și Kakao acceptă, de asemenea, SynthID, iar OpenAI administrează propriul site pentru verificarea conținutului. Se spune că și Apple va adăuga în curând această funcționalitate.

Google a integrat verificarea prin SynthID în aplicația Gemini și în Google Chrome. Compania a declarat că, în prezent, se înregistrează 1 milion de solicitări de verificare a conținutului în fiecare zi.

Microsoft și Meta au propriile standarde pentru aplicarea filigranelor și verificarea conținutului. Cu toate acestea, aceste instrumente nu sunt infailibile și eșuează adesea în identificarea conținutului creat de modelele proprii.

SynthID este un semnal invizibil codificat în pixelii imaginilor și videoclipurilor generate de IA. Google afirmă că numai Gemini a integrat SynthID în peste 180 de miliarde de imagini și videoclipuri, plus 240.000 de ani de înregistrări audio. Până acum, singura modalitate prin care cei care nu fac parte din programul de testare de încredere al Google puteau verifica prezența SynthID era să întrebe Gemini. Această metodă este destul de greoaie, iar răspunsul modelului putea fi uneori confuz când era așteptat doar un simplu „da” sau „nu”.

Deși detectorul este disponibil pentru oricine, cerința de autentificare limitează frecvența de utilizare. Google afirmă că fiecare utilizator beneficiază de „o cotă zilnică de utilizare de aproximativ 10 verificări de imagini, videoclipuri și fișiere audio”.

Instrumentele de detectare anterioare aveau o limită similară. Inginerii Google au declarat că limitarea accesului este necesară pentru a împiedica utilizatorii să folosească verificările în scopul dezvoltării unor instrumente de eliminare a SynthID. Neclaritatea privind numărul exact se datorează probabil faptului că sistemul poate bloca accesul mai devreme dacă sunt verificate mai multe imagini foarte similare. Acest lucru ar putea indica faptul că cineva încearcă să perfecționeze o metodă de ocolire.

Unii furnizori de modele utilizează tehnologii diferite de marcare cu filigran (cum ar fi Meta), în timp ce alții nu folosesc deloc filigrane. Și mai există și modele cu cod sursă deschisă (open source) pe care utilizatorii le pot rula pe propriul hardware pentru a produce conținut generat de IA din ce în ce mai realist, care nici măcar nu include etichetarea simplă cu metadate.

Asta înseamnă că există o mulțime de conținut generat de IA care nu va fi identificat ca atare de instrumentul SynthID. Site-ul web va conține o mențiune în acest sens. De asemenea, este plauzibil ca, în ciuda eforturilor Google, cineva să găsească o modalitate de a elimina SynthID, astfel încât conținutul IA existent să pară mai autentic.

Nu este un sistem perfect, dar aceasta este realitatea atunci când ne bazăm pe aplicarea proactivă a filigranelor pentru imaginile generate de IA, care se răspândesc pe internet într-un ritm alert.