YouTube ar fi abuzat de filtre AI pentru a îndepărta 11.4 milioane de clipuri presupus neconforme

27.08.2020
YouTube ar fi abuzat de filtre AI pentru a îndepărta 11.4 milioane de clipuri presupus neconforme

Urmând avalanșei de plângeri venite din partea autorilor de conținut, YouTube confirmă ceea ce mulți suspectau deja, anume că echipele de moderatori au fost în mare parte înlocuite cu filtre automate bazate pe algoritmi de inteligență artificială. Deloc surprinzător, migrarea intempestivă spre tehnologii care exclud factorul uman a rezultat în abuzuri de altă natură, comise de data aceasta chiar de YouTube prin cenzurarea de conținut care nu încalcă, de fapt, regulile de postare.

Prezentat ca un rezultat demn de aprecieri, ștergerea a 11.4 milioane de clipuri YouTube în intervalul aprilie-iunie poate fi atribuită doar în mică măsură verificării minuțioase și responsabilă a conținutului suspect, 10.85 milioane dintre acestea fiind lăsate la discreția filtrelor automate fără ca autorii acestora să aibă „dreptul” la o a doua opinie din partea unui moderator.

Clipuri YouTube șterse abuziv, în baza unor algoritmi prea agresivi de moderare a conținutului

În propria apărare, administratorii YouYube declară că măsurile de reorganizare a activității prin munca de acasă și diminuarea personalului ca efect al măsurilor de carantină COVID-19 a împins la măsuri excepționale pentru ținerea sub control a conținutului potențial-abuziv. Compensând pentru „potențialul mult redus de moderare umană” YouTube a recurs la folosirea intensivă a sistemelor automate, chiar dacă unele dintre tehnologiile introduse nu erau neapărat pregătite pentru a lua un rol central în activitatea de moderare. Deși involuntar, rezultatul a fost înlăturarea a de două ori mai multe clipuri video decât în intervalul ianuarie-martie.

Spre exasperarea celor vizați de aceste măsuri, procesul de contestare a sancțiunilor impuse se lovește de aceeași lipsă de personal în echipa de moderare a conținutului, rezolvarea solicitărilor putând dura chiar și luni de zile. În propria apărare, Google precizează că a inversat decizia de excludere pentru mai mult de 325000 de clipuri YouTube șterse în mod abuziv de filtrele automate, comparat cu 166000 clipuri în trimestrul anterior. Tot administratorii YouTube admit însă că o parte dintre contestațiile soluționate erau înregistrate din trimestrul trecut, multe altele rămânând probabil în așteptare.