TikTok pregătește reduceri masive de personal, pe fondul avansului inteligenței artificiale

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

TikTok intenționează să elimine aproximativ 300 de posturi din Irlanda, într-o reorganizare amplă a echipelor sale de încredere și siguranță, responsabile pentru identificarea și eliminarea conținutului periculos de pe platformă. Decizia ridică noi întrebări cu privire la rolul tot mai mare al inteligenței artificiale în moderarea online și la capacitatea marilor platforme de socializare de a proteja utilizatorii în fața materialelor dăunătoare.

Compania a transmis pentru The Independent că procesul de consultare va include și echipe din alte piețe, fără a preciza însă ce țări ar putea fi afectate de reducerile de personal. În mod tradițional, moderatorii de conținut analizează și elimină videoclipuri care includ materiale violente, periculoase, abuzive sau care încalcă politicile platformei. În cazul TikTok, distribuirea materialelor spre verificare se face în funcție de limbă, nu strict de regiune, ceea ce înseamnă că eventualele concedieri pot avea efecte asupra utilizatorilor din mai multe țări, nu doar asupra celor dintr-o anumită zonă geografică.

TikTok a descris măsura drept parte a unei „reorganizări pentru consolidarea modelului global de operare pentru încredere și siguranță”, menționând inclusiv utilizarea „celor mai recente inovații tehnologice”. Formularea sugerează o dependență tot mai mare de sistemele automate și de instrumentele bazate pe inteligență artificială, într-un domeniu în care deciziile rapide sunt esențiale, dar în care erorile pot avea consecințe serioase.

Critici privind siguranța utilizatorilor și limitările moderării automate

Anunțul a fost întâmpinat cu îngrijorare de politicieni și de persoane implicate direct în moderarea conținutului. Chi Onwurah, președinta Comisiei guvernamentale pentru știință, inovare și tehnologie din Marea Britanie, a avertizat că reducerile de personal anunțate de TikTok reprezintă „un risc real pentru viața utilizatorilor TikTok”. Aceasta a pus sub semnul întrebării capacitatea companiei de a menține un nivel adecvat de protecție, în special într-un ecosistem digital în care conținutul nociv se poate răspândi extrem de rapid.

Și moderatorii au atras atenția că diminuarea echipelor de încredere și siguranță ar putea expune utilizatorii la riscuri mai mari. Printre pericolele menționate se numără materialele deepfake, abuzurile online, conținutul manipulator sau videoclipurile care pot produce prejudicii directe persoanelor vulnerabile. În opinia lor, inteligența artificială poate fi utilă pentru detectarea rapidă a unor tipare, însă nu este întotdeauna capabilă să înțeleagă contextul, ironia, limbajul codificat sau nuanțele culturale care pot transforma un material aparent inofensiv într-unul periculos.

TikTok susține însă că tehnologia joacă deja un rol major în moderarea platformei. Compania a declarat pentru The Independent că 97% dintre materialele eliminate între ianuarie și aprilie anul acesta au fost înlăturate prin tehnologii automate. Mai mult, potrivit platformei, 99% dintre conținuturile eliminate de inteligența artificială au fost șterse înainte de a fi raportate de utilizatori.

Cu toate acestea, criticii consideră că aceste cifre nu răspund complet problemei. Moderatorii au afirmat anterior că nu cred că sistemele AI sunt încă „pregătite” pentru a prelua moderarea la scară largă.

Sursa: Mediafax