Instagram va folosi procesare AI pentru detectarea și blocarea comentariilor ofensatoare

Autor: Aurelian Mihai 04.04.2021
Instagram va folosi procesare AI pentru detectarea și blocarea comentariilor ofensatoare

Încercând să limiteze abuzurile care trec nedetectate, administratorul Facebook anunță introducerea filtrelor asistate de procesare AI, cu scopul detectării mesajelor abuzive de pe Instagram și blocarea acestora, fără a mai fi necesară raportarea manuală.

Instagram, la fel ca și Facebook, este teren prielnic pentru abuzuri de orice fel. Însă cel mai adesea, abuzurile se produc la adresa autorilor de conținut, prin postarea de comentarii ofensatoare.

Deocamdată, singura modalitate prin care poți filtra comentariile postate pe Instagram este vizitând secțiunea Hide Offensive Comments, din zona Privacy a meniului Settings. Problema este că filtrarea se face prin definirea manuală de cuvinte cheie, însemnând că persoana vizată are mult de lucru pentru obținerea rezultatului dorit și, oricum, cealaltă persoană poate oricând să-și ajusteze formula de exprimare pentru a păcăli sistemul.

Instagram AI

De acum, blocarea comentariilor ofensatoare pe Instagram se va face și cu asistența algoritmilor AI de inteligență artificială, însemnând că sistemul se poate adapta pentru detectarea și blocarea utilizatorilor abuzivi.

Totuși, nici acest sistem nu este perfect, anumiți utilizatori care folosesc browserul Apple Safari pentru accesarea Instagram raportând că în urma bifării opțiunii Limit Adult Content, platforma de socializare blochează în mod inexplicabil orice căutări pe subiecte cu referințe „asiatice”.

Revenind la secțiunea comentarii, noul filtru bazat pe tehnologii machine learning pare să folosească drept referință o bază de date conținând expresii și cuvinte ofensatoare deja raportate de utilizatori, fapt ce lasă posibilitatea cenzurării nejustificate a anumitor mesaje, doar pe criteriul exprimării folosite.