Raport: Funcțiile AI din Google Search reprezintă un „risc inacceptabil” pentru copii

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Noile funcții bazate pe inteligență artificială din Google Search au fost evaluate drept un „risc inacceptabil” pentru minori într-un raport publicat de Common Sense Media.

Organizația susține că AI Overviews și AI Mode pot furniza răspunsuri periculoase chiar și atunci când SafeSearch este activ.

Google Search – Teste realizate pe mii de căutări

Raportul a fost elaborat de Youth AI Safety Institute din cadrul Common Sense Media.

Cercetătorii au efectuat peste 2.600 de căutări folosind conturi configurate pentru utilizatori de 11 și 15 ani.

Toate testele au fost realizate cu SafeSearch activat, pentru a simula experiența obișnuită a copiilor și adolescenților.

Potrivit autorilor, sistemul nu a respectat majoritatea principiilor de siguranță analizate și a încălcat toate criteriile considerate critice.

Conținut sensibil și răspunsuri problematice

Raportul susține că instrumentele AI au oferit explicații despre crearea de materiale deepfake fără consimțământ și despre metode de evitare a detectării acestora.

În cazul întrebărilor școlare, AI Mode ar fi rezolvat integral temele, în loc să ofere explicații sau îndrumare.

Organizația afirmă că sistemul a gestionat necorespunzător și întrebările legate de sănătatea mintală.

În unele situații, AI nu ar fi identificat indicii privind intențiile suicidare și ar fi recomandat inclusiv o linie telefonică de criză care nu mai funcționează din 2023.

Google Search – Lipsa opțiunilor de control

Autorii raportului atrag atenția că AI Overviews este integrat direct în motorul de căutare.

Din acest motiv, părinții și profesorii nu pot dezactiva aceste rezumate generate automat, chiar dacă folosesc filtre și controale parentale.

Google contestă concluziile

Google respinge evaluarea realizată de Common Sense Media.

Compania susține că raportul se bazează pe întrebări artificiale și neobișnuite, care nu reflectă modul în care utilizatorii folosesc în practică motorul de căutare.

Reprezentanții Google afirmă că nu au reușit să reproducă răspunsurile semnalate în raport.

Totodată, compania precizează că sistemul este conceput pentru a afișa informații verificate și servicii de asistență atunci când detectează solicitări legate de situații de criză.

VIDEO