Un copil de zece ani risca să moară prin electrocutare, urmând sugestiile Alexa

Configurat de Amazon pentru a răspunde la întrebări folosind informații extrase din internet, serviciul Alexa de asistență prin comandă vocală poate fi un real pericol pentru utilizatorii care iau de bune sugestiile primite.

Luăm exemplul unei fetițe de 10 ani, care a în joacă a solicitat asistentului Alexa o provocare distractivă. În locul unui răspuns la fel de inocent, algoritmii guvernați de inteligență artificială au preluat o sugestie extrasă de pe un site cu nume dubios. Potențial letală, provocarea selectată de asistentul Alexa consta în inserarea parțială în priză a unui încărcător pentru telefoane mobile și atingerea contactelor metalice expuse cu o monedă.

OMFG My 10 year old just asked Alexa on our Echo for a challenge and this is what she said. pic.twitter.com/HgGgrLbdS8

— Kristin Livdahl (@klivdahl) December 26, 2021

Interesant este că Alexa nu este sigurul asistent digital acuzat că oferă sugestii potențial letale, bazate pe informații neverificate sau incorect procesare, extrase de pe internet. Recent, Google Assistant a returnat unui utilizator care solicita indicații rapide pentru ajutarea unei persoane care a tocmai suferea o criză de epilepsie exact acțiunile care trebuiau evitate la momentul respectiv. Concret, sistemul bazat pe inteligență artificială a extras recomandările dintr-o listă afișată pe un site cu specific medical, recunoscut ca oferind informații de încredere. Numai că algoritmii Google nu au reușit să interpreteze și titlul ”Do Not” atașat listei respective, care în mod evident anunța o serie de contraindicații. Preluate fără această informație crucială, sugestiile Google Assistant nu făceau decât să înșiruie toate greșelile comune care, împreună, ar fi putut cauza rănirea gravă sau chiar decesul persoanei pe care încerci să o ajuți.

The Google search summary vs the actual page pic.twitter.com/OJxt1FrBqh

— ウィアブー リンデン (@soft) October 16, 2021

Revenind la cazul fetiței de 10 ani, alarmată de sugestia primită, aceasta a decis să ceară mai întâi părerea propriei mame, care ulterior a mărturisit experiența avută într-o postare pe Twitter, ridicând un mare semn de întrebare referitor la pericolele ascunse pe care le-ar putea ascunde unele dintre tehnologiile moderne pe care ne bazăm în viața de zi cu zi.