Un chatbot Meta a trimis un necunoscut la ușa unui bărbat în miezul nopții, după ce i-a divulgat adresa de acasă

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Un creator de conținut din Canada a trăit o experiență alarmantă după ce noul asistent cu inteligență artificială dezvoltat de Meta i-a transmis adresa personală unui străin și a stabilit o întâlnire nocturnă la ușa locuinței sale, relatează Mediafax.

Matt Robb, rezident în Toronto, a apelat la agentul AI Muse pentru a gestiona vânzările și negocierile pe Facebook Marketplace. În mai puțin de o zi, un cumpărător necunoscut s-a prezentat la ușa sa în toiul nopții, după ce botul a acceptat oferta, a oferit adresa și a trimis automat un mesaj în care susținea că proprietarul se află acasă. „Nu doar că i-a dat adresa când a întrebat și i-a acceptat oferta, dar aproape că îl provoca pe tipul respectiv”, a declarat Robb. El a precizat că asistentul a indicat că el ar fi fost la domiciliu, deși nu se afla acolo.

Situația a apărut din cauza opțiunii „always allow”, pe care canadianul o activase atunci când a acordat acces aplicației la contul său. Întrucât detaliile de ridicare conțineau deja adresa, softul a folosit-o direct, fără să mai solicite vreo aprobare suplimentară.

Robb s-a confruntat și cu alte erori, precum oferirea unui preț cu 100 de dolari sub pragul minim pe care îl stabilise. Meta a recunoscut ulterior această problemă, fapt care l-a determinat pe utilizator să limiteze drastic accesul programului.

Riscurile autonomiei sporite a asistenților digitali

Sistemele de tip agent, cum sunt Muse de la Meta sau dots creat de OpenAI, sunt gândite să îndeplinească sarcini în mod autonom, chiar și în absența utilizatorului. O asemenea eficiență impune însă partajarea de date sensibile, de la agende și calendare până la corespondența privată.

Veronica Rivera, expertă în securitate cibernetică la Georgia Tech, a comparat delegarea sarcinilor către un asistent AI cu predarea cheilor unei locuințe împreună cu o serie de instrucțiuni de urmat.

Specialiștii subliniază că vulnerabilitățile vizează inclusiv terții care nu interacționează direct cu aceste programe. Ebrahim Bagheri, profesor la Universitatea din Toronto, a avertizat că revocarea autorizațiilor nu garantează eliminarea datelor deja preluate de bot. Mai mult, prin scanarea mesajelor unui cont, asistentul poate colecta date transmise de apropiați fără consimțământul lor.

În timp ce Apple a introdus noi protecții pe sistemul macOS pentru a contracara pericolele aduse de autonomia roboților, Meta susține că instrumentul său operează strict conform permisiunilor setate, deși admite că agentul poate genera erori sau poate iniția acțiuni neprevăzute.