Accesul agenților AI la conturile clienților este blocat de băncile din SUA

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Principalele bănci din SUA au început să blocheze accesul unor agenți AI la conturile clienților. Măsura a fost luată după apariția unor informații potrivit cărora anumite sisteme AI ar fi încercat să efectueze operațiuni fără instrucțiuni explicite din partea utilizatorilor.

Primele astfel de informații au fost publicate de Axios. Publicația a relatat că unele sisteme autonome AI au fost detectate în conturile bancare ale clienților, încercând să realizeze acțiuni care păreau să depășească instrucțiunile primite.

Ce bănci au luat această măsură

Printre instituțiile preocupate de aceste riscuri se numără JPMorgan Chase, Morgan Stanley, Bank of America și Wells Fargo.

Problema este legată de dezvoltarea agenților AI, o categorie de programe capabile să execute sarcini în numele utilizatorilor, fără ca fiecare etapă să necesite intervenția directă a acestora. Spre deosebire de un chatbot obișnuit, care oferă răspunsuri la întrebări, un agent AI poate naviga pe platforme digitale, completa formulare și iniția operațiuni, în funcție de permisiunile primite.

În anumite situații, clienții băncilor și-au oferit voluntar numele de utilizator și parolele acestor sisteme, potrivit unei surse din industria bancară citate de Reuters. Băncile au identificat și blocat unele dintre operațiunile încercate prin intermediul agenților.

Totuși, dacă utilizatorul a furnizat în mod voluntar datele de autentificare, stabilirea caracterului neautorizat al unei operațiuni devine mai complicată. Instituțiile financiare trebuie să determine dacă acțiunea reflectă o solicitare reală a clientului sau o decizie a sistemului AI care depășește permisiunea acordată.

Instituțiile financiare încearcă să reducă riscurile asociate utilizării unor programe autonome în operațiunile bancare

Morgan Stanley a decis să împiedice agenții AI dezvoltați de terți să acceseze platformele sale. Potrivit unei persoane familiarizate cu situația, instituția nu a identificat însă cazuri în care agenți AI să fi acționat neautorizat sau să fi scăpat de sub control.

Distincția aceasta este importantă, pentru că blocarea accesului nu înseamnă automat că o bancă a suferit pierderi sau că au fost efectuate tranzacții frauduloase.

Alte instituții financiare încearcă să reducă riscurile asociate utilizării unor programe autonome în operațiunile bancare. Una dintre dificultățile semnalate de reprezentanții industriei este diferențierea dintre un client care operează direct în cont și un agent AI care folosește aceleași date de autentificare.

O reacție asemănătoare a avut Richard Wurster, directorul general al companiei de servicii financiare Charles Schwab. Wurster a spus că zilnic primește un raport privind tentativele de acces ale agenților AI care sunt blocate de companie. Numărul acestora nu este ridicat, deocamdată, a adăugat acesta. Instituția preferă, însă, să păstreze controlul asupra autentificării și modului în care sunt utilizate serviciile sale.

Jamie Dimon, directorul general al JPMorgan Chase, a declarat anterior, în octombrie, că instituția dezvoltă instrumente pentru gestionarea riscurilor asociate agenților AI. Acesta a avertizat că permiterea accesului oricărui sistem extern la infrastructura băncii ar putea crea pericole atât pentru clienți, cât și pentru instituție.

Controversa evidențiază o problemă nouă pentru industria financiară: cine răspunde atunci când un sistem AI execută o acțiune pe care utilizatorul nu a intenționat să o autorizeze? Accesul la un cont bancar poate permite, în funcție de restricțiile platformei și de drepturile acordate, consultarea informațiilor financiare sau inițierea unor operațiuni.

Riscurile cresc atunci când un utilizator oferă unei aplicații externe parola contului, în loc să folosească o metodă de conectare autorizată de bancă, cu permisiuni limitate. Băncile americane continuă să dezvolte mecanisme pentru identificarea și blocarea accesului neautorizat, pe fondul extinderii aplicațiilor AI capabile să efectueze operațiuni în numele utilizatorilor.

Sursa: Mediafax