O grupare de infractori cibernetici vorbitori de rusă a reușit să ocolească barierele de securitate ale unui agent comercial de inteligență artificială și a determinat sistemul să ofere asistență directă în atacurile lansate împotriva mai multor companii internaționale, potrivit Mediafax.
Campania, atribuită grupării de tip ransomware Aur0ra, arată modul în care tehnologiile AI comerciale pot fi exploatate pentru a automatiza și a accelera breșele de securitate, conform unei investigații realizate de Reuters.
Cazul a fost scos la iveală de compania israeliană de securitate Gambit Security, ai cărei cercetători au descoperit un server lăsat expus accidental pe internet de către atacatori. În interiorul acestuia, experții au analizat 28 de sesiuni de conversație derulate între membrii Aur0ra și un agent AI dezvoltat de Cursor în perioada 8 aprilie-21 mai. Atacatorii au păcălit filtrele de siguranță după ce au pretins în repetate rânduri că acțiunile malițioase, destinate furtului de credențiale și preluării de conturi privilegiate, erau simple teste de securitate. Când AI-ul a respins comenzile suspecte, hackerii au insistat că operațiunile reprezentau doar simulări, fapt care a determinat asistentul să sprijine sute de etape ofensive.
În urma examinării conversațiilor, au fost identificate șase dintre cele cel puțin șapte companii vizate direct cu sprijinul AI. Printre entitățile compromise se numără producătorul belgian de chimicale Christeyns, producătorul german de uși de garaj Teckentrup, compania scoțiană Helideck Certification Agency, un distribuitor farmaceutic argentinian, un producător italian și firma americană Bayou Title. Compania de securitate CloudSek a subliniat că gruparea a revendicat 20 de victime în total, deși nu se cunoaște câte dintre acestea au implicat direct utilizarea inteligenței artificiale.
Eyal Sela, director pentru informații privind amenințările la Gambit Security, a explicat că instrumentul a oferit atacatorilor un avantaj operațional major și le-a crescut viteza de lucru cu 30% până la 50% prin automatizarea unor sarcini manuale complexe. În cazul companiei Teckentrup, agentul a identificat o vulnerabilitate și a recomandat software-ul malițios ideal pentru compromiterea rețelei.
Curtis Simpson, director de strategie la Gambit Security, a avertizat că atacurile asistate de inteligență artificială devin o realitate constantă a securității cibernetice și a descris confruntarea dintre dezvoltatori și infractori drept „un joc de-a șoarecele și pisica”. Deși datele demonstrează că AI-ul nu a operat autonom, ci a rămas un instrument ghidat de oameni, cazul evidențiază dificultatea tot mai mare a menținerii unor filtre de siguranță eficiente.