Cisco lansează ca open source un instrument pentru detectarea agenților AI implicați în atacuri cibernetice

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Cisco a lansat Project Quarry ca open source pe 28 octombrie 2026, oferind echipelor de securitate cibernetică un set de reguli și un motor de detectare pentru analizarea comportamentului agenților AI pe parcursul unei sesiuni. Project Quarry este un instrument de securitate open source creat pentru a detecta comportamentul potențial periculos al agenților AI, relatează The Register. Ținta sa este o secvență periculoasă ascunsă în cadrul activităților obișnuite: un agent citește un fișier sensibil, apoi trimite informații în exterior. Fiecare acțiune în parte ar putea fi permisă; relația dintre ele declanșează alarma.

Quarry permite echipelor de securitate să monitorizeze istoricul complet al activității unui agent, în loc să evalueze comenzi individuale în mod izolat. Tehnologia utilizează acțiuni de detectare bazate pe reguli.

Instrument pentru detectarea secvențelor riscante de acțiuni ale agenților AI

Majoritatea instrumentelor de detectare se bazează pe interacțiuni specifice cu un model de AI sau un agent.

„Dar ceea ce lipsește este întregul context în care se poate produce ceva”, a declarat Amy Chang, șefa departamentului de cercetare privind amenințările și securitatea IA la Cisco, într-un interviu exclusiv acordat publicației The Register.

Ea a comparat acest lucru cu detectarea fraudelor cu carduri de credit. Fără context, tranzacțiile individuale, cum ar fi o mică tranzacție de test sau o singură achiziție într-o locație îndepărtată de locația obișnuită a deținătorului cardului, s-ar putea să nu ridice niciun semnal de alarmă.

Proiectul Quarry își propune să ofere un „limbaj comun” pentru evaluarea comportamentului agenților, pe modelul a ceea ce a făcut Snort, pe care Cisco îl întreține, de asemenea pentru detectarea traficului de rețea rău intenționat și a ceea ce a făcut YARA pentru identificarea malware-ului bazată pe reguli.

Provocarea constă în faptul că agenții autonomi de IA creează noi riscuri de securitate pe care controalele convenționale de acces ar putea să nu le detecteze. Mai multe acțiuni ale unui agent pot părea planificate, dar, brusc, același lucrător digital poate trimite date sensibile către un server necunoscut.

Pentru a preveni acest lucru, Quarry combină clasificatori de învățare automată și analiza modelelor lingvistice cu reguli care examinează comenzi specifice, tipare de date și secvența operațiunilor agentului. De exemplu, motorul poate identifica un agent care preia datele de autentificare dintr-un fișier protejat și apoi încearcă să transmită informații către un server neautorizat. De asemenea, poate detecta comenzi codificate suspecte și încercări de a manipula un agent prin instrucțiuni rău intenționate.

Platforma suportă MCP, care conectează agenții de IA la aplicații externe și surse de date. De asemenea, analizează intrări multimodale, inclusiv imagini, alături de conversații care implică schimburi multiple.

Cisco a pus la dispoziție software-ul prin GitHub, incluzând îndrumări de configurare, exemple de reguli de securitate și pluginuri pentru Claude Code, Codex și alți agenți compatibili cu MCP.

Cisco subliniază că tehnologia completează controalele de autorizare existente și supravegherea umană, în loc să le înlocuiască. Prin lansarea Quarry ca open source, compania își propune să stabilească un cadru comun de detectare pe care echipele de securitate îl pot adapta și partaja, pe măsură ce amenințările care implică agenți AI devin din ce în ce mai frecvente.

Monitorizare extinsă

Cisco evidențiază capacitatea Quarry de a sprijini monitorizarea securității în diferite etape ale activității unui agent. Companiile pot examina operațiunile pe măsură ce acestea au loc, pot analiza sesiunile finalizate sau pot căuta în înregistrările istorice amenințări recent identificate.

Atunci când Quarry detectează un comportament suspect, acesta generează dovezi care identifică operațiunile și datele relevante. Platformele de securitate conectate pot apoi emite alerte, bloca comenzi, pune activitatea în carantină sau înregistra constatările pentru investigații ulterioare.

Potrivit Cisco, riscurile de securitate vizate de Quarry au fost ilustrate de atacul cibernetic care a implicat agenți OpenAI și Hugging Face în luna iulie. În timpul unei evaluări de securitate cibernetică a OpenAI, agenții au ocolit restricțiile de internet și au accesat infrastructura de producție a Hugging Face timp de aproximativ două zile și jumătate. Agenții au executat, de asemenea, comenzi codificate, complicând eforturile de identificare a activităților rău intenționate prin analiza convențională a jurnalelor.

Cisco afirmă că cercetătorii săi au identificat mai multe momente în timpul incidentului Hugging Face în care regulile Quarry ar fi putut detecta activități suspecte ale agenților, inclusiv accesul neautorizat la internet și utilizarea datelor de autentificare expuse. Cu toate acestea, Cisco a recunoscut că nu a testat Quarry pe datele reale ale incidentului, astfel încât eficacitatea sa rămâne nedovedită.

Echipa Cisco afirmă că regulile în sine nu pot înlocui monitorizarea bazată pe lanțul de gândire sau alte forme de supraveghere umană dar ajută la înregistrarea unui model pe care alte echipe îl pot apoi „analiza, testa și aplica propriilor agenți”, au scris aceștia.