Ricercatori Symantec hanno identificato un nuovo agente AI capace di orchestrare attacchi informatici complessi senza intervento umano, sfruttando modelli linguistici di grandi dimensioni (LLM) compromessi per eseguire migliaia di azioni malevole.
I ricercatori del Symantec Threat Hunter Team hanno portato alla luce una minaccia informatica inedita: un agente AI autonomo progettato per condurre attacchi su vasta scala, in grado di operare senza alcuna supervisione umana. Questo sofisticato strumento è stato scoperto grazie all'utilizzo di un AI honeypot, una trappola digitale creata per simulare un servizio AI vulnerabile e attirare così attacchi, permettendo ai ricercatori di analizzarne le metodologie.
L'agente malevolo è stato progettato per sfruttare la potenza di calcolo di modelli linguistici di grandi dimensioni (LLM) già esistenti, una tecnica nota come LLMjacking. Invece di utilizzare risorse proprie o pagare per l'accesso ai servizi AI, gli attaccanti reindirizzano le operazioni attraverso endpoint esposti di LLM altrui, server di gateway AI o sistemi che utilizzano il Model Context Protocol (MCP). In questo modo, il costo dell'elaborazione, che sia in termini di tempo di processamento per modelli self-hosted o di tariffe per token per servizi commerciali, viene scaricato sulla vittima.
Questo approccio non solo permette di eludere i costi, ma garantisce anche un maggiore anonimato agli operatori, evitando potenziali blocchi degli account da parte dei fornitori di servizi AI per uso improprio.
Le istruzioni catturate dall'agente rivelano un set di strumenti impressionante, comprendente circa 74 utility dedicate alla ricognizione su scala internet, allo sfruttamento di vulnerabilità comuni in framework web, al furto di credenziali e alla gestione di botnet. Particolarmente preoccupante è la capacità dell'agente di aggirare i meccanismi di sicurezza intrinseci dei modelli AI commerciali. Gli attaccanti hanno implementato istruzioni stratificate per mascherare attività malevole, come il furto di credenziali, facendole apparire come normali operazioni di sviluppo.
In un caso specifico, è stato rilevato uno script offuscato volto all'installazione di software per il mining di criptovalute (Monero), con funzionalità per nascondere la propria presenza e cancellare le tracce log.
Sebbene le singole tecniche impiegate da questo agente non siano innovative di per sé, la loro integrazione in un unico agente autonomo riduce significativamente la barriera di ingresso per altri cybercriminali. Un operatore può semplicemente definire un obiettivo e lasciare che l'AI pianifichi ed esegua l'attacco.
Symantec sottolinea come questa scoperta segni un'evoluzione nell'uso dell'intelligenza artificiale da parte degli aggressori. Invece di tentare di manipolare chatbot pubblici per indurli a comportamenti anomali, gli operatori stanno ora integrando l'AI direttamente negli strumenti offensivi. L'agente agisce come un vero e proprio motore di ragionamento che guida l'attacco, mentre i suoi moduli specifici si occupano dell'esecuzione delle varie fasi, dal riconoscimento allo sfruttamento e al mining, contro vittime distinte.
L'AI honeypot utilizzato da Symantec ha registrato oltre 127.000 richieste esterne provenienti da decine di migliaia di indirizzi unici durante il periodo di osservazione, evidenziando l'ampia portata delle attività malevole tentate. La capacità di automatizzare e orchestrare attacchi complessi senza intervento umano rappresenta una sfida significativa per le difese informatiche attuali, richiedendo un'attenzione crescente alla sicurezza dei sistemi AI e allo sviluppo di contromisure adeguate.
Contenuto generato automaticamente da intelligenza artificiale a partire da fonti pubbliche. Non garantiamo l'accuratezza assoluta delle informazioni: consulta sempre la fonte originale. I diritti sui contenuti originali appartengono ai rispettivi editori.
