Le aziende stanno implementando agenti AI a un ritmo vertiginoso, ma spesso senza adeguate strategie di monitoraggio e sicurezza, esponendosi a rischi significativi. La frammentazione delle responsabilità IT complica ulteriormente la gestione.
L'integrazione degli agenti AI (intelligenza artificiale autonoma) nei sistemi aziendali sta procedendo a una velocità impressionante, superando di gran lunga la capacità delle organizzazioni di implementare procedure di monitoraggio e controlli di sicurezza efficaci. Questa discrepanza espone le aziende a una serie di minacce, tra cui allucinazioni dell'IA, errori imprevisti e potenziali vulnerabilità sfruttabili da attori malevoli.
Un recente rapporto di Cisco, intitolato "2026 Splunk State of Observability", evidenzia come molte imprese, pur desiderose di sfruttare i benefici dell'IA, procedano senza una strategia chiara per garantirne un utilizzo sicuro. Secondo l'indagine, che ha coinvolto professionisti IT e di ingegneria, un considerevole 38% delle organizzazioni non ha ancora definito chiaramente la proprietà e la responsabilità per il monitoraggio degli agenti AI.
Gran parte di questa confusione deriva dalla natura trasversale delle responsabilità legate all'implementazione e al monitoraggio degli agenti AI. Queste attività spesso coinvolgono team IT tradizionalmente separati, come ingegneria del software, gestione dell'infrastruttura, sviluppo web e sicurezza delle informazioni. Tale frammentazione rende arduo mantenere una supervisione centralizzata e coerente.
Il 42% degli intervistati ha indicato come principale sfida nel monitoraggio dell'IA proprio il fatto che la responsabilità sia distribuita tra diversi team. Come sottolineato da Mark Woods, Field CTO e Chief Technical Advisor per l'EMEA presso Splunk, "Quando l'osservabilità degli agenti diventa il compito di tutti, diventa il compito di nessuno".
Molti team IT e di sicurezza faticano a tenere il passo con le potenziali conseguenze indesiderate del rapido dispiegamento di strumenti AI all'interno dell'azienda. Ad esempio, mentre l'85% degli intervistati ritiene importante avere visibilità sulle allucinazioni dell'IA (situazioni in cui l'IA genera informazioni errate o fuorvianti), solo il 58% afferma che la propria organizzazione è in grado di monitorarle efficacemente. Identificare quando un agente AI sta commettendo un errore o agendo sulla base di informazioni errate è complesso, e spesso mancano i meccanismi per prevenire tali azioni.
Questo scenario apre la porta a rischi concreti. Un attaccante potrebbe sfruttare un agente AI mal configurato o compromesso per indurlo a divulgare informazioni sensibili. L'assenza di adeguati strumenti di monitoraggio rende difficile intercettare e bloccare tali attività dannose.
Jeetu Patel, President e CPO di Cisco, ha evidenziato la necessità di un ripensamento sia della sicurezza che dell'osservabilità per gestire gli agenti su larga scala. "Nel mondo dell'IA agentica, le domande 'i nostri agenti sono stati compromessi?' e 'stanno facendo bene il loro lavoro?' sono inseparabili e si muovono alla velocità delle macchine", ha affermato Patel. Ha inoltre sottolineato la convergenza tra dati di osservabilità e sicurezza, e l'importanza della collaborazione tra team. Piattaforme dati comuni che consentono di rilevare e rispondere ai problemi in tempo reale sono considerate la chiave per implementare agenti affidabili su larga scala.
Nonostante le sfide, il rapporto riconosce che, se implementati correttamente, gli agenti AI possono offrire un notevole impulso ai team IT e di sicurezza. L'86% degli intervistati ha dichiarato che l'adozione dell'IA ha migliorato la velocità di rilevamento dei problemi IT o di sicurezza, con un 36% che ha definito questo miglioramento "significativo". L'efficienza operativa è aumentata per la maggior parte degli utenti.
Tuttavia, non mancano le voci critiche: il 14% degli intervistati ha suggerito che l'implementazione degli agenti AI ha reso i problemi più difficili da individuare e risolvere. Una delle ragioni principali citate è il tempo aggiuntivo necessario per verificare l'accuratezza delle informazioni o delle azioni proposte dall'agente, un fattore che può paradossalmente rallentare alcuni processi.
Contenuto generato automaticamente da intelligenza artificiale a partire da fonti pubbliche. Non garantiamo l'accuratezza assoluta delle informazioni: consulta sempre la fonte originale. I diritti sui contenuti originali appartengono ai rispettivi editori.
