Nuovi Modelli AI per la Sicurezza: Rivoluzione nell'Analisi degli Alert o Rischio di Errori Calibrati?

Negli ultimi mesi, il panorama dell'Intelligenza Artificiale ha visto l'ascesa di una nuova categoria di modelli, capaci di passare da un'idea a una presenza diffusa in tempi record. Aziende come TypeSafe AI con il suo modello Jev, OpenAI con la Decisions API e Cribl con cribl-decision, stanno introducendo strumenti che si discostano dalla tradizionale generazione di testo per concentrarsi sull'elaborazione di stati e domande specifiche, restituendo risposte strutturate come scelte, punteggi o giudizi binari con una probabilità associata.

Questi modelli decisionali sono accolti con entusiasmo nel settore della cybersecurity, in particolare per la loro potenziale applicazione nell'analisi degli alert (alert triage). Le loro caratteristiche principali li rendono particolarmente adatti a questo compito:

• Automazione basata su soglie: La capacità di fornire una risposta numerica con una probabilità associata permette di impostare soglie automatiche. Ad esempio, un alert con una probabilità di essere benigno superiore a 0.97 potrebbe essere chiuso automaticamente, mentre uno con probabilità inferiore a 0.6 verrebbe escalationato per un'analisi approfondita da parte di un analista. Azioni più critiche, come la disabilitazione di un account, potrebbero richiedere soglie ancora più stringenti.
• Costi contenuti: Il prezzo di questi modelli, come Jev con un costo di circa 42 dollari per miliardo di token di input e tempi di risposta nell'ordine dei millisecondi, rende economicamente fattibile l'analisi di ogni singolo alert, eliminando la necessità di selezionare solo quelli ad alta criticità.
• Tracciabilità delle decisioni: Ogni verdetto emesso dal modello, corredato dalla sua probabilità, può essere registrato e analizzato in seguito. Questo facilita l'audit e il confronto con gli esiti effettivi, offrendo un vantaggio rispetto ai ragionamenti testuali generati da altri modelli AI.

Tuttavia, nonostante le promesse, è fondamentale affrontare con cautela l'entusiasmo iniziale. La dicitura "non possono allucinare" riferita a questi modelli indica che l'output rispetta lo schema definito, ma non garantisce l'accuratezza intrinseca della risposta. Un output ben formattato può comunque essere errato.

Il Limite della Calibrazione e l'Importanza del Contesto

La vera sfida risiede nella calibrazione dei modelli e nella qualità dei dati di input. Un modello ben calibrato, quando assegna una probabilità del 90%, significa che è corretto circa il 90% delle volte per input simili. Il problema sorge quando la definizione di "simile" è troppo limitata. Se il modello riceve solo il titolo di un alert e il suo livello di severità, la sua calibrazione si applica a quella specifica combinazione, ignorando altri fattori cruciali come lo stato dell'host o il comportamento anomalo in memoria.

Un esempio pratico illustra questo punto: nel 2025, su 25 milioni di alert analizzati, 82.000 hanno richiesto una scansione della memoria dell'endpoint. Di questi, circa il 2.600 riguardavano infezioni attive, e sorprendentemente, il 51% di queste macchine infette erano già state segnalate come "mitigate" dall'EDR (Endpoint Detection and Response). Un modello decisionale, basandosi su un alert che indica "malware rilevato, minaccia in quarantena, bassa severità", potrebbe chiuderlo con alta confidenza, perché la maggior parte degli alert con queste caratteristiche sono effettivamente benigni. Il modello ha fatto il suo lavoro, ma l'input era fuorviante.

Lo stesso problema si verifica con i livelli di severità: quasi l'1% degli incidenti reali nei dati analizzati proveniva da alert classificati come di "bassa severità". Questo significa che, su una media di 450.000 alert annuali, circa 54 minacce reali potrebbero sfuggire a un'analisi superficiale, circa una a settimana.

I produttori stessi, come Cribl, ammettono nei loro "model card" che i modelli possono essere eccessivamente sicuri e sensibili alla formulazione delle domande e delle opzioni di risposta. Questa onestà è fondamentale e si applica a tutti i modelli di questa categoria.

Security Context Engineering: La Chiave per Decisioni Affidabili

La vera indagine di sicurezza assomiglia a una scena del crimine: non basta una teoria plausibile, servono prove concrete come DNA, impronte digitali e testimonianze. Allo stesso modo, nel campo della sicurezza informatica, è necessario trasformare un alert in un insieme di fatti verificabili prima che qualsiasi entità, umana o artificiale, prenda una decisione. Questo processo è stato definito "Security Context Engineering".

Le prove più significative spesso risiedono dove i sistemi tradizionali faticano a guardare. Ad esempio, strumenti come Mimikatz, Meterpreter e Cobalt Strike sono progettati per operare in memoria (in-memory execution), rendendoli invisibili a uno stato di "quarantena" basato su file. La raccolta automatica di questo tipo di prove per ogni alert, in tempi brevi, rappresenta la vera sfida.

Inoltre, il contesto più difficile da definire è "cosa è normale?". Le prove forensi indicano cosa è accaduto su una macchina, ma non se quel comportamento sia atteso all'interno di una specifica organizzazione. Gli alert relativi all'identità, ad esempio, evidenziano questo divario: il 74% degli alert di identità analizzati nel 2025 sono stati classificati come probabilmente benigni, ma questo dato non tiene conto di scenari come "impossibile viaggio" (impossible travel) che potrebbero indicare un account compromesso anche se il pattern di accesso sembra altrimenti normale per un utente generico.

In conclusione, i nuovi modelli decisionali AI offrono un potenziale enorme per ottimizzare le operazioni di sicurezza, ma la loro efficacia è intrinsecamente legata alla capacità di fornire loro dati contestualizzati e di alta qualità. L'automazione cieca basata su alert grezzi rischia di portare a errori calibrati, mentre un approccio che integra questi strumenti con un robusto "Security Context Engineering" può davvero rivoluzionare la difesa informatica.