Contrariamente alle aspettative, l'intelligenza artificiale sembra star rendendo gli attacchi informatici meno efficaci. Gruppi criminali e APT stanno sperimentando con l'IA, ma spesso producono risultati di bassa qualità, aumentando il rumore ma diminuendo la sofisticazione.
Nonostante la diffusa narrativa che vede l'intelligenza artificiale (IA) come un potente acceleratore per le attività malevole online, le recenti analisi di ricercatori di sicurezza informatica suggeriscono un quadro ben diverso. Invece di potenziare i cybercriminali, l'IA sembra stia contribuendo a un peggioramento della qualità e della sofisticazione degli attacchi. Questo fenomeno, definito "AI slop" o "AI rot", indica che molti attori malevoli, inclusi gruppi criminali e Advanced Persistent Threats (APT) sponsorizzati da stati, stanno ottenendo risultati controproducenti nell'adozione di strumenti basati sull'IA.
Recenti indagini, come quella citata da Proofpoint, evidenziano come, sebbene una percentuale elevata di attacchi (circa l'84% secondo alcuni sondaggi) dichiari di utilizzare l'IA in qualche forma, i risultati pratici siano spesso deludenti. Selena Larson, ricercatrice principale presso Proofpoint, sottolinea come la pressione a produrre risultati "impressionanti" spinga all'adozione dell'IA, ma che questa tendenza stia in realtà peggiorando le capacità degli attaccanti. "Stiamo assistendo in tempo reale a come le catene di attacco generate dall'IA abbiano reso gli attori malevoli peggiori nei loro lavori", afferma Larson.
L'IA può essere utile per automatizzare compiti come la ricerca di vittime, la diffusione su larga scala di attacchi, la creazione di messaggi di phishing grammaticalmente corretti e persino far apparire competenti utenti meno esperti. Tuttavia, la qualità degli attacchi generati dall'IA è spesso bassa. Gruppi che prima erano considerati sofisticati, come TA4903, specializzato in credential phishing e Business Email Compromise (BEC), hanno visto un drastico calo della loro efficacia dopo aver iniziato a utilizzare l'IA per ogni fase della loro operatività. TA4903, che in passato utilizzava PDF elaborati, QR code ben fatti e impersonificazioni credibili del governo USA, ora produce attacchi con QR code che non si visualizzano, PDF vuoti allegati a email prive di contenuto e tentativi di impersonificazione che lasciano visibili i contenuti predefiniti generati dall'IA. Questo ha portato all'esposizione delle loro infrastrutture, dei pannelli di controllo e delle credenziali rubate.
Anche gruppi come TA2725, precedentemente attivo nel settore dei trojan bancari brasiliani, sono degenerati in "fabbriche di spazzatura" (slop factory), aumentando il rumore ma diminuendo la loro sofisticazione.
Il modello di business del cybercrime, basato sulla riduzione dei costi e sull'aumento dei volumi, può giustificare uno scambio tra qualità e quantità. Tuttavia, è preoccupante notare che anche alcune APT sponsorizzate da stati stanno seguendo questa strada. Un esempio recente riguarda il gruppo nordcoreano Kimsuky, che secondo Genians avrebbe utilizzato agenti IA e Large Language Models (LLM) per automatizzare la generazione di contenuti per campagne di spear-phishing contro l'Ucraina. I risultati sono stati caotici: email con un mix di lingue (ucraino, coreano, giapponese), toni grammaticali alternati, documenti di esca non corrispondenti al contenuto, inviti a riunioni errati (Google Meet con link Zoom) e malware con errori logici e codice offuscato in modo approssimativo.
Similmente, il gruppo APT36 (noto anche come Transparent Tribe) del Pakistan, secondo Bitdefender, è passato dall'uso di malware standard a "vibeware" – file poliglotti facilmente generabili per diverse funzioni malevole. Sebbene questo approccio permetta di sommergere le vittime con un gran numero di implant, l'efficacia di malware generato dall'IA, come uno stealer in Go che non riesce a esfiltrare dati, o sistemi di gestione bot malfunzionanti, è estremamente limitata.
Martin Zugec, direttore delle soluzioni tecniche presso Bitdefender, conferma questa tendenza, affermando che "i gruppi veramente sofisticati sono molto cauti nell'implementare l'IA oggi". L'IA, secondo Zugec, si è dimostrata uno strumento "terribile" per il cyber spionaggio a causa della sua intrinseca prevedibilità e della facilità con cui può essere rilevata. La capacità dell'IA di generare contenuti simili a quelli umani, sebbene utile per il phishing, può anche portare a errori grossolani che ne rivelano l'origine artificiale, compromettendo la credibilità dell'attacco.
In conclusione, mentre l'IA continua a evolversi rapidamente, il suo impatto attuale sul panorama delle minacce informatiche sembra essere più quello di un "livellatore verso il basso" che di un potenziatore. Gli attori malevoli che si affidano ciecamente all'IA rischiano di compromettere la propria efficacia, mentre i gruppi più avanzati procedono con estrema cautela, privilegiando la qualità e la discrezione rispetto alla quantità e alla novità tecnologica.
Contenuto generato automaticamente da intelligenza artificiale a partire da fonti pubbliche. Non garantiamo l'accuratezza assoluta delle informazioni: consulta sempre la fonte originale. I diritti sui contenuti originali appartengono ai rispettivi editori.
