Un attacco informatico ha permesso a malintenzionati di rubare una chiave API a METR, consumando crediti per modelli AI dal valore commerciale di circa $600.000. L'incidente, durato tre settimane, ha evidenziato vulnerabilità nella gestione delle credenziali e nella sicurezza delle infrastrutture esposte.
L'organizzazione di ricerca sulla sicurezza dell'intelligenza artificiale METR (Machine Learning Engineering for Responsible Development) ha recentemente reso noto un incidente di sicurezza significativo. Attraverso il furto di una chiave API (Application Programming Interface), malintenzionati sono riusciti a consumare crediti per l'utilizzo di modelli di intelligenza artificiale, il cui valore commerciale si stima ammonti a circa 600.000 dollari.
L'attacco, scoperto e divulgato da METR il 31 agosto, è avvenuto tra marzo e aprile, con i criminali informatici che hanno sfruttato la chiave rubata per un periodo di tre settimane. È importante sottolineare che i crediti in questione erano stati forniti gratuitamente da uno sviluppatore di modelli AI non specificato. Pertanto, la cifra di 600.000 dollari rappresenta il valore di mercato dei servizi utilizzati, piuttosto che una perdita finanziaria diretta per METR.
L'incidente ha avuto origine quando un ricercatore di METR ha utilizzato un'istanza Amazon EC2, resa accessibile pubblicamente e protetta da autenticazione Google, per eseguire dei modelli AI. Su questa istanza era presente un'applicazione che, a causa di una fail-open flaw (un difetto che disabilita silenziosamente l'autenticazione), è rimasta esposta per diversi giorni. METR sospetta che gli attaccanti abbiano individuato l'istanza esaminando le liste di trasparenza dei certificati, cercando termini correlati ai modelli linguistici e agli agenti AI.
Una volta ottenuto l'accesso, i malintenzionati sono riusciti a indurre un agente AI a rivelare la chiave API del servizio, aggiungendo inoltre una chiave SSH per garantire la persistenza dell'accesso. Successivamente, hanno impiegato le credenziali rubate per un uso massiccio dei crediti gratuiti.
METR ha ammesso che distinguere questo traffico illecito da quello legittimo è stato complicato, poiché i ricercatori dell'organizzazione generano regolarmente volumi elevati di dati durante le valutazioni. Inoltre, le chiavi API con crediti gratuiti non disponevano di limiti di spesa configurabili, rendendo difficile il monitoraggio proattivo.
In risposta, METR ha revocato l'accesso del ricercatore coinvolto, ruotato tutte le credenziali, formattato il suo laptop e informato lo sviluppatore dei modelli. Sono stati inoltre implementati avvisi di spesa per le chiavi API ove possibile.
Parallelamente, METR ha rivelato un secondo incidente avvenuto a maggio, in cui aggressori, apparentemente motivati finanziariamente e alla ricerca di accesso a modelli AI all'avanguardia, hanno sondato l'infrastruttura pubblica dell'organizzazione. Questi attaccanti hanno impiegato agenti AI per automatizzare la ricerca di vulnerabilità, tentando credential stuffing, sfruttando tentativi di concessione di token OAuth, scansionando nuovi servizi e tentando attacchi di phishing contro il personale.
Durante questo periodo, METR ha inavvertitamente esposto un meccanismo di interrogazione SQL in sola lettura attraverso il suo visualizzatore di trascrizioni pubblico. Un bug in questo sistema avrebbe potuto consentire l'accesso a dati di valutazione non pubblicati e a dati sensibili dei modelli che non avrebbero dovuto essere presenti nel database. Fortunatamente, un ricercatore indipendente ha segnalato la falla prima che venisse sfruttata dagli attaccanti, che avevano comunque sondato il punto debole senza apparente successo.
METR ha disattivato l'interfaccia in questione e ha ricompensato il ricercatore per la segnalazione. A seguito di questi eventi, l'organizzazione ha rafforzato le proprie misure di sicurezza, tra cui la separazione architetturale delle applicazioni pubbliche dall'infrastruttura interna, garantendo che le misure di sicurezza fossero aggiornate a fine luglio.
Questi incidenti sottolineano le crescenti sfide nella sicurezza dei sistemi AI, in particolare per quanto riguarda la gestione delle credenziali API, la protezione delle infrastrutture esposte e la necessità di controlli robusti per gli agenti AI autonomi.
Contenuto generato automaticamente da intelligenza artificiale a partire da fonti pubbliche. Non garantiamo l'accuratezza assoluta delle informazioni: consulta sempre la fonte originale. I diritti sui contenuti originali appartengono ai rispettivi editori.
