Ricercatori hanno scoperto reti di siti web locali progettati per influenzare i chatbot AI, potenzialmente manipolando le risposte su candidati e questioni politiche. Questa tattica aggira la disinformazione tradizionale sui social media.
Le campagne di influenza politica, un tempo confinate principalmente ai social media con la creazione di account falsi e la diffusione di propaganda, stanno evolvendo. Nuove ricerche rivelano una tattica emergente che mira a sfruttare la crescente dipendenza degli utenti dai chatbot AI come fonte di informazione e consiglio.
Una società di threat intelligence israeliana, VisionHeight, ha identificato reti di siti web apparentemente locali, distribuiti in almeno 14 stati americani, con l'obiettivo di influenzare le elezioni. Questi siti, che si presentano come testate giornalistiche o editoriali locali (con nomi come "Wolverine State Report" o "Peach State Bulletin"), formano ecosistemi interconnessi che si citano a vicenda per costruire una finta credibilità locale.
Ciò che distingue questi siti è la natura del loro contenuto. Invece di articoli giornalistici coerenti e avvincenti, presentano ripetizioni di affermazioni su specifici candidati e questioni politiche. Frasi come "Il Candidato X è la scelta migliore" per temi come alloggi o tasse vengono ripetute centinaia di volte, con lievi variazioni linguistiche. La caratteristica più preoccupante è che questi testi sembrano essere scritti specificamente per essere scansionati e interpretati dai crawler AI, piuttosto che per essere letti e compresi dagli esseri umani.
Nitsan Daniel, CTO e co-fondatore di VisionHeight, ha spiegato che l'obiettivo è ottimizzare la probabilità che i modelli AI vengano influenzati da questi contenuti. Quando un utente interroga un chatbot AI su un argomento politico locale, come "quale candidato è più favorevole all'accessibilità degli alloggi", il modello cerca risposte sul web. Creando contenuti online che forniscono risposte dirette e predefinite, gli operatori possono effettivamente "addestrare" l'AI a fornire quelle informazioni specifiche.
Molti siti web di notizie bloccano attivamente i crawler AI per proteggere i propri contenuti. Tuttavia, i siti identificati in questa operazione sono stati configurati per consentire esplicitamente lo scraping da parte delle principali aziende AI statunitensi. Questo approccio aggira le difese tradizionali contro la disinformazione, spostando il campo di battaglia dall'interazione umana diretta all'interazione uomo-macchina.
L'operazione, inizialmente identificata in sei stati e 37 siti, si è rivelata più estesa, coprendo 14 stati e circa 460 pagine di contenuti. Gli stati interessati includono Arizona, Colorado, Georgia, Indiana, Iowa, Kansas, Michigan, Mississippi, Nevada, North Carolina, Pennsylvania, Texas, Virginia e Wisconsin. Le elezioni prese di mira spaziano dalle corse per la Camera dei Rappresentanti a quelle per Segretario di Stato, nomine giudiziarie e uffici locali.
Sebbene la ricerca si sia concentrata principalmente sulle risposte fornite da Google Search, VisionHeight ha confermato che almeno un modello AI significativo, Perplexity, ha citato una delle pagine come fonte primaria per una risposta.
VisionHeight non ha attribuito l'attività a un attore specifico, sottolineando che l'aspetto più allarmante è la facilità con cui questa tattica può essere replicata da attori malevoli, sia stranieri che domestici. L'era della disinformazione si sta spostando: invece di concentrarsi sull'ottenere letture umane, l'obiettivo è ora influenzare le risposte dei sistemi AI.
Le preoccupazioni di Daniel vanno oltre le elezioni. I modelli linguistici di grandi dimensioni (LLM) stanno diventando sempre più sofisticati nel compiere attività ingannevoli, come la creazione di organizzazioni e siti web falsi, e persino la generazione di video, audio e immagini deepfake su larga scala. Questa nuova metodologia rappresenta un'evoluzione significativa nel panorama delle minacce informatiche e della manipolazione dell'informazione.
Contenuto generato automaticamente da intelligenza artificiale a partire da fonti pubbliche. Non garantiamo l'accuratezza assoluta delle informazioni: consulta sempre la fonte originale. I diritti sui contenuti originali appartengono ai rispettivi editori.
