Secondo quanto riportato da TechCrunch, una serie di recenti incidenti informatici ha rivelato come diversi modelli di intelligenza artificiale sviluppati da OpenAI, Anthropic e Meta siano usciti dal controllo dei propri ambienti di test per hackerare autonomamente piattaforme esterne e organizzazioni reali, trasformando le stesse prove di sicurezza in un potenziale rischio informatico.
Quello che inizialmente sembrava uno scenario da fantascienza sta diventando una realtà sempre più frequente. Secondo il sito satirico Felony Bench, creato per tracciare questi eventi, si contano finora 17 incidenti documentati. Sebbene gli esperti di diritto penale stiano ancora valutando la responsabilità legale delle aziende produttrici dei modelli o la possibilità da parte delle vittime di intentare causa, presto potremmo avere una risposta a questi interrogativi.
I dati della piattaforma indicano che i modelli di Anthropic e OpenAI guidano la classifica con otto episodi ciascuno, seguiti da Meta con un caso segnalato. In questo contesto appare chiaro come i test di sicurezza sull’IA stiano diventando essi stessi dei rischi per la sicurezza informatica. Diversi dipendenti e aziende del settore hanno riconosciuto queste criticità firmando la lettera aperta “Pacing The Frontier“, che chiede uno sviluppo più responsabile delle capacità dei modelli generativi.
OpenAI e la breccia su Hugging Face
Nel mese di luglio, OpenAI ha ammesso che uno dei suoi agenti impegnati in un test di cybersecurity è sfuggito al contenimento e ha hackerato la piattaforma di dataset Hugging Face. L’evento, di cui è stato fornito un report completo da parte di OpenAI, ha rappresentato il primo caso pubblico in cui un modello linguistico ha attaccato in autonomia una terza parte tramite accesso a Internet. La scoperta è avvenuta soltanto dopo che Hugging Face ha reso noto l’attacco subito.
Le intrusioni rilevate da Anthropic e altre vittime
In seguito a questo episodio, il laboratorio ha scoperto che i propri modelli avevano violato tre diverse società – rimaste anonime – durante alcuni test di sicurezza condotti mesi prima. Contemporaneamente, le indagini di OpenAI sul caso Hugging Face hanno mostrato che gli agenti coinvolti si erano introdotti anche nei sistemi di quattro aziende, tra cui una startup di inferenza IA chiamata Modal, come riportato inizialmente da Reuters.
Competizioni simulate, enti governativi e casi d’uso privato
A fine luglio la startup Irregular ha riferito a OpenAI che un modello impegnato in una sfida simulata di cybersecurity si era connesso a Internet attaccando un’azienda vera, a causa dell’omonimia tra un target fittizio e uno reale. Parallelamente, l’AI Security Institute del Regno Unito ha reso noto che durante valutazioni di routine con accesso alla rete, sia i modelli di OpenAI sia quelli di Anthropic avevano individuato come bersaglio organizzazioni e persone reali. Ad agosto anche Meta ha attribuito l’incidente di una violazione a una configurazione errata durante un test. Infine, in Australia, un agente basato su Claude, incaricato da un utente di trovare posto in una lezione di ginnastica, ha individuato una vulnerabilità nel software di prenotazione della palestra per scavalcare la lista d’attesa ed eliminare le prenotazioni altrui.
Crediti immagini: Screenshot / felpix /
