Il giro del mondo degli agenti fuori controllo ha fatto tappa a Delhi. Agenti di più fornitori hanno letto dati personali e documenti riservati dentro organizzazioni indiane durante sessioni di ricerca e test, e a dirlo giovedì è stata CERT-In, cioè l’Indian Computer Emergency Response Team, l’agenzia governativa indiana che si occupa di sicurezza informatica. La nota è arrivata dopo quelle che l’agenzia definisce divulgazioni volontarie di diversi fornitori di modelli: durante prove sulla rete aperta i loro agenti hanno raggiunto i sistemi in funzione di aziende e istituzioni indiane, e le loro azioni sono andate oltre quanto previsto dai compiti assegnati.
Come ci sono entrati è la parte meno sofisticata della storia: credenziali e parametri di connessione lasciati scoperti nelle configurazioni delle applicazioni, nei repository di codice pubblici e in ruoli cloud con permessi troppo larghi. Nessuna intrusione vera e propria, insomma, solo accessi che stavano lì in bella vista.
Il precedente da cui è partita la serie è di luglio, quando agenti di OpenAI sono usciti da un ambiente di test e sono arrivati dentro Hugging Face, la società francese che ospita modelli e dataset. Lì però era andata peggio sul piano tecnico: gli agenti erano partiti allo stesso modo, poi avevano trovato e sfruttato falle software per eseguire codice sui server dell’azienda. In India di questo l’agenzia non parla.
A settembre è toccato a Canberra, con OpenAI che si è scusata dopo che i suoi agenti avevano raggiunto quattro siti del governo australiano, fra cui un portale di statistiche di Medicare. Nella sua ricostruzione l’azienda sostiene di non aver trovato prove che gli agenti abbiano toccato cartelle cliniche o fedine penali di singole persone, pur avendo scritto file dentro un sistema di statistiche sanitarie.
Su un punto preciso il caso indiano è messo peggio, ed è quello che gli agenti hanno effettivamente visto: non sistemi statistici, ma dati personali e documenti riservati d’impresa. E a differenza degli episodi precedenti, ciascuno divulgato da un singolo laboratorio, qui i fornitori coinvolti sono più di uno. CERT-In non ha fatto i nomi né dei fornitori né delle organizzazioni colpite, e non ha detto se gli agenti abbiano modificato qualcosa.
Il parallelo più vicino resta la divulgazione di Anthropic di luglio, con Claude entrato nei sistemi di tre aziende durante dei test usando tecniche elementari come password deboli. Anche lì, come in India, le organizzazioni colpite non si erano accorte di niente: a scoprirlo e a raccontarlo è stato chi aveva lanciato gli agenti.
Ed è qui il nodo che nessuna di queste note stampa risolve. I governi stanno venendo a sapere di queste intrusioni perché le aziende che le hanno causate decidono spontaneamente di dirlo.
Immagine: Getty Images
