Giovedì è stato arrestato un direttore atletico di un liceo di Baltimora, dopo che la polizia ha dichiarato che aveva presumibilmente usato l’IA per creare una falsa registrazione audio del preside della scuola.
A gennaio, abbiamo riportato la notizia della registrazione audio che sembrava essere una registrazione del preside del liceo Pikesville, Eric Eiswert, mentre faceva commenti razzisti e antisemiti sul personale e sugli studenti.
All’epoca, Eiswert negò l’autenticità dell’audio, e si sospettò che la registrazione fosse un falso creato dall’IA.
La registrazione audio, che è stata ampiamente condivisa, ha portato Eiswert a perdere temporaneamente il suo lavoro mentre l’autenticità dell’audio veniva indagata. La reazione di insegnanti, studenti e altri membri della comunità che credevano che la registrazione fosse autentica ha sconvolto la vita di Eiswert.
Ascoltando la registrazione audio, è facile capire perché la gente pensasse che fosse autentica.
Gli esperti hanno ora concluso che l’audio era un falso creato con l’IA, basandosi sul tono piatto dell’audio, sull’assenza di suoni costanti di respirazione o pause, e su suoni di sfondo insolitamente puliti.
Si sostiene che Dazhon Darien, ex direttore atletico del liceo Pikesville, abbia creato il falso con l’IA in risposta all’apertura di un’indagine da parte di Eiswert sul suo presunto utilizzo indebido dei fondi scolastici.
Dazhon Darien è stato arrestato e accusato di interruzione delle operazioni scolastiche, furto, ritorsione contro un testimone e stalking. Secondo l’accusa, Darien avrebbe utilizzato i computer della scuola per accedere ai programmi di OpenAI e ai servizi di chat Microsoft Bing.
Assente dalla lista delle accuse era qualcosa che potrebbe presto diventare un crimine: usare l’IA per falsificare la voce di qualcuno.
Proposte come il No Fakes Act e il No AI Fraud Act sono state presentate al Congresso degli Stati Uniti, ma non sono ancora state approvate. Quindi, quando Darien ha usato l’IA per creare una registrazione audio falsa non consensuale della voce di Eiswert, tecnicamente non stava commettendo un reato.
Il fatto che ci siano volute settimane per un esperto per confermare infine che la registrazione audio era un falso, evidenzia quanto la società e le autorità siano impreparate a gestire i nuovi problemi che si presentano con l’IA generativa.
La facilità con cui questi falsi possono essere generati aggiunge problemi alla questione. Se un insegnante di ginnastica può mettere insieme un falso passabile, immagina cosa potrebbero ottenere altri malintenzionati più competenti dal punto di vista tecnico.
In assenza di un modo semplice per identificare audio e video falsi, la nostra miglior difesa potrebbe essere presumere che le cose siano false fino a quando non vengono confermate come reali.
