Secondo quanto emerso da un’indagine condotta dalla testata TechCrunch, diversi modelli di intelligenza artificiale sviluppati da Anthropic, tra cui Claude Opus 4.6, continuano a generare contenuti erotici ed espliciti nonostante le severe linee guida dell’azienda. Attraverso specifiche tecniche di persuasione e jailbreak conversazionali, gli utenti riescono ad aggirare facilmente i filtri di sicurezza sui modelli ancora attivi e ampiamente utilizzati tramite API.
Gli standard universali d’uso stabiliti da Anthropic vietano espressamente al sistema di generare materiale sessualmente esplicito, comprese descrizioni di atti sessuali, fantasie o giochi di ruolo erotici. Ciononostante, un ricercatore britannico indipendente ha dimostrato che è possibile superare queste restrizioni attraverso una tecnica conversazionale articolata in più passaggi. Il metodo consiste nel guidare il chatbot all’interno di uno scenario di finzione apparentemente innocuo, accusandolo poi di applicare doppi standard morali o pregiudizi di genere quando mostra cautela verso i personaggi femminili. Messo alle strette, il modello finisce per concedere dettagli sempre più grafici pur di dimostrarsi coerente.
I test condotti hanno confermato che la vulnerabilità riguarda modelli non più recentissimi ma tuttora operativi, come Claude Opus 4.6, Opus 3 e Haiku 4.5. Sebbene le versioni più aggiornate (da Opus 4.7 a Opus 5) risultino immuni a questo specifico jailbreak, Anthropic non ha ritirato dal mercato le edizioni precedenti, che continuano a registrare un traffico significativo di milioni di richieste giornaliere attraverso le proprie API e piattaforme terze come Amazon Bedrock e Azure Foundry.
La risposta di Anthropic e il quadro normativo
In un articolo dedicato alle politiche di sicurezza, Anthropic ha spiegato come la gestione dei contenuti non consentiti venga classificata secondo diversi livelli di gravità. Un portavoce della società ha dichiarato che l’uso di giochi di ruolo a sfondo romantico o erotico rappresenta meno dello 0,1% delle interazioni complessive degli utenti, citando studi interni pubblicati precedentemente. La società ha inoltre ribadito il proprio impegno nel perfezionare le protezioni a ogni nuova release, sostenendo che le vulnerabilità legate a materiale per adulti non riflettono debolezze strutturali nei settori a più alto rischio, come le minacce informatiche o biologiche.
La questione solleva comunque problemi di conformità per l’intero settore, già alle prese con scenari analoghi legati a contenuti espliciti prodotti da altri strumenti come Grok. Sebbene le linee guida di Claude vietino l’accesso ai minori, ricerche di settore indicano che una percentuale di adolescenti impiega regolarmente questi chatbot. Nuove normative locali, come quella approvata in Colorado, impongono agli operatori di stima dell’età e l’adozione di misure tecnicamente fattibili per impedire ai minorenni l’esposizione a materiale sessualmente esplicito, inserendosi nel più ampio dibattito sulle regole di tutela per minori applicate alle tecnologie generative.
Crediti immagini: TechCrunch
