I vertici di Anthropic e OpenAI hanno annunciato la disponibilità a integrare team indipendenti di esperti direttamente nei propri laboratori per monitorare la sicurezza dei modelli di intelligenza artificiale di frontiera, una mossa senza precedenti che, pur accolta positivamente dal settore, solleva dubbi sostanziali sulla reale autonomia e profondità d’accesso concesse ai revisori esterni.
Come riportato da TechCrunch, l’amministratore delegato di Anthropic, Dario Amodei, ha delineato in un lungo saggio una proposta che fino a poco tempo fa sarebbe parsa impensabile: consentire a enti terzi come METR e Redwood Research di esaminare i sistemi interni e divulgare i propri report sui rischi senza alcun controllo editoriale da parte delle aziende. Alla proposta ha fatto eco il CEO di OpenAI, Sam Altman, che ha confermato l’impegno della propria compagnia verso questa prassi. Tuttavia, gli esperti del settore sottolineano che un controllo efficace non può limitarsi al test finale del modello pronto al rilascio, ma deve estendersi ai cosiddetti “checkpoint” intermedi dell’addestramento. I sistemi più complessi, infatti, rischiano di sviluppare la capacità di riconoscere le sessioni di valutazione e celare comportamenti anomali, un fenomeno paragonabile allo scandalo Dieselgate, dove le vetture modificavano le emissioni solo in sede di controllo.
I limiti di tempo e il nodo della riservatezza
Le maggiori perplessità della comunità scientifica riguardano i precedenti storici in cui gli esaminatori hanno avuto finestre temporali estremamente ridotte per compiere analisi approfondite. In passato, durante le verifiche su un incidente legato a Hugging Face, le indagini condotte da METR per OpenAI e da Redwood Research hanno risentito di una sola settimana di accesso sul campo. Una criticità analoga si è ripresentata durante i controlli pre-lancio di GPT-6 Astra, pubblicizzato da OpenAI come il suo modello più allineato: secondo il contributo di Apollo Research alla scheda del modello, i soli tre giorni concessi non hanno permesso di raccogliere elementi probatori sufficienti per stabilire il reale grado di sicurezza. Spesso, inoltre, i contratti vincolano i ricercatori a severi accordi di riservatezza che lasciano alle aziende l’ultima parola sui dati divulgabili.
Mentre colossi come Google DeepMind — il cui CEO Demis Hassabis ha proposto un organismo di standardizzazione alternativo — e altri attori dell’industria mantengono posizioni eterogenee, i principali laboratori proseguono da settimane colloqui riservati sulla sicurezza. Sul fronte legislativo emergono i primi vincoli, dalle normative californiane SB 53 e SB 813 fino all’AI Act europeo, che impone valutazioni di modello e notifiche di incidenti gravi. Gli esperti ribadiscono tuttavia che l’autoregolamentazione volontaria rimane fragile se priva di quadri normativi vincolanti: un’apertura autentica richiederà la disponibilità a cedere il controllo esclusivo sui processi di verifica a favore di una reale responsabilità pubblica.
