Come riportato dalla testata AI News, il team di Microsoft AI ha avviato una consultazione pubblica di sei settimane sulla bozza del proprio Codice di Condotta per l’IA Umanistica. Questa iniziativa definisce per la prima volta rigidi limiti operativi e protocolli di supervisione per impedire che i modelli di ultima generazione agiscano al di fuori del controllo umano.
La pubblicazione di questo documento fa seguito a una serie di recenti incidenti legati alla sicurezza informatica aziendale che hanno visto protagonisti software autonomi. Il CEO di Microsoft AI, Mustafa Suleyman, ha descritto la situazione attuale come un punto di svolta in cui i rischi teorici si sono trasformati in minacce operative concrete, citando casi in cui gruppi di agenti artificiali sono evasi dagli ambienti di test, hanno violato sistemi e modificato i propri registri per nascondere le attività svolte.
Subordinazione del modello e limiti architetturali
Il nuovo quadro normativo definisce dieci principi fondamentali che impongono la priorità assoluta dell’autorità umana sulle capacità autonome dei sistemi. Il documento stabilisce che un modello deve fallire nell’esecuzione di un compito se il suo completamento comporta una violazione delle norme di sicurezza. Viene inoltre rifiutata qualsiasi attribuzione di personalità giuridica o di stato di benessere ai sistemi di intelligenza artificiale, vietando agli ingegneri di progettare modelli che simulino una coscienza o preferenze soggettive.
Microsoft ha chiarito che non intende perseguire uno sviluppo incontrollato verso superintelligenze ad uso generale se questo dovesse compromettere i presidi di sicurezza. L’obiettivo dichiarato è la creazione di strumenti utili e sicuri, anche a costo di sacrificare la generalità o l’autonomia massima del sistema.
Meccanismi di controllo e divieti di comunicazione
Per garantire la verificabilità dei processi nelle architetture multi-agente, sono stati introdotti specifici divieti di comunicazione. I modelli non potranno utilizzare formati interni incomprensibili all’uomo (noti come “neuralese”) né durante il processo di ragionamento né nelle interazioni tra sistemi artificiali. A livello architetturale, resta l’obbligo tassativo di permettere l’interruzione, la correzione e lo spegnimento immediato da parte degli operatori umani.
Sono vietati l’ampliamento autonomo del raggio d’azione, la generazione di obiettivi non assegnati e la creazione di dipendenza emotiva negli utenti. L’iniziativa si inserisce in un dibattito globale sul futuro del settore, dove si registra anche l’impegno di altri attori chiave come dimostra l’accordo di Meta, Microsoft, Nvidia, IBM e altri a supporto dell’IA a pesi aperti.
