La pubblicazione della “Prima bozza di codice di condotta per l’IA per scopi generali” segna lo sforzo dell’UE di creare una guida normativa completa per i modelli di IA per scopi generali.
Lo sviluppo di questa bozza è stato uno sforzo collaborativo, che ha coinvolto diversi settori, tra cui l’industria, il mondo accademico e la società civile. L’iniziativa è stata guidata da quattro gruppi di lavoro specializzati, ognuno dei quali ha affrontato aspetti specifici della governance dell’IA e della mitigazione dei rischi:
- Gruppo di lavoro 1: Trasparenza e regole relative al copyright
- Gruppo di lavoro 2: Identificazione e valutazione del rischio sistemico
- Gruppo di lavoro 3: Attenuazione del rischio tecnico per il rischio sistemico
- Gruppo di lavoro 4: Attenuazione del rischio di governance per il rischio sistemico
La bozza è allineata con le leggi esistenti, come la Carta dei Diritti Fondamentali dell’Unione Europea. Tiene conto degli approcci internazionali, cercando la proporzionalità rispetto ai rischi, e mira a essere a prova di futuro contemplando i rapidi cambiamenti tecnologici.
Gli obiettivi principali delineati nella bozza includono
- Chiarire i metodi di conformità per i fornitori di modelli di IA di uso generale
- Facilitare la comprensione lungo la catena del valore dell’IA, assicurando una perfetta integrazione dei modelli di IA nei prodotti a valle
- Garantire la conformità al diritto d’autore dell’Unione, in particolare per quanto riguarda l’uso di materiale protetto da copyright per la formazione dei modelli
- Valutare e mitigare costantemente i rischi sistemici associati ai modelli di IA
Riconoscere e mitigare i rischi sistemici
Una caratteristica fondamentale della bozza è la tassonomia dei rischi sistemici, che comprende i tipi, le nature e le fonti di tali rischi. Il documento delinea varie minacce come i reati informatici, i rischi biologici, la perdita di controllo sui modelli di IA autonomi e la disinformazione su larga scala. Riconoscendo la natura in continua evoluzione della tecnologia dell’IA, la bozza riconosce che questa tassonomia dovrà essere aggiornata per rimanere attuale.
Poiché i modelli di IA con rischi sistemici diventano sempre più comuni, la bozza sottolinea la necessità di solidi quadri di sicurezza e protezione (SSF). Propone una gerarchia di misure, sottomisure e indicatori chiave di prestazione (KPI) per garantire l’identificazione, l’analisi e la mitigazione dei rischi nel corso del ciclo di vita di un modello.
La bozza suggerisce ai fornitori di stabilire processi per identificare e segnalare gli incidenti gravi associati ai loro modelli di IA, offrendo valutazioni dettagliate e correzioni se necessario. Inoltre, incoraggia la collaborazione con esperti indipendenti per la valutazione del rischio, soprattutto per i modelli che presentano rischi sistemici significativi.
Assumere un atteggiamento proattivo nei confronti delle indicazioni normative sull’IA
La legge europea sull’IA, entrata in vigore il 1° agosto 2024, prevede che la versione finale del Codice sia pronta entro il 1° maggio 2025. Questa iniziativa sottolinea l’atteggiamento proattivo dell’UE nei confronti della regolamentazione dell’IA, sottolineando la necessità di sicurezza, trasparenza e responsabilità dell’IA.
Mentre la bozza continua ad evolversi, i gruppi di lavoro invitano le parti interessate a partecipare attivamente al perfezionamento del documento. Il loro contributo collaborativo darà forma a un quadro normativo volto a salvaguardare l’innovazione e a proteggere la società dalle potenziali insidie della tecnologia AI.
Sebbene sia ancora in fase di bozza, il Codice di condotta dell’UE per i modelli di IA di uso generale potrebbe costituire un punto di riferimento per lo sviluppo e l’impiego responsabile dell’IA a livello globale. Affrontando questioni fondamentali come la trasparenza, la gestione del rischio e la conformità al copyright, il Codice mira a creare un ambiente normativo che promuova l’innovazione, sostenga i diritti fondamentali e garantisca un elevato livello di protezione dei consumatori.
La bozza è aperta al feedback scritto fino al 28 novembre 2024.
Vedi anche: Anthropic esorta a regolamentare l’IA per evitare catastrofi
Vuoi saperne di più sull’IA e sui Big Data dai leader del settore? Dai un’occhiata all’ AI & Big Data Expo che si terrà ad Amsterdam, in California e a Londra. L’evento completo è in concomitanza con altri eventi importanti come Intelligent Automation Conference, BlockX, Digital Transformation Week e Cyber Security & Cloud Expo.
Scopri gli altri eventi tecnologici aziendali e i webinar di TechForge qui.
