Alla conferenza internazionale “Humanity at the Crossroads: Autonomous Weapons Systems and the Challenge of Regulation” tenutasi a Vienna, è stato chiesto di regolamentare l’uso dell’IA nei sistemi d’arma autonomi (AWS) quando la tecnologia è ancora agli albori.
Nel corso dei secoli, i progressi della tecnologia hanno portato a cambiamenti radicali nel modo di combattere le guerre. Sviluppi come l’acciaio, la polvere da sparo e infine la bomba atomica hanno trovato le loro prime applicazioni in guerra prima di approdare alle applicazioni civili.
L’intelligenza artificiale ha invertito la tendenza in questo senso. Le applicazioni iniziali sono state in gran parte di tipo commerciale, ma le forze di difesa hanno rapidamente visto il potenziale dell’IA per trasformare ancora una volta il campo di battaglia.
Facendo riferimento alla prima bomba atomica, il ministro degli Esteri austriaco Alexander Schallenberg ha detto ai partecipanti provenienti da 143 paesi che il mondo sta affrontando un “momento Oppenheimer” per decidere se e come l’IA debba essere utilizzata nelle armi autonome.
L’umanità al bivio: I sistemi di armi autonome riempiranno presto i campi di battaglia del mondo. Dobbiamo agire e concordare regole internazionali per garantire che le decisioni sulla vita o sulla morte non siano mai prese dalle macchine!
➡️ Inaugurazione di #AWS2024Vienna con 900 ospiti da 142 Stati pic.twitter.com/AtwumLu4OP
– Alexander Schallenberg (@a_schallenberg) 29 aprile 2024
L’urgenza di una regolamentazione non è dovuta solo all’anticipazione di potenziali minacce future, ma anche all’uso dell’intelligenza artificiale nei conflitti attuali.
Idroni autonomi vengono utilizzati da entrambe le parti nella guerra in Ucraina. Le forze israeliane stanno utilizzando l’IA in diverse applicazioni di difesa, tra cui il presunto utilizzo dell’IA per identificare obiettivi umani nella guerra di Gaza.
Schallenberg ha affermato che “i sistemi di armi autonome riempiranno presto i campi di battaglia del mondo”, avvertendo che è giunto il momento di “concordare regole e norme internazionali per garantire il controllo umano”.
Ha esortato la necessità di limitare l’autonomia delle armi AI, affermando: “Almeno facciamo in modo che la decisione più profonda e di vasta portata – chi vive e chi muore – rimanga nelle mani degli esseri umani e non delle macchine”
In una dichiarazione del governo austriaco si legge: “I sistemi di armi autonome (AWS) sollevano profonde questioni dal punto di vista legale, etico, umanitario e della sicurezza. L’umanità è a un bivio e deve unirsi per affrontare la sfida fondamentale della regolamentazione di queste armi”
Dollari della difesa contro umanità
I conflitti in corso hanno visto aumentare i budget per la difesa a livello globale e i prezzi delle azioni di diverse aziende di tecnologia per la difesa alimentate dall’intelligenza artificiale hanno subito un’impennata. Le tecnologie AWS potrebbero essere troppo redditizie per essere vietate.
Jaan Tallinn, uno dei primi investitori di DeepMind Technologies di Google, ha affermato che “gli incentivi della Silicon Valley potrebbero non essere allineati con il resto dell’umanità”
Nel suo discorso programmatico alla conferenza, Tallinn ha detto: “Vi imploro di diffidare di coloro che promettono precisione e prevedibilità nei sistemi che utilizzano l’IA. Abbiamo già visto l’IA commettere errori di selezione in modi grandi e piccoli: dall’errore di riconoscere la testa pelata di un arbitro come un pallone da calcio, alle morti di pedoni causate dalle auto a guida autonoma, incapaci di riconoscere le strisce pedonali”
“Dobbiamo essere estremamente cauti nell’affidarci alla precisione di questi sistemi, sia nel settore militare che in quello civile. Gli errori accidentali causati dalle armi autonome hanno il potenziale per scatenare quel tipo di guerre che non dovrebbero mai essere intraprese”
Tallinn ha sottolineato che progettare armi AI più affidabili non è la soluzione. Ha spiegato che “anche quando le armi autonome diventeranno in grado di distinguere perfettamente tra gli esseri umani, renderanno molto più facile realizzare genocidi e uccisioni mirate alla ricerca di specifiche caratteristiche umane”
“Uscire dalla corsa agli armamenti richiede coraggio e lungimiranza. Lo abbiamo fatto in passato e possiamo farlo di nuovo”
Dall’apertura dei lavori della storica Conferenza di Vienna sulle armi autonome #AWS2024 di ieri, ecco il discorso completo del co-fondatore del FLI Jaan Tallinn ⬇️ pic.twitter.com/wFYxWpDl1S
– Future of Life Institute (@FLI_org) 30 aprile 2024
In una dichiarazione finale da inviare al Segretario Generale delle Nazioni Unite, il gruppo ha affermato il suo “forte impegno a lavorare con urgenza e con tutte le parti interessate per uno strumento giuridico internazionale che regoli i sistemi di armi autonome”.
La dichiarazione aggiunge: “Abbiamo la responsabilità di agire e di mettere in atto le regole necessarie per proteggere l’umanità… Il controllo umano deve prevalere nell’uso della forza”
Più di 115 Stati membri dell’ONU concordano sulla necessità di norme vincolanti che regolino l’AWS, ma sembra improbabile che la Russia, la Cina o il sito US non pongano il veto.
Anthony Aguirre, cosmologo e cofondatore del Future Life Institute, ha riassunto la situazione dicendo: “Il futuro dei bot da macello è qui”
