{"id":67119,"date":"2017-11-06T00:23:32","date_gmt":"2017-11-05T23:23:32","guid":{"rendered":"https:\/\/www.archivio-affarinternazionali.it\/archivio\/?p=67119"},"modified":"2017-11-06T00:23:32","modified_gmt":"2017-11-05T23:23:32","slug":"dibattito-sistemi-arma-autonomi","status":"publish","type":"post","link":"https:\/\/www.archivio-affarinternazionali.it\/archivio\/2017\/11\/dibattito-sistemi-arma-autonomi\/","title":{"rendered":"Dibattito sul futuro dei sistemi d\u2019arma autonomi letali"},"content":{"rendered":"

Dal 13 al 17 novembre prossimi si terranno a Ginevra<\/strong> le prime riunioni del Gruppo di Esperti governativi sui Sistemi d\u2019Arma Autonomi Letali<\/strong><\/a>\u00a0(Laws), istituito dalla Conferenza di Riesame della Convenzione<\/strong> per la proibizione<\/strong><\/a> dell\u2019uso di certe armi convenzionali svoltasi nel dicembre 2016. L\u2019intenzione \u00e8 di strutturare la discussione intorno a tre grandi aree tematiche: aspetti tecnologici, aspetti militari e considerazioni etico-giuridiche.<\/p>\n

Nello specifico, tra principali argomenti oggetto di dibattito, si approfondiranno la questione relativa alla definizione di sistemi ‘autonomi’; la compatibilit\u00e0 delle Laws<\/strong> con il Diritto internazionale umanitario (Diu) e l’importanza delle \u201clegal reviews\u201d ex art. 36 del Primo Protocollo aggiuntivo alle Convenzioni di Ginevra del 1949 relativo alla protezione delle vittime dei conflitti armati internazionali; le questioni etiche sollevate dalla delega delle decisioni connesse all’utilizzo della forza a entit\u00e0 artificiali.<\/p>\n

Del resto questa nuova tipologia di sistema d\u2019arma \u00e8 una realt\u00e0 sempre pi\u00f9 concreta. Basti pensare alla sentinella robotica Sgr-A1, nata da una collaborazione in Corea fra l\u2019Universit\u00e0 e la Samsung e gi\u00e0 dispiegata dal governo di Seul per sorvegliare la zona demilitarizzata al confine con la Corea del Nord. L\u2019Sgr-A1 \u00e8 dotata di un sofisticato sistema di intelligenza artificiale in grado di ingaggiare il bersaglio da una distanza di tre chilometri e aprire il fuoco in completa autonomia.<\/p>\n

La ricerca di una definizione condivisa
\n<\/strong>Sebbene non vi sia ancora una definizione condivisa tra gli addetti ai lavori, \u00e8 possibile operare una prima distinzione tra sistemi altamente automatizzati, ossia quelli che hanno funzioni autonome ma che dipendono da pre-programmazioni umane, e sistemi autonomi, che invece sono capaci di apprendere e adattarsi al contesto, anche prescindendo dalla programmazione iniziale. Alla luce di tale distinzione, \u00e8 possibile sostenere come i sistemi che rientrano nella prima di tali due categorie possano trovare disciplina all’interno delle norme esistenti di Diu e non sollevare problemi nell’imputazione della responsabilit\u00e0 giuridica del loro utilizzo, mentre i secondi potrebbero presentare delle problematicit\u00e0 sotto il profilo legale ed etico.<\/p>\n

Tuttavia, la mancanza di una definizione di lavoro condivisa rimane ancora una questione aperta e fonte di un acceso dibattito tra gli esperti come anche la dimostrazione che allo stadio attuale della tecnologia esistano sistemi d\u2019arma che ricadano completamente nella seconda categoria. Due elementi sono considerati critici e decisivi ai fini dell’elaborazione di una definizione operativa: la relazione uomo-macchina e il concetto di prevedibilit\u00e0.<\/p>\n

Quanto al primo, il grado di autonomia di un determinato sistema d\u2019arma potrebbe essere valutato in base al suo rapporto con gli operatori umani e al punto in cui il controllo umano si interrompe nel ciclo di selezione e ingaggio degli obiettivi. A tale riguardo emergono i concetti di \u201cmeaningful human control\u201d e \u201cappropriate level of human judgment\u201d, intesi sia come fattori determinanti sia per la definizione di autonomia di un sistema che per stabilire il limite oltre il quale certe armi potrebbero sollevare dei dubbi sotto il profilo etico. Altro concetto da considerare \u00e8 quello della prevedibilit\u00e0, secondo cui, in linea di principio, meno un sistema \u00e8 prevedibile, perch\u00e9 in grado di evolvere e apprendere dalla propria esperienza adattandosi a contesti dinamici, indipendentemente dalla programmazione di partenza, e pi\u00f9 esso \u00e8 da considerarsi autonomo.<\/p>\n

Diversi gradi di autonomia
\n<\/strong>Un\u2019analisi pi\u00f9 approfondita dello stato dell\u2019arte della ricerca e sviluppo nel settore delle tecnologie autonome, sia in ambito civile che militare, nonch\u00e9 un’esplorazione dei possibili sviluppi futuri, consente di classificare ulteriormente i sistemi d\u2019arma esistenti in base al loro grado di autonomia. In particolare, si possono distinguere sistemi operati a distanza, sistemi automatici e sistemi autonomi. Questa distinzione evidenzia come le tecnologie attuali dipendano tutte e in varia misura dal monitoraggio e dalla supervisione dell\u2019uomo.<\/p>\n

Nell’ambito della ricerca, lo sviluppo di tecnologie completamente autonome si scontra con almeno due ostacoli. Da un punto di vista prettamente tecnico, si riscontrano ancora dei limiti strutturali nella capacit\u00e0 dei sistemi autonomi di gestire situazioni impreviste e complesse e di elaborare dati abbastanza rapidamente; a questi si aggiunge la riluttanza propria della cultura militare che tende a dubitare delle capacit\u00e0 e adeguatezza dei sistemi tecnologicamente complessi e a non utilizzare sistemi sui quali non si pu\u00f2 avere pieno comando e controllo.<\/p>\n

Considerazioni etico-giuridiche
\n<\/strong>Sul piano legale sono due le questioni principalmente dibattute. Da un lato, viene generalmente affermato che il Diu esistente si applicherebbe alle Laws come a qualsiasi sistema d’arma, anche allo stadio della ricerca o sviluppo. Gradi elevati di autonomia, in altri termini, non potrebbero giustificare la violazione delle norme e dei principi del Diu. Al contempo viene ribadito come proprio l’applicazione di tali principi, in particolare quelli della proporzionalit\u00e0 e della distinzione, richiederebbe delle valutazioni di carattere soggettivo che, per loro stessa definizione, necessitano di un input umano.<\/p>\n

Particolare attenzione viene dedicata anche alle \u201clegal reviews\u201d sancite nell’art. 36 del Protocollo I aggiuntivo alle Convenzioni di Ginevra del 1949 relativo alla protezione delle vittime dei conflitti armati internazionali. La disposizione richiede che nello studio, messa a punto, acquisizione o adozione di una nuova arma, di nuovi mezzi o metodi di guerra, si proceda a una valutazione\/analisi atta a stabilire se il suo impiego sia conforme o meno alle disposizioni del suddetto Protocollo o al Diu generalmente applicabile. In questo contesto emerge anche il concetto di \u201caccountability\u201d, ovvero della necessit\u00e0 di assicurare che l’utilizzo di sistemi d\u2019arma autonomi non pregiudichi una chiara e netta identificazione dei responsabili delle decisioni sull’utilizzo della forza.<\/p>\n

Sfide e problemi futuri di sicurezza
\n<\/strong>Se da un lato le Laws rappresentano una tecnologia che affascina per i suoi potenziali impieghi nei teatri operativi, dall’altro presentano vari fattori di rischio legati al loro sviluppo e impiego, alcuni dei quali connessi a questioni di carattere prettamente tecnico. La complessit\u00e0 tecnologica delle funzionalit\u00e0 autonome potrebbe generare comportamenti non previsti e indesiderati, soprattutto in contesti complessi e dinamici. Il rischio di comportamenti imprevedibili sarebbe maggiore per le tecnologie capaci di apprendere e adattare autonomamente la propria condotta al contesto operativo.<\/p>\n

Oltre a questi fattori tecnici, ve ne sono altri di natura pi\u00f9 politica e strategica che vanno segnalati come potenzialmente rischiosi, soprattutto nel settore della sicurezza. Lo sviluppo, la produzione e la commercializzazione di Laws potrebbero ingenerare una nuova corsa agli armamenti e accentuare la componente asimmetrica dei conflitti oggi in essere e determinare, quindi, una maggiore instabilit\u00e0 a livello regionale e globale; la soglia psicologica oltre la quale decidere l\u2019impiego della forza da parte di chi pu\u00f2 fare uso di sistemi d\u2019arma autonomi invece che di uomini si abbasserebbe ulteriormente; infine, la proliferazione illecita di materiali, tecnologie e know-how da parte di attori non statali illegittimi, come gruppi armati e terroristi, riceverebbe un ulteriore impulso.<\/p>\n","protected":false},"excerpt":{"rendered":"

Dal 13 al 17 novembre prossimi si terranno a Ginevra le prime riunioni del Gruppo di Esperti governativi sui Sistemi d\u2019Arma Autonomi Letali\u00a0(Laws), istituito dalla Conferenza di Riesame della Convenzione per la proibizione dell\u2019uso di certe armi convenzionali svoltasi nel dicembre 2016. L\u2019intenzione \u00e8 di strutturare la discussione intorno a tre grandi aree tematiche: aspetti […]<\/p>\n","protected":false},"author":21,"featured_media":67122,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[447,662,664,661,663],"_links":{"self":[{"href":"https:\/\/www.archivio-affarinternazionali.it\/archivio\/wp-json\/wp\/v2\/posts\/67119"}],"collection":[{"href":"https:\/\/www.archivio-affarinternazionali.it\/archivio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.archivio-affarinternazionali.it\/archivio\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.archivio-affarinternazionali.it\/archivio\/wp-json\/wp\/v2\/users\/21"}],"replies":[{"embeddable":true,"href":"https:\/\/www.archivio-affarinternazionali.it\/archivio\/wp-json\/wp\/v2\/comments?post=67119"}],"version-history":[{"count":2,"href":"https:\/\/www.archivio-affarinternazionali.it\/archivio\/wp-json\/wp\/v2\/posts\/67119\/revisions"}],"predecessor-version":[{"id":67123,"href":"https:\/\/www.archivio-affarinternazionali.it\/archivio\/wp-json\/wp\/v2\/posts\/67119\/revisions\/67123"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.archivio-affarinternazionali.it\/archivio\/wp-json\/wp\/v2\/media\/67122"}],"wp:attachment":[{"href":"https:\/\/www.archivio-affarinternazionali.it\/archivio\/wp-json\/wp\/v2\/media?parent=67119"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.archivio-affarinternazionali.it\/archivio\/wp-json\/wp\/v2\/categories?post=67119"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.archivio-affarinternazionali.it\/archivio\/wp-json\/wp\/v2\/tags?post=67119"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}