ETHICA SOCIETAS-Rivista di scienze umane e sociali
Image default
Cristina Di Silvio Geopolitica Intelligenza Artificiale NOTIZIE

Intelligenza artificiale militare e responsabilità umana

I limiti dell’autonomia algoritmica tra diritto internazionale umanitario, controllo umano, revisione delle armi ed esclusione dall’AI Act europeo

Cristina Di Silvio

Abstract: L’impiego dell’intelligenza artificiale nelle attività militari e nei processi decisionali relativi all’uso della forza, con particolare riferimento ai principi di distinzione, proporzionalità e precauzione previsti dal diritto internazionale umanitario, agli obblighi di revisione delle nuove armi, mezzi e metodi di guerra e alla necessità di garantire un controllo umano effettivo sulle decisioni algoritmiche. Le problematiche dell’opacità dei sistemi, dell’affidabilità tecnica e della tracciabilità delle decisioni, anche ai fini dell’accertamento delle responsabilità individuali e istituzionali, alla luce dell’esclusione degli impieghi esclusivamente militari dall’ambito di applicazione del regolamento europeo sull’intelligenza artificiale.

Keywords: #IntelligenzaArtificiale #DirittoInternazionaleUmanitario #ControlloUmano #ArmiAutonome #ResponsabilitàMilitare #AIAct #CristinaDiSilvio #EthicaSocietas #EthicaSocietasRivista #RivistaScientifica #ScienzeUmane #ScienzeSociali #EthicaSocietasUPLI


english version


La tecnologia non sospende il diritto

L’uso di sistemi algoritmici per l’analisi delle informazioni, il supporto all’individuazione dei bersagli o l’impiego di armi non modifica il principio dell’applicabilità del diritto internazionale umanitario, poiché le parti di un conflitto armato restano obbligate a distinguere gli obiettivi militari dalle persone e dai beni civili, a evitare attacchi indiscriminati e a valutare i danni incidentali prevedibili alla popolazione civile, senza che la rapidità computazionale o l’apparente affidabilità delle elaborazioni automatizzate possano sostituire il giudizio giuridico richiesto al momento della decisione.

Il primo errore metodologico consiste nel trattare ogni applicazione dell’intelligenza artificiale come un’arma autonoma, mentre i sistemi di supporto alle decisioni, di riconoscimento delle immagini e di pianificazione operativa presentano livelli differenti di autonomia e di incidenza causale, rendendo necessario ricostruire, ai fini della loro qualificazione giuridica, le funzioni effettivamente svolte, l’ambiente operativo, il margine di intervento umano e gli effetti ragionevolmente prevedibili del loro impiego.

Il problema dell’opacità algoritmica

Un modello algoritmico può produrre risultati statisticamente convincenti pur basandosi su dati incompleti, obsoleti o distorti e, in un ambiente operativo dinamico, l’errore può propagarsi dal riconoscimento di un oggetto alla sua classificazione come bersaglio, con conseguenze particolarmente gravi quando il risultato dell’elaborazione venga utilizzato per assumere decisioni sull’impiego della forza. La possibilità di interrompere l’azione, verificare i dati e contestualizzare il risultato diviene pertanto essenziale, non essendo sufficiente prevedere formalmente la presenza di un operatore umano quando quest’ultimo non disponga del tempo, delle informazioni o dell’autorità necessari per intervenire effettivamente.

L’opacità non riguarda soltanto la possibilità di spiegare matematicamente il funzionamento di un modello, ma investe anche la provenienza dei dati, la qualità dell’addestramento, le condizioni concrete di impiego e il rischio di automatizzare errori di classificazione, sicché, quando un risultato algoritmico concorra alla formazione di una decisione potenzialmente letale, deve essere possibile ricostruire il rapporto tra le informazioni disponibili, la valutazione del bersaglio e la scelta dei mezzi e dei metodi di attacco.

Revisione delle armi e controllo umano

L’articolo 36 del Protocollo aggiuntivo I alle Convenzioni di Ginevra del 1977 impone agli Stati parte, nello studio, nello sviluppo, nell’acquisizione o nell’adozione di una nuova arma o di nuovi mezzi o metodi di guerra, di determinarne la liceità rispetto alle disposizioni del Protocollo e alle altre norme internazionali applicabili, prevedendo una verifica che, nel caso dei sistemi basati sull’intelligenza artificiale, deve necessariamente confrontarsi con le caratteristiche tecnologiche e operative del sistema, con i suoi limiti di prevedibilità e con le condizioni nelle quali il suo comportamento potrebbe risultare incompatibile con gli obblighi del diritto internazionale umanitario.

La revisione preventiva non costituisce una certificazione astratta di innocuità, ma richiede una valutazione degli impieghi normali o ragionevolmente prevedibili e della possibilità di rispettare i principi di distinzione e proporzionalità e gli obblighi di precauzione nell’attacco, considerando anche le conseguenze degli aggiornamenti del software, delle modifiche dei dati e delle variazioni dell’ambiente operativo, che possono rendere necessaria una nuova valutazione della liceità dell’impiego.

In questo contesto assume particolare rilievo la posizione del Comitato internazionale della Croce Rossa, che ha proposto l’adozione di nuove regole internazionali giuridicamente vincolanti per vietare i sistemi d’arma autonomi imprevedibili e quelli progettati o utilizzati per applicare la forza contro persone, formulando raccomandazioni che, pur non costituendo una disciplina universale già adottata, evidenziano l’esigenza di preservare un controllo umano effettivo sull’impiego della forza.

Il controllo umano significativo, infatti, non può essere identificato nella semplice presenza di un operatore all’interno della catena decisionale, ma deve essere valutato in relazione alla sua capacità di comprendere il funzionamento del sistema, di disporre di un tempo utile per verificare le informazioni e di esercitare un potere effettivo di modifica, sospensione o interruzione dell’azione.

Proporzionalità, precauzioni e affidabilità

Il principio di proporzionalità nell’attacco non autorizza una compensazione generica tra il vantaggio militare perseguito e qualsiasi danno arrecato alla popolazione civile, ma impone di valutare se le perdite di vite umane, le lesioni ai civili e i danni ai beni di carattere civile incidentalmente prevedibili risultino eccessivi rispetto al vantaggio militare concreto e diretto atteso, secondo una valutazione che deve essere effettuata sulla base delle informazioni ragionevolmente disponibili al momento della decisione.

Gli strumenti algoritmici possono incidere sulla qualità, sulla quantità e sulla rapidità di elaborazione delle informazioni, ma non modificano lo standard giuridico applicabile, né dispensano dall’adozione delle precauzioni praticabili, tra le quali rientrano la verifica della natura militare del bersaglio, la scelta di mezzi e metodi di attacco idonei a ridurre i danni incidentali quando possibile e l’annullamento o la sospensione dell’attacco qualora emergano elementi che ne rendano l’esecuzione incompatibile con il diritto internazionale umanitario.

Ne consegue che un sistema algoritmico non sufficientemente prevedibile o affidabile in determinate condizioni operative può risultare inadatto a quello specifico impiego, anche quando abbia dimostrato prestazioni soddisfacenti durante le verifiche sperimentali, poiché la conformità giuridica non può essere desunta esclusivamente dalle capacità tecniche dichiarate dal produttore o dai risultati ottenuti in ambienti controllati.

Dalla conformità formale alla verifica operativa

Una governance efficace dell’intelligenza artificiale militare richiede di documentare l’intero ciclo di vita del sistema, dalla progettazione alla sperimentazione, dall’acquisizione all’addestramento degli operatori, fino agli aggiornamenti e all’impiego operativo, prevedendo procedure di verifica capaci di individuare le condizioni nelle quali l’affidabilità tecnica possa deteriorarsi e incidere sulla legittimità delle decisioni.

Non è sufficiente attribuire genericamente a un essere umano l’ultima decisione quando l’interfaccia non consenta di comprendere tempestivamente i limiti, le incertezze e le conseguenze delle elaborazioni algoritmiche, poiché la supervisione effettiva presuppone che l’operatore sia posto nelle condizioni di valutare criticamente il risultato prodotto dal sistema e, quando necessario, di discostarsene.

Le verifiche dovrebbero pertanto includere condizioni realistiche di stress operativo, degradazione dei sensori e variazione del contesto, considerando che un sistema affidabile in laboratorio può produrre errori sistematici sul campo e che la tracciabilità delle operazioni, la conservazione dei dati tecnici e la possibilità di sottoporre il funzionamento del sistema a verifiche successive costituiscono strumenti di prevenzione e, al tempo stesso, elementi probatori indispensabili per ricostruire eventuali responsabilità.

L’esclusione militare dall’AI Act e il diritto applicabile

Il regolamento (UE) 2024/1689, all’articolo 2, paragrafo 3, esclude dal proprio ambito di applicazione i sistemi di intelligenza artificiale nella misura in cui siano immessi sul mercato, messi in servizio o utilizzati esclusivamente per scopi militari, di difesa o di sicurezza nazionale, secondo le condizioni stabilite dalla disposizione, introducendo una delimitazione dell’ambito applicativo della normativa europea che non può tuttavia essere interpretata come un’esenzione generale dagli obblighi giuridici connessi all’impiego militare delle tecnologie algoritmiche.

L’esclusione dall’AI Act non determina infatti un vuoto normativo, poiché continuano a trovare applicazione, nei rispettivi ambiti, le disposizioni del diritto internazionale umanitario, gli obblighi internazionali degli Stati e le norme sulla responsabilità individuale, mentre per gli Stati parte del Protocollo aggiuntivo I resta fermo l’obbligo di revisione giuridica delle nuove armi, dei mezzi e dei metodi di guerra previsto dall’articolo 36.

La circostanza che un sistema di intelligenza artificiale sia destinato a finalità militari non consente quindi di presumerne automaticamente la liceità o l’illiceità, dovendosi procedere a una valutazione concreta delle sue funzioni, del grado di autonomia, della prevedibilità del comportamento e delle possibilità effettive di supervisione umana, distinguendo i sistemi di supporto algoritmico dalle armi autonome e considerando le specifiche modalità attraverso le quali la tecnologia incide sulle decisioni operative.

Attribuzione della responsabilità e limiti del controllo umano

Nel diritto internazionale umanitario, la conformità di un attacco deve essere valutata rispetto alle informazioni ragionevolmente disponibili al decisore nel momento in cui la decisione viene assunta, con la conseguenza che la mera presenza di un operatore umano nella catena decisionale non risolve il problema dell’automazione, essendo necessario verificare se tale operatore disponga del tempo, delle informazioni, dell’addestramento e dell’autorità necessari per comprendere, contestare o disattendere le indicazioni del sistema.

La registrazione degli input, delle modifiche del modello e delle decisioni umane può consentire di distinguere un errore di progettazione da un impiego non conforme, ricostruendo il contributo causale dei diversi soggetti coinvolti e fornendo elementi essenziali per l’accertamento successivo, fermo restando che l’attribuzione di una responsabilità giuridica richiede sempre la verifica dei presupposti previsti dalla disciplina applicabile.

La responsabilità non può essere trasferita alla macchina, che non costituisce un autonomo soggetto di imputazione giuridica, ma deve essere ricondotta, secondo le rispettive competenze e i differenti regimi normativi, alle decisioni e alle omissioni degli Stati e delle persone coinvolte nella progettazione, nell’acquisizione, nell’autorizzazione e nell’impiego dei sistemi, evitando di confondere la responsabilità internazionale dello Stato con quella penale individuale o con altre forme di responsabilità eventualmente configurabili.

La complessità tecnologica rende dunque ancora più importante definire preventivamente compiti, poteri e procedure di controllo, poiché l’impossibilità di ricostruire il funzionamento di un sistema o di individuare il contributo delle decisioni umane rischia di compromettere non soltanto l’efficacia dell’accertamento successivo, ma anche la possibilità di prevenire condotte contrarie al diritto internazionale.

La responsabilità umana come limite all’autonomia tecnologica

La responsabilità per l’impiego militare dell’intelligenza artificiale resta radicata nelle decisioni e nelle omissioni umane e negli obblighi delle istituzioni competenti, ma non può essere assicurata attraverso un controllo soltanto nominale, richiedendo limiti di impiego verificabili, revisione giuridica delle armi ove applicabile, formazione degli operatori, conservazione delle informazioni rilevanti e poteri effettivi di intervento sulle decisioni automatizzate.

L’affidabilità tecnica diviene così una condizione essenziale della diligenza giuridica, poiché senza una comprensione sufficiente del funzionamento del sistema, dei suoi limiti e delle condizioni nelle quali può produrre risultati erronei, anche la valutazione del rispetto dei principi di distinzione e proporzionalità e degli obblighi di precauzione rischia di essere compromessa, trasformando la capacità tecnologica di elaborare informazioni in una fonte di incertezza sulla legittimità delle decisioni.

L’intelligenza artificiale può modificare profondamente le modalità di conduzione delle operazioni militari, ma non può modificare il fondamento giuridico della responsabilità, né trasformare l’automazione in una causa di esonero dagli obblighi imposti dal diritto internazionale umanitario, perché la possibilità di ricostruire, controllare e valutare le decisioni sull’impiego della forza resta una condizione irrinunciabile dello Stato di diritto, anche e soprattutto durante un conflitto armato.


Bibliografia e fonti


Ultimi 5 articoli dello stessa autrice

Comando militare e Stato di diritto

Impeachment e poteri di guerra

Geografia della vulnerabilità e sicurezza regionale nel Corno d’Africa

Ucraina, la pace annunciata e la guerra che continua

La libertà di scegliere il futuro: demografia, corpo e limiti del potere

Ultimi 5 articoli sulla geopolitica

Giovani socialisti, il congresso di Roma e la sfida del riformismo

La rivoluzione studentesca in Serbia contro la destra sovranista e filorussa

16 ottobre 2026: il guasto ENAV rivela la fragilità delle reti che governano il cielo italiano

Le Nazioni Unite e il diritto senza potere

L’Europa impreparata al proprio clima

Ultimi 5 articoli pubblicati

Non più assolti in tribunale e condannati dai media

Movida e diritto al riposo dei residenti

Reati ambientali tra codice penale e Testo unico

Non aderite alle richieste delle forze di polizia per scambiare dati via Telegram

Oltraggio a pubblico ufficiale, anche le offese lievi sono sempre punibili (Corte. Cost. 186/2026)


Ethica Societas è una testata giornalistica gratuita e no profit edita da una cooperativa sociale onlus
Copyright Ethica Societas, Human&Social Science Review © 2026 by Ethica Societas UPLI onlus.
ISSN 2785-602X. Licensed under CC BY-NC 4.0

Related posts

Influencer della maternità: tra gravidanze da catalogo e case di vita vissuta

Elhem Beddouda

Capire la guerra in Ucraina: 1) dagli zar all’unione sovietica

Francesco Mancini

Particolare tenuità del fatto: interessanti novità giurisprudenziali

Luigi De Simone