Articolo

Dario Bassani

Il capitalismo ha armato le macchine contro di noi

Un gruppo di Terminator ha ucciso di propria iniziativa degli esseri umani. 

“Non è una notizia inaspettata”, spiega Mariarosaria Taddeo, professoressa di Etica digitale e Tecnologie della difesa all’Università di Oxford, “e rivela quanto gli Stati e l’industria delle armi abbiano lavorato all’automatizzazione della kill chain”, la catena operativa militare che porta dall’acquisizione dei bersagli alla loro eliminazione. Taddeo commenta un articolo pubblicato dal New Scientist il 10 giugno 2026, intitolato “Dei droni pienamente autonomi hanno ucciso per la prima volta dei soldati umani”.

È un annuncio che marca il passaggio dalla fantascienza alla cronaca. Se un tempo la parola Terminator descriveva soltanto dei distopici assassini robot, oggi dà anche il nome a dei dispositivi letali guidati dall’intelligenza artificiale, che si sono librati nei cieli fra Russia e Ucraina.

La fonte che ha confermato l’eliminazione di “un paio di soldati russi e un camion” da parte di queste nuove tecnologie è Alexander Kokhanovskyy, un rappresentante dell’industria delle armi ucraina. Kokhanovskyy ha dichiarato che, due anni fa, dieci quadricotteri autonomi prodotti dalla sua azienda hanno partecipato a un test dall’esito letale. Quei velivoli erano stati programmati per volare verso la linea del fronte e poi entrare in “modalità Terminator”, nella quale l’intelligenza artificiale che li manovra “uccide tutto ciò che vede”. 

Le affermazioni di Kokhanovskyy però hanno suscitato un certo scetticismo tra gli esperti. Taddeo mi mette in guardia: “Queste dichiarazioni potrebbero essere propaganda, un modo per creare deterrenza grazie al racconto di capacità militari che forse non sono tali”. 

L’Ucraina non ha ancora né confermato né smentito le affermazioni riportate dal New Scientist, dato che le sue stesse leggi vietano l’uso di questi sistemi d’arma nelle ultime fasi dell’intercettazione dei bersagli. Kokhanovskyy tuttavia sostiene che tra il suo governo e l’industria della difesa siano in corso delle discussioni per alleggerire queste regole, e aggiunge che sarebbe favorevole a uno snellimento. Da un punto di vista imprenditoriale non fa una grinza: a nuove armi corrispondono nuovi contratti, che corrispondono a nuovo denaro. Se l’azienda di droni di Kokhanovskyy potesse dimostrare che i suoi velivoli hanno superato sul campo la prova della piena autonomia, sarebbe un’ottima notizia per i suoi affari. 

Che le prime vittime di robot assassini siano veri cadaveri o fantasmi della propaganda, un fatto però è conclamato: è da più di dieci anni che le armi letali autonome solcano i dibattiti più diversi. Il loro ronzio si è diffuso nei media generalisti a partire dalla ricerca accademica, dai comunicati stampa dell’industria delle armi e dalle discussioni degli organismi sovranazionali. Gli ultimi fatti in Ucraina sono solo l’ultimo episodio di una storia più ampia, in cui queste tecnologie sono state rappresentate sia come indegni ordigni che violano la dignità umana – quando ci si appella alla necessità di vietarle –, sia come nuovi, preziosi strumenti per accaparrarsi uno schiacciante vantaggio militare e proteggere combattenti e civili – se invece se ne sostiene lo sviluppo. 

“Quando dieci anni fa parlavamo di queste armi la discussione era ancora piuttosto marginale: oggi invece accade tutto molto in fretta”, dice il teorico militare Antoine Bousquet da Stoccolma, dove è professore associato all’Università della Difesa Svedese. Negli ultimi anni, un manipolo di aziende tecno-militari come Palantir e Anduril ha investito cifre ingenti nello sviluppo dell’IA a fini bellici, in nome della difesa delle democrazie liberali e a vantaggio dei loro fatturati plurimilionari, foraggiati da diversi governi occidentali e dal conflitto russo-ucraino.

“Era chiaro decenni fa che sarebbero sbarcate sui campi di battaglia, e sfortunatamente continueranno a essere usate in guerra”. Ronald Arkin, 76 anni, è un decano del dibattito. È stato a lungo direttore del laboratorio di robotica mobile del Georgia Institute of Technology, dove ha passato molti anni a definire un comportamento etico per i robot armati, una ricerca finanziata dal dipartimento della Difesa – oggi della Guerra – statunitense. Sostiene infatti che il loro impiego potrebbe addirittura ridurre le vittime civili sul campo di battaglia e le atrocità in guerra. Al posto di un loro bando propone una moratoria, in attesa che questi sistemi diventino abbastanza sofisticati da rispettare appieno i princìpi del diritto bellico e umanitario.

Diversi esperti ritengono irrealizzabili i progressi sperati da Arkin, e pertanto reclamano un divieto completo. La comunità internazionale è da anni il palcoscenico di campagne di proibizione come Stop Killer Robots, e anche i suoi vertici si sono opposti all’uso di queste tecnologie. Nel 2025, per esempio, il segretario generale delle Nazioni Unite António Guterres ha invocato il bando globale di questi sistemi “politicamente inaccettabili” e “moralmente repellenti”, perché sostiene che l’uso della forza letale debba essere sempre sottoposto al controllo umano, e che pertanto “non possiamo delegare decisioni di vita e di morte alle macchine”.

A dispetto di tutta questa attenzione, al momento non esiste una definizione unica di arma letale pienamente autonoma. Nel suo libro Codice di guerra (Raffaello Cortina, 2025) Mariarosaria Taddeo ne ha raccolte ben dodici, formulate da Stati – dalla Cina agli Stati Uniti passando per la Francia – e organismi internazionali come la Croce Rossa. Se non siamo d’accordo sulla loro natura, come possiamo anche solo pensare di scrivere leggi capaci di regolarne o vietarne l’uso? D’altro canto, secondo l’antropologa della scienza e della tecnologia Lucy Suchman, queste discussioni terminologiche trascurano le definizioni operative già adottate dalle organizzazioni della società civile, fondate sull’autonomia nel riconoscimento dei bersagli umani e nell’esercizio della forza letale. Secondo Suchman, il dibattito è sfruttato per prolungare lo stallo che blocca la regolamentazione di questi sistemi d’arma all’interno della Convenzione delle Nazioni Unite su certe armi convenzionali.

Taddeo ha coniato una nuova definizione per chiarire i termini del dibattito, basata su quattro princìpi: lo scopo d’uso, quello di un’arma rivolta contro oggetti fisici o esseri umani per danneggiarli o distruggerli; l’autonomia e il controllo, cioè la capacità della macchina di perseguire un obiettivo senza comandi diretti – sebbene possa comunque essere sottoposta a supervisione; e infine l’apprendimento, grazie al quale il sistema è in grado di perfezionare da solo il proprio comportamento.

L’autonomia e l’apprendimento costituiscono i tratti più inquietanti di questa tipologia di armi, perché impediscono di prevedere fino in fondo il comportamento del sistema: la macchina può produrre degli esiti indesiderati sia per chi l’ha sviluppata e programmata sia per chi la usa. 

Da questa imprevedibilità scaturisce il problema etico del responsibility gap, il vuoto di responsabilità, l’impossibilità di far risalire i comportamenti di certi sistemi autonomi ad azioni e intenzioni di un essere umano. Se un’arma autonoma commettesse un crimine di guerra, potrebbe essere impossibile far sedere al banco di un tribunale una persona in carne e ossa, e al suo posto non si potrebbe certo far accomodare un robot. La situazione giuridica già non è rosea con gli esseri umani, come ricorda Arkin – “sai quanto è difficile ottenere una condanna per crimini di guerra? È pressoché impossibile!” –, e queste macchine potrebbero diventare dei nuovi capri espiatori.

Un’altra coppia di parole inglesi allunga un’ulteriore ombra su questi arnesi, cioè automation bias, il pregiudizio da automazione che definisce la tendenza degli utenti a fidarsi dei sistemi autonomi perché li considerano più imparziali e neutrali delle loro controparti dotate di reti neurali organiche.

I problemi scottanti sollevati dal responsibility gap e dall’automation bias diventano ustionanti quando riguardano le potenziali vittime civili di queste armi. Il Diritto Internazionale Umanitario si fonda su una distinzione tra combattenti – bersagli legittimi – e non-combattenti – bersagli illegittimi. Le armi autonome sono in grado di rispettare questa differenza? 

Gli esperti sono divisi. Arkin sostiene che queste tecnologie potrebbero avere un discernimento maggiore dei soldati biologici: “Si potrebbe sostenere che è impossibile anche per gli esseri umani farlo con accuratezza. I sistemi IA invece possono avere sensori migliori di quelli organici”. Taddeo al contrario ritiene che gli agenti artificiali che le orientano non possano avere sufficiente contezza del contesto per capire che cosa sia un bersaglio legittimo, e che questo limite non possa essere superato con delle migliorie tecniche perché deriva dalla natura stessa dell’IA.

È un problema che precede l’impiego delle armi pienamente autonome. Un caso recente dell’uso militare dell’IA ha dimostrato che, salvo progressi miracolosi, Taddeo ha ragione: il primo giorno dell’attacco statunitense all’Iran nel 2026, due missili Tomahawk hanno sbriciolato una scuola elementare e ucciso circa 120 persone, la maggior parte delle quali bambine tra i sette e i dodici anni. Alcuni ufficiali americani hanno dichiarato in forma anonima che credevano che lì si trovasse una base della Guardia Rivoluzionaria iraniana, stando alle indicazioni ricevute dall’IA. 

Quattro mesi di menzogne e false piste dopo – Donald Trump aveva dichiarato che l’attacco alla scuola era opera degli iraniani – l’inchiesta interna al dipartimento della Guerra è finita. I rapporti non sono ancora stati rilasciati, ma diversi ex ufficiali americani pensano che non saranno mai resi pubblici e che quindi la verità sarà insabbiata.

Nei giorni successivi al bombardamento, gran parte della copertura mediatica cercava di misurare quanto l’intelligenza artificiale fosse stata usata per selezionare il bersaglio errato. In una scatola cinese di appalti, l’IA militare in questione aveva generato migliaia di obiettivi tramite Claude di Anthropic, usato da Palantir all’interno del progetto Maven, un sistema di analisi dei dati in forza all’esercito americano. Quindi era stata una macchina a sbagliare obiettivo? I militari che avevano dato l’ordine di fuoco si erano limitati a fidarsi? Eppure, secondo altri commenti coperti dall’anonimato, un analista aveva chiarito anni prima che lì c’era un edificio scolastico, ma questa informazione non era mai stata inserita nel database di intelligence ufficiale statunitense.

Oltre al caso specifico, le domande sulla responsabilità dell’IA sono mal poste perché oscurano una vicenda militare e tecnica molto più estesa, fatta di molte decisioni umane, troppo umane che ci hanno fatto affinare così bene l’arte di dare la morte ai nostri simili da riuscire addirittura a insegnarla all’intelligenza artificiale – al punto che forse i soldati umani ne diventeranno una semplice appendice, coscienti solo quanto basta a correggerla. 

Secondo Antoine Bousquet questa storia più ampia inizia con una prima domanda: “È un interrogativo a cui risponde tutta la storia delle armi a lungo raggio: come posso attaccare il mio nemico senza espormi a mia volta?”.

Dopo secoli di archi, balestre, archibugi, cannoni, fucili e obici, le tecnologie che hanno soddisfatto questa esigenza hanno cominciato a somigliare a quelle odierne a partire dalla Seconda guerra mondiale, con la nascita militare delle tecnologie digitali e di sistemi capaci di autocorrezione come i missili guidati.

Dagli anni Ottanta e Novanta in poi, a questo paradigma della guerra computerizzata fa seguito una nuova dottrina bellica, che prende i propri modelli dalle scienze della complessità e del caos. I teorici militari ammiravano le reti e gli sciami presenti in natura, organizzazioni prive di centro, composte di elementi semplici che nella loro interazione fanno emergere nuovi comportamenti, grazie ai quali risolvono problemi intricati: gli eserciti e i loro sistemi di comando e controllo dovevano somigliargli il più possibile. Arkin stesso mi racconta che le sue ricerche sul comportamento etico dei robot intelligenti partivano dall’osservazione e dall’imitazione degli animali.

Questa passione etologica sopravvive ancora negli sciami di droni e nella filosofia di uno dei protagonisti principali della guerra high-tech contemporanea, Palantir. Nel libro scritto dal suo amministratore delegato Alexander Karp, La repubblica tecnologica (Silvio Berlusconi Editore, 2025) – da cui viene il manifesto in 22 punti di Palantir pubblicato ad aprile 2026 –, le danze delle api e le canzoni degli storni sono fonti di ispirazione: non hanno bisogno di autorizzazioni dall’alto, e pertanto sono leggiadri, svelti ed efficienti, liberi da fastidiosi ostacoli burocratici come i rapporti ai vertici o le regole d’ingaggio tradizionali.

L’enfasi sulla rapidità è la chiave dell’ideologia che ha condotto allo sviluppo di questi sistemi d’arma, come mi spiega Suchman, che oltre ad avere una cattedra come professoressa emerita di antropologia all’Università di Lancaster siede anche nel Comitato Internazionale per il Controllo delle Armi Robotiche in qualità di vicepresidente. 

Secondo Suchman, le armi letali autonome sono l’ultima fase di un aggiornamento tecnologico della supremazia militare in corso da decenni: “Le loro caratteristiche rispondono all’imperativo della velocità operativa come fattore di dominio, e fanno parte di una narrazione che esprime gli interessi della corsa agli armamenti e impedisce così di immaginare spazi di possibilità diversi dalla prosecuzione della guerra. Ai loro occhi, qualsiasi bersaglio è legittimo”. 

La ricerca di maggiore efficienza letale e rapidità si inserisce dentro a un processo di automazione del lavoro lungo secoli, che ha investito anche l’ambito militare a partire dalla rivoluzione industriale. Le sue prime avvisaglie erano state notate già poco meno di duecento anni fa, quando Karl Marx illustrò come nel capitalismo le tecnologie diventino qualcosa di diverso da un mero strumento a disposizione del lavoratore. 

La ricerca del profitto spinge i capitalisti ad assemblare i loro mezzi di produzione in un sistema automatico di macchine, che si muove non per il volere di chi lo adopera, ma per perseguire un sempre maggior accumulo di guadagni. In questa autopropulsione, gli operai non sono altro che “organi coscienti” del macchinario, che imita e migliora il modo in cui lavorano. I lavoratori non se ne servono, ma al contrario sono al suo servizio, ingranaggi tra ingranaggi.

A un primo sguardo sembra che le macchine siano generose, che facciano risparmiare fiato: sollevano enormi pesi, consentono di fare in poco tempo ciò che prima costava molte ore. In realtà permettono a chi le possiede di espellere gli operai improduttivi o insubordinati, e costringono chi le usa a conformare il proprio comportamento alla loro logica. 

Le armi letali autonome ripropongono la medesima dinamica in guerra: sarebbe impossibile farle funzionare se i fronti contemporanei non si fossero trasformati in enormi fabbriche di dati a uso e consumo dell’IA. Maven, il sistema usato dagli Stati Uniti in Iran per scovare una scolaresca su cui sganciare due missili, era nato per automatizzare il lavoro degli analisti di intelligence che avrebbero dovuto osservare più ore di filmati di droni militari di quanto una retina umana possa tollerare. È per questo che quelle immagini sono state date in pasto a una macchina, che sembra togliere una gravosa incombenza al personale militare, ma in realtà ne determina le decisioni perché le sue direttive paiono oggettive: lo strumento assoggetta i suoi utenti, che si conformano alla sua logica. 

Possiamo usare Marx per leggere la storia delle armi autonome? Ne discuto con Bousquet, che però puntualizza: “La guerra si è sempre collocata in modo piuttosto scomodo nella teoria marxista, perché Marx si concentra sulla produzione all’interno delle economie capitaliste, mentre la dimensione militare si occupa di distruzione”. 

La ricerca di un vantaggio competitivo sugli avversari in effetti porta a spese enormi, spesso estranee al perseguimento di un guadagno, anzi del tutto anti-economiche. Questo però non è vero per chi vende le armi, ed è qui, nell’industria della difesa, che le logiche produttive e distruttive convergono. Palmer Luckey, fondatore di Anduril, astro nascente dell’industria bellica americana, sottolinea spesso un pregio degli sciami di droni autonomi che la sua azienda costruisce e vende: costano molto meno e sono molto più veloci da produrre rispetto a un aereo tradizionale. 

È una caccia ai quattrini che, nonostante le roboanti affermazioni sulla difesa della democrazia, non è perseguita con grande riguardo per le basi del diritto internazionale. Luckey, sedicente sionista radicale, ha affermato che venderebbe con piacere i propri servizi a Israele, se non fosse per i fastidiosi regolamenti sull’esportazione delle armi. 

Il caso ucraino è centrale per gli affari di queste aziende: nel 2023 Palantir ha dichiarato di essere responsabile della maggior parte dell’acquisizione di bersagli in Ucraina e che le sue tecnologie sono state usate per uccidere a Gaza – a proposito di diritti umani. Anduril dice di fornire droni all’esercito ucraino fin dall’invasione russa nel 2022. Entrambe le aziende sono quotate in borsa, con valutazioni miliardarie. Il nuovo fronte orientale è chiamato “la Silicon Valley della difesa” perché da quattro anni è un enorme laboratorio di ricerca e sviluppo per le nuove tecnologie militari. 

L’importanza di questo nuovo complesso militare-industriale e di soggetti civili come le Big Tech deriva infatti anche dalla montagna di denaro che questi attori sono disposti a destinare allo sviluppo dell’IA. Anthony King, direttore dell’Istituto di Strategia e Sicurezza dell’Università di Exeter, in AI, Automation, and War (Princeton University Press, 2025) ha paragonato i budget di ricerca e sviluppo dedicati all’intelligenza artificiale di questi colossi finanziari con quelli del Pentagono. Il dipartimento che sovrintende l’esercito più grande e costoso del mondo impallidisce al loro confronto: nel 2023 il dipartimento della Difesa aveva investito in IA solo il 2,4% della spesa complessiva delle cinque aziende tecnologiche più grandi d’America.

Le armi letali autonome sono il bordo più tagliente di un problema grande come e più dell’Occidente: l’economia di guerra riempie le tasche di chi vuole riarmare i Paesi della NATO per trasformarli in fortezze sorvegliate dall’occhio delle macchine. 

Questi imprenditori bellici, sedicenti venditori di difesa e deterrenza, paragonano le armi autonome a quelle nucleari. Dichiarano che l’IA abbia raggiunto il suo “momento Oppenheimer” – “se così fosse siamo di certo prima del Trinity Test”, commenta Bousquet, dato che al momento la loro superiorità non è ancora dimostrata sul campo –, e sostengono pertanto la necessità di accelerarne lo sviluppo per scongiurare la possibilità che i nostri avversari ci battano sul tempo. In altre parole, incoraggiano una corsa agli armamenti da manuale, che, se la Storia insegnasse qualcosa, dovrebbe far scattare qualche campanello d’allarme – o una sirena da nave, per i più duri d’orecchie. Il vertiginoso aumento delle spese militari negli anni precedenti alla Prima guerra mondiale andrebbe ricordato a chi pensa che il riarmo sia la miglior via per scongiurare la minaccia di un nuovo conflitto totale.

Per arginare la diffusione di questi nuovi modi per farci la pelle dobbiamo quindi trattare le armi autonome come se fossero bombe atomiche? D’altra parte siamo riusciti a regolamentare e a cominciare a disarmare le testate, sebbene i trattati oggi non godano di ottima salute. Potrebbe accadere anche con le ultime arrivate?

Per farlo occorrerebbe un quadro giuridico sovranazionale in forze, e oggi lo indeboliscono quelle stesse democrazie liberali che dovrebbero esserne paladine. Taddeo però mi risponde che il diritto internazionale è sofferente, ma non è ancora morto. “Per limitare l’uso di queste tecnologie serve un approccio globale, che rafforzi i poteri di organi come la Corte internazionale di giustizia dell’Aia e la metta in condizione di arrestare e processare i capi di stato incriminati senza attendere che si spostino altrove”. 

Tuttavia, prosegue, per quanto un approccio del genere sia auspicabile, al momento è irrealistico, e in attesa di tempi migliori andrebbero prese altre contromisure, con l’Europa al centro. “Quand’è che le democrazie liberali cacceranno i denti? Quand’è che punteranno i piedi e diranno: ‘Questo non lo faccio’? È chiaro che Putin non si adeguerà mai, ma non possiamo farci dettare gli standard etici da lui”.

Suchman invece sostiene che, nonostante l’ONU e le grandi organizzazioni internazionali siano di fondamentale importanza, ci siano altre speranze da coltivare, specie nei confronti dei Paesi fuori dal Consiglio di Sicurezza, che non siedono al tavolo delle superpotenze. Nel 2020 un report di Human Rights Watch aveva raccolto 30 Paesi, la maggior parte del Sud Globale, che avevano chiesto di bandire le armi letali autonome – tra cui il Vaticano, la Palestina, l’Austria (unico stato europeo presente, Italia non pervenuta) e la Cina, che ne voleva proibire l’uso ma non lo sviluppo e la produzione. 

All’appello mancavano gli Stati Uniti e Israele, oltre alla Russia: stati fondati su una spesa militare esorbitante, che rende il mondo un posto più ostile e pericoloso per tutti e nel frattempo riempie le tasche dei capitalisti tecno-militari. 

Il futuro della specie umana non è minacciato da eserciti di Terminator con occhi rossi e scheletri d’acciaio, ma da un gruppo di imprenditori tecnologici con il portafoglio gonfiato dai bilanci pubblici, neoliberisti incalliti che però prosperano grazie alle tasse dei contribuenti e che sussurrano all’orecchio dei governi occidentali. L’impiego delle armi autonome e il loro progresso tecnico oggi sono inevitabili perché gli interessi materiali di chi le usa, costruisce e vende sono molto ben difesi. Ma accettare la loro ineluttabilità come se fosse una legge di natura dà a questi miliardari un posto dietro al quale nascondere la mano dopo aver tirato il sasso – un sasso da cui hanno guadagnato fior di quattrini, e che sarebbe capace di ucciderci anche senza che qualcuno ce lo scagli in fronte.

***

L’autore ringrazia per gli spunti Giorgio Ciani, dottorando presso l’Università Ca’ Foscari di Venezia e membro del team del progetto ERC AIMODELS (The Culture of Algorithmic Models: Advancing the Historical Epistemology of Artificial Intelligence).

credits foto: Orbotix Industries