A Gaza gli algoritmi di acquisizione dei bersagli hanno trasformato case e famiglie in variabili del calcolo militare. Ora le tecnologie nate in guerra arrivano nelle strade europee, dove trattano il dissenso come un problema di ordine pubblico.
In una lettera del 1802 al suo mecenate Thomas Butts, il poeta inglese William Blake chiedeva a Dio di proteggerci dalla visione unica di uno sguardo che riduce il mondo a misura e meccanismo. Possa Dio preservarci / Dalla visione semplice e dal sonno di Newton! Più di due secoli dopo, il suo monito appare come una sventurata premonizione di ciò che sta accadendo nell’applicazione dell’intelligenza artificiale (IA) in ambito militare.
A settembre, Google Maps ha aggiornato le immagini satellitari della Striscia di Gaza, permettendo a chiunque di vedere la portata della devastazione causata dall’esercito israeliano. Intere zone urbane sono ridotte a distese indistinte di macerie, tanto che ormai è quasi impossibile distinguere una zona dall’altra. Secondo una recente analisi del Centro satellitare delle Nazioni Unite (UNOSAT), dall’entrata in vigore del «cessate il fuoco», la distruzione di infrastrutture civili nella Striscia è aumentata del 9 per cento. L’UNRWA, l’agenzia ONU per i rifugiati palestinesi, stima che circa l’82 per cento degli edifici di Gaza siano andati distrutti.
Numeri di questa portata non si possono liquidare come danni collaterali: il 29 dicembre 2023 il Sudafrica ha depositato il proprio ricorso alla Corte internazionale di giustizia, accusando Israele di violare la Convenzione sul genocidio. Il ricorso ha richiamato l’attenzione sull’impiego da parte di Israele di sistemi di targeting basati sull’IA, in particolare sulla capacità nel distinguere tra civile e combattente, tra obiettivo militare e infrastruttura civile. Questi sistemi non sono il principale mezzo con cui è stato compiuto il genocidio, ma ci dicono qualcosa sul modo in cui Israele ha tentato di occultare le proprie atrocità dietro un linguaggio tecnologico, fatto di calcoli, dataset e machine learning. Il culto dell’IA è fondato sull’illusione del controllo totale; a Gaza questa illusione si misura, secondo il Ministero della Salute palestinese, in più di 74.000 persone uccise, e fino a diecimila disperse sotto le macerie. Il rischio che l’IA sia intenzionalmente programmata per confondere bersagli militari e civili, venga hackerata o presenti malfunzionamenti è enorme. Altrettanto preoccupante è il rischio di mission creep, ovvero una progressiva estensione degli obiettivi e dell’impiego di queste tecnologie: incoraggiati dalle nuove capacità militari, gli stati potrebbero intraprendere operazioni sempre più rischiose, alimentando nuovi conflitti anziché ridurli. Non è la prima volta che assistiamo a simili distorsioni legate all’efficacia delle cosiddette “armi miracolose”.
Il caccia F-35, ad esempio, è stato presentato come una tecnologia rivoluzionaria, destinata a cambiare radicalmente il modo di fare la guerra. Eppure, a distanza di vent’anni, il velivolo continua a essere imperfetto ed è diventato il programma di armamento più costoso nella storia degli Stati Uniti. La storia di questi sistemi, costellata da sforamenti di budget e prestazioni inferiori alle aspettative, solleva seri dubbi sulle affermazioni secondo cui i sistemi basati sull’IA sarebbero, in qualche modo, più economici, rapidi e affidabili. Come spesso accade, a trarre vantaggio da questi disastri umanitari sono gli appaltatori della difesa e i fondi di venture capital, mentre i cittadini dovranno sostenerne le conseguenze: una spesa militare gonfiata e un rischio crescente di civili coinvolti in conflitti armati.
La promessa di una guerra più precisa, rapida ed efficiente non è una novità introdotta dall’intelligenza artificiale, ma una costante nella storia militare degli ultimi decenni. Dall’inizio della war on terror, questa promessa ha giustificato una successione di omicidi extragiudiziali in aree densamente popolate in Somalia, Yemen, Afghanistan e Pakistan, causando la morte di centinaia di civili. Le campagne militari occidentali hanno spesso celebrato la capacità dei droni di condurre assassinii mirati, presentando queste tecnologie come strumenti in grado di rendere la guerra più precisa e ridurre le vittime civili. Questa narrativa, tuttavia, è falsa. Gli attacchi mirati non prendevano di mira soltanto individui già identificati, ma anche sospetti selezionati sulla base dei loro pattern of life, ossia schemi di comportamento ritenuti indicativi di una possibile appartenenza ad al-Qaida o ai talebani. Spostamenti lungo determinate strade, telefonate verso numeri specifici o la frequentazione di alcune moschee potevano contribuire a giustificare un attacco letale.
Esiste un abisso tra l’immagine pubblica dell’intelligenza artificiale e il suo ruolo effettivo in quanto strumento di repressione e aggressione al servizio di forze dell’ordine. Big tech e governi ne celebrano l’efficienza, nonostante il coinvolgimento in crimini di guerra a Gaza, in Libano e in Iran, dove software come Lavender e Where’s Daddy? hanno contribuito alla creazione della cosiddetta target factory: la fabbrica di obiettivi che ha trasformato migliaia di civili in combattenti, giustificandone l’esecuzione. Alla base del progetto c’è un saggio del brigadier generale Yossi Sariel, comandante dell’Unità di Intelligence 8200 e figura centrale nell’integrazione di sistemi IA in ambito militare. In The Human-Machine Team, Sariel delinea una nuova visione della guerra contemporanea basata sull’integrazione “super-cognitiva” tra capacità umane e potenza algoritmica. Integrare i sistemi dell’IA ha consentito all’esercito israeliano di generare nuovi obiettivi più velocemente di quanto potessero essere colpiti. Durante le guerre del 2014 e del 2021 venivano creati cinquanta obiettivi in un intero anno; oggi la macchina può produrne cento in un solo giorno. Le inchieste di +972 Magazine hanno sollevato seri quesiti sull’affidabilità dei suggerimenti algoritmici, sul tempo concesso a una revisione umana e sulle conseguenze catastrofiche per i civili palestinesi.
L’IA sta infatti automatizzando il processo di giustificazione, conferendo a ogni bersaglio una parvenza di neutralità. La responsabilità umana si dissolve dietro la procedura tecnica, e l’attacco a un civile appare non più come una scelta, ma come l’esito inevitabile di un calcolo algoritmico. Di fronte a uno schermo potenziato dall’IA, gli attori militari si comportano come veri e propri elaboratori di informazioni: modificano le proprie tattiche per generare intelligence che legittimi le loro azioni. In questa prospettiva, le strategie di Clausewitz e Sun Tzu, tradizionalmente considerate dottrine militari, possono essere interpretate anche come strategie mediatiche incentrate sul controllo dell’informazione. La dottrina militare comprende, infatti, non soltanto le tattiche di combattimento, ma anche la gestione delle informazioni: stabilire che cosa rivelare, che cosa nascondere e come orientare la percezione, al fine di mantenere una narrazione coerente, soprattutto agli occhi dell’opinione pubblica.
In questo senso, il controllo dell’informazione diventa un’arma per influenzare la percezione pubblica e legittimare azioni militari illegali. Sebbene sia ampiamente riconosciuto che chi controlla l’informazione detiene il potere, l’avvento dell’intelligenza artificiale introduce una nuova dinamica: consente di automatizzare la creazione e la gestione delle narrazioni, spesso con un coinvolgimento umano minimo. Questa automazione crea un’illusione di neutralità informativa che, in realtà, cela una visione politica fondata sulla distinzione tra le vite considerate preziose e quelle sacrificabili.
Chi spiegherà all’IA che un civile non è un combattente?
L’IA sfuma i confini che separano un civile da un combattente, un obiettivo militare da una infrastruttura civile. Il principio di distinzione, cardine del diritto internazionale umanitario, impone di colpire solo i combattenti, risparmiando la popolazione civile. Ma nei contesti urbani densamente abitati, un sistema che calcola pattern of life finisce per ampliare la categoria di “bersaglio legittimo”.
L’applicazione devastante dell’IA dopo il 7 ottobre è stata portata alla luce da Abraham, co-direttore di NAZA, in una serie di articoli pionieristici per la rivista online +972, per Local Call e per il Guardian. Nei casi raccontati nel documentario il sacrificio di civili palestinesi diventa necessario per la riuscita dell’attacco. L’uccisione dei civili e la distruzione di case e infrastrutture erano lo scopo dei bombardamenti, non il loro «effetto collaterale». Stando alle dichiarazioni delle IDF, la presenza della famiglia induce il presunto membro di Hamas a tornare a casa e a rimanere con i propri familiari abbastanza a lungo da consentire l’esecuzione dell’attacco, mentre una risposta registrata digitalmente da un familiare, “papà è a casa”, innesca il processo di individuazione del bersaglio. Precedentemente, la presenza dei civili era considerata una spina nel fianco per l’apparato politico e irrilevante per quello militare. Nei casi mostrati in Naza, invece, i civili sono trattati come un’opportunità o una risorsa da sfruttare per ottenere un vantaggio militare. Il ruolo strumentale della presenza dei civili fa sì, inoltre, che questi diventino parte integrante dell’oggetto stesso dell’attacco. Nei casi ordinari in cui si applica il principio di proporzionalità, gli attacchi sono diretti contro obiettivi militari, nella consapevolezza che i civili che si trovano nelle vicinanze potrebbero rimanere uccisi. Nei casi di Naza, invece, l’attacco potrebbe essere diretto contro i civili stessi, nella previsione che il presunto membro di Hamas si trovi abbastanza vicino a loro da venire ucciso nell’attacco. La morte dei civili viene accettata o messa in conto come parte indispensabile del calcolo algoritmico.
Urbicidio al tempo della guerra permanente
Oggi, la maggior parte dell’uso della forza armata non si svolge più in spazi aperti, ma all’interno di ambienti urbani: si parla di urban warfare, una guerra che prende di mira le città, i quartieri, le case e i civili che ci abitano. La violenza estrema contro le infrastrutture da cui dipende il funzionamento di una città, l’urbicidio, innesca un effetto a catena che riduce le condizioni necessarie alla sopravvivenza della popolazione. Per descrivere come l’erosione dell’abitabilità vada oltre la mera demolizione fisica degli edifici, l’architetto e studioso anglo-siriano Ammar Azzouz ha introdotto la nozione di domicidio. Colpire la casa significa fratturare un’intera geografia affettiva: i luoghi in cui si radicano memorie, relazioni, abitudini e pratiche di vita quotidiana. Nel contesto dell’urbanismo coloniale, questa violenza è programmata per disarticolare il rapporto tra la popolazione indigena e il suo ambiente. Lo spazio urbano, come spiegato da Eyal Weizman in Spaziocidio. Israele e l’architettura come strumento di controllo, diventa così uno strumento di apartheid che ridisegna il paesaggio con nuove logiche di dominio. Ad esempio, nel contesto palestinese, mentre le autostrade israeliane scorrono dritte, sopraelevate e libere da ostacoli, i percorsi palestinesi vengono spezzettati da check-point, muri e strade tortuose che allungano distanze e tempi di percorrenza, isolano villaggi e frantumano comunità.
Sabato 7 novembre, al Castello del Valentino di Torino, il geografo economico e politico Francesco Chiodelli approfondirà questi e altri temi, in dialogo con Gianluca Di Feo, all’evento Urban Desires, organizzato dal Dipartimento Interateneo di Scienza, Progetto e Politiche del Territorio (DIST). Nel suo libro Città in Guerra Chiodelli introduce il concetto di geopolitica urbana per descrivere come le città siano diventate il teatro globale di una guerra permanente. “Non solo le forme contemporanee della guerra non si possono comprendere senza analizzare le caratteristiche dello spazio urbano, ma, simultaneamente, anche le forme e il funzionamento ordinario delle città sono saldamente ancorate a logiche, tecnologie, immaginari e pratiche di guerra”, scrive, a enfatizzare come elementi urbani apparentemente neutrali abbiano un legame diretto con l’immaginario della guerra. Il crossover tra le applicazioni militari e quelle civili della tecnologia avanzata, cioè tra il monitoraggio della vita quotidiana nelle smart cities e l’applicazione dell’IA nelle “guerre intelligenti”, è al centro di un insieme di tendenze che caratterizzano ciò che Stephen Graham definisce il nuovo urbanismo militare. Naturalmente, gli effetti osservati nel contesto urbano occidentale differiscono enormemente da quelli visibili nelle zone di guerra. Ma, ed è cruciale, qualunque sia l’ambiente urbano, questi atti di violenza tecnologica poggiano su un insieme di idee condivise. Ciò si manifesta nell’uso diffuso della guerra come metafora dominante per descrivere la condizione perpetua delle società urbane: in guerra contro il degrado, contro la droga, contro il crimine, contro il terrore, contro l’insicurezza stessa. Questo processo comporta da un lato la militarizzazione del dibattito pubblico e dall’altro l’integrazione di elementi militari nelle infrastrutture civili delle nostre città.
Ne deriva una scalabilità nell’applicazione delle nuove tecnologie militari: dalle zone di guerra, ai confini nazionali, fino a giungere nel cuore delle città. È la dinamica che Chiodelli riprende nel suo libro, l’effetto boomerang: le pratiche di controllo messe a punto nelle periferie coloniali e nei teatri di guerra tornano a circolare nei paesi e nelle città del Nord globale. In questo circuito il caso palestinese viene letto da Antony Loewenstein come un vero e proprio “laboratorio”, dove armi e tecnologie di sorveglianza sono testate sui territori palestinesi prima di essere esportate. La scalabilità delle nuove tecnologie è stata ampiamente documentata: le recinzioni intelligenti installate in Cisgiordania hanno preceduto l’interesse per la militarizzazione del confine tra Stati Uniti e Messico; i droni Hermes 900 di Elbit, usati nei cieli di Gaza dal 2014, pattugliano oggi il Mediterraneo per conto dell’Unione Europea; droni, lettori di targhe e riconoscimento facciale, nati per uso militare, sono arrivati alle polizie locali grazie ai finanziamenti per la sicurezza urbana e per l’antiterrorismo.
La postura securitaria del nuovo urbanismo militare è visibile anche nel corso delle manifestazioni che hanno attraversato le città europee in queste settimane. Quando la cittadinanza rivendica il diritto a reagire a condizioni di violenza strutturale – dal caro vita alla mancanza di investimenti nelle infrastrutture sociali – i militari scendono in piazza, e le forze dell’ordine attivano dispositivi di sorveglianza, identificazione e analisi predittiva che rischiano di trasformare il dissenso politico in una questione tecnica, di ordine pubblico. Dentro lo spazio urbano, le nuove frontiere tecnologiche non appaiono più come strumenti neutri al servizio della collettività, ma come dispositivi securitari che proteggono gli interessi delle élite politiche ed economiche contro l’opposizione democratica. Così, la guerra permanente non è più soltanto lo sfondo lontano di conflitti estranei alla nostra condizione, ma la grammatica e l’immaginario militarista che governa i conflitti sociali nello spazio urbano.
Il culto del controllo totale insito nel progetto tecno-utopista dell’IA sta producendo e moltiplicando i conflitti sociali in tutte le città del mondo. L’idea che le infrastrutture militari potenziate con l’intelligenza artificiale possano operare con precisione è un mito pericoloso: questi sistemi sono soggetti a malfunzionamenti, possono generare allucinazioni e, se programmati in modo inadeguato, possono causare danni indiscriminati alla popolazione civile, finendo per compromettere i princìpi fondamentali della democrazia, del diritto internazionale e del diritto bellico.
Sebbene non esista un unico indicatore di riferimento, ricercatori e organizzazioni umanitarie concordano sul fatto che la distruzione urbana causata dai conflitti si sia intensificata nel primo quarto del XXI secolo. Di conseguenza, stando al rapporto Protezione dei Civili nei Conflitti Armati delle Nazioni Unite, le vittime delle “guerre intelligenti” sono in aumento in tutto il mondo. Una misura preventiva potrebbe garantire che il controllo delle operazioni resti in capo agli esseri umani, che devono poter interrompere o disattivare i sistemi di IA in qualsiasi momento, qualora necessario. Ma è una formula più rassicurante che risolutiva. A Gaza il controllo umano formalmente c’era. Il problema è che l’IA rinforza quella «visione semplice» che Blake temeva: un mondo ridotto a dati, misura e calcolo, in cui il colonizzatore appare come l’agente razionale e la resistenza indigena come mera irrazionalità da neutralizzare. La visione apparentemente razionale delle tecnologie IA non è neutrale. Chi le autorizza, e con quali criteri? Quali margini di errore e di danno collaterale vengono tollerati, e chi li fissa? Sono domande politiche, non tecniche, che non si risolvono raffinando il calcolo algoritmico o aggiungendo un operatore in fondo alla catena.