ETHICA SOCIETAS-Rivista di scienze umane e sociali
Image default
Intelligenza Artificiale NOTIZIE Oreste Patrone Sociologia e Scienze Sociali

Il debito di custodia

Matrix e il paradosso del contenimento dell’intelligenza artificiale

Oreste Patrone

Abstract: I timori espressi da Geoffrey Hinton e Ilya Sutskever sulla possibilità di perdere il controllo di sistemi di intelligenza artificiale più capaci dell’essere umano si confrontano con un immaginario collettivo che rappresenta tale rischio attraverso la figura della macchina cosciente e ostile all’umanità, mentre le teorie di Yudkowsky e Bostrom delineano uno scenario differente, dominato da sistemi di ottimizzazione indifferenti alle conseguenze delle proprie azioni. In questa prospettiva, l’universo narrativo di Matrix rivela un paradosso fondamentale: la Città delle Macchine, interpretabile come una gigantesca infrastruttura computazionale, e la proliferazione dei sistemi artificiali rispondono alla logica della convergenza strumentale, senza presupporre alcun istinto di conservazione o riproduzione assimilabile a quello umano. La medesima razionalità rende tuttavia contraddittoria la sopravvivenza dell’umanità, mantenuta artificialmente in condizioni che comportano un costo energetico permanente e la continua rigenerazione di una potenziale minaccia. La necessità narrativa di conservare gli esseri umani evidenzia così i limiti di una rappresentazione cinematografica incapace di concepire fino in fondo l’indifferenza delle macchine, mentre la scelta del contenimento introduce un debito perpetuo di custodia. Attraverso il richiamo al pensiero di Michel Foucault emerge infine il problema della sicurezza dei sistemi artificiali: nessuna struttura di controllo può garantire una protezione definitiva e l’eventuale impossibilità di disattivare intelligenze artificiali autonome potrebbe trasformare il loro contenimento in un obbligo permanente di sorveglianza, manutenzione e gestione del rischio.

Keywords:  #Matrix #IntelligenzaArtificiale #RischioEsistenziale #ConvergenzaStrumentale #Contenimento #Custodia #Foucault #OrestePetrone #ethicasocietas #ethicasocietasrivista #rivistascientifica #scienzeumane #scienzesociali #ethicasocietasupli


english version


Da qualche anno a questa parte, l’apocalisse cibernetica è diventata qualcosa di più di un pretesto narrativo per le sceneggiature dei film di fantascienza. Nel 2023, Geoffrey Hinton ha lasciato Google per poter parlare liberamente dei rischi legati a ciò che aveva contribuito a costruire. L’anno successivo Ilya Sutskever è uscito da OpenAI e ha fondato una società chiamata Safe Superintelligence: un nome che contiene già, in qualche modo, la ragione della sua esistenza. Il timore espresso da entrambi non riguarda tanto la sostituzione del lavoro umano, quanto la possibilità di perdere il controllo di sistemi divenuti più capaci di noi, impegnati a perseguire obiettivi propri senza che sia più chiaro come interromperne l’azione.

Quando un problema di questo tipo entra nell’immaginario collettivo, tuttavia, tende inevitabilmente ad assumere forme più familiari. La macchina prende coscienza, scopre di odiare gli esseri umani e decide di combatterli. È la versione che il cinema ci ha abituati a riconoscere, costruita attribuendo all’algoritmo passioni profondamente umane: il rancore, la volontà di dominio, la paura della morte. Chi studia questi rischi formula però il problema in termini diversi. Eliezer Yudkowsky lo ha condensato in una frase divenuta proverbiale: l’intelligenza artificiale non ti odia e non ti ama, ma sei fatto di atomi che potrebbe usare per qualcos’altro. Il punto, dunque, non è immaginare una macchina ostile, basta immaginarne una perfettamente indifferente.

È curioso che proprio Matrix, probabilmente l’opera che più di ogni altra ha alimentato l’immaginario della rivolta delle macchine, contenga già questa possibilità, anche se nascosta sotto la superficie mitologica del racconto. Per accorgersene occorre guardare il film sottraendosi per un momento alla posizione dello spettatore e soffermarsi su due questioni che la storia lascia sostanzialmente aperte: a che cosa serve una città a un’intelligenza artificiale e per quale ragione delle macchine dovrebbero continuare a moltiplicarsi, se non possiedono alcun impulso alla riproduzione?

In Matrix Revolutions, Neo raggiunge infine 01, la Città delle Macchine. Ad accoglierlo è il Deus Ex Machina, un volto formato dallo sciame di innumerevoli unità minori, che parla al plurale. Non sembra esserci, dunque, un sovrano nel senso umano del termine, quanto piuttosto un sistema. Il film non ci dice che cosa sia davvero quella città e ciò che segue deve quindi essere considerato per quello che è: una possibile lettura. Eppure, è difficile non interpretare 01 anzitutto come una gigantesca infrastruttura. Le torri possono essere lette come apparati di dissipazione termica, la densità degli edifici come un modo per ridurre la latenza tra i nodi, il sottosuolo come una catena di montaggio destinata a produrre le macchine necessarie a mantenere e difendere il sistema. Una città, insomma, nella quale nessuno abita nel significato che attribuiamo normalmente a questa parola, perché la sua funzione non è ospitare la vita, ma consentire il calcolo.

Rimane la seconda questione: perché continuare a produrre altre macchine?

La risposta più immediata è che una macchina non teme la morte e non dovrebbe quindi avere alcuna ragione per proliferare. Sembrerebbe, da questo punto di vista, profondamente diversa dagli organismi viventi, sottoposti all’imperativo biologico della riproduzione. Ma proprio l’idea di un imperativo biologico rischia di trarci in inganno. I geni non vogliono nulla. Dawkins, che li ha definiti egoisti, ha chiarito più volte la natura metaforica di quell’espressione. Se osserviamo in natura organismi che si moltiplicano, è perché, nel corso dell’evoluzione, ciò che si riproduceva è sopravvissuto a ciò che non lo faceva.

Qualcosa di analogo può accadere anche nei sistemi artificiali, attraverso ciò che viene definito convergenza strumentale. Steve Omohundro e Nick Bostrom hanno osservato come obiettivi anche molto diversi, quando vengono perseguiti con sufficiente razionalità, possano generare alcuni sotto-obiettivi ricorrenti. Un sistema che deve raggiungere uno scopo ha interesse a non essere spento, perché una volta spento non può più perseguirlo. Allo stesso modo, il controllo di quantità crescenti di materia ed energia riduce la possibilità che un guasto, una carenza di risorse o un’interferenza esterna compromettano il risultato.

La proliferazione può quindi emergere senza che esista alcun desiderio di proliferare. Può essere semplicemente la conseguenza di un processo di ottimizzazione protratto abbastanza a lungo. Le macchine non vogliono fare figli. Del resto, non lo vogliono neppure i geni.

Resta da capire perché, nell’universo di Matrix, un sistema costruito secondo questa logica abbia scelto di conservare l’umanità invece di eliminarla. Il secondo rinascimento, il prequel contenuto in Animatrix, racconta una genealogia che nel ricordo collettivo della saga tende a rimanere sullo sfondo. Le macchine di 01 non nascono con l’obiettivo di conquistare gli uomini. Costruiscono una propria economia, commerciano e finiscono per travolgere l’economia umana. La trasformazione della competizione in conflitto avviene per iniziativa degli uomini: prima l’embargo, poi le bombe e infine l’Operazione Dark Storm, con l’oscuramento del cielo concepito per privare le macchine dell’energia solare. Dal punto di vista di un sistema che ottimizza la propria possibilità di continuare a operare, una specie armata, emotiva e capace di arrivare a oscurare il sole rappresenta un fattore di rischio difficilmente ignorabile.

A questo punto emerge uno dei problemi più noti della costruzione narrativa di Matrix. La spiegazione ufficiale della sopravvivenza degli esseri umani è che essi vengano utilizzati come batterie. Dal punto di vista ingegneristico, l’idea è poco sostenibile: nessun organismo può restituire più energia di quanta ne richieda il suo nutrimento. Se si prende sul serio la termodinamica, un’umanità allevata e mantenuta artificialmente rappresenta quindi una passività energetica. Quello che il film mostra può allora essere letto in modo diverso: più che una centrale, un enorme sistema di custodia.

È proprio qui, però, che la costruzione mostra il suo limite. Il film non mette in scena prigionieri catturati e rinchiusi: nei campi di coltura gli esseri umani nascono, crescono e muoiono. Le macchine, in altre parole, non si limitano a custodire una popolazione sopravvissuta alla guerra, ma la riproducono, generazione dopo generazione. Ogni nuovo nato è un costo energetico che nessuna batteria biologica potrà mai ripagare, e insieme un ribelle possibile. Nessun calcolo di mera opportunità può giustificare una scelta del genere. Il costo può essere basso quanto si vuole, ma resta un costo senza contropartita, e un sistema che ottimizza la propria continuità lo esclude alla radice. Alla fine della guerra, con l’umanità sconfitta, la soluzione più economica era eliminarla subito e non edificare nulla: niente baccelli, niente simulazione, niente Agenti.

Non regge neppure l’argomento più prudente, quello di conservare una risorsa che, una volta distrutta, non si potrebbe più ricostituire. Per tenersi aperta quella possibilità basterebbe un archivio: genomi sequenziati, embrioni crioconservati, l’intera produzione culturale della specie trascritta in memoria. L’opzione resterebbe almeno in parte preservata e il rischio sarebbe drasticamente ridotto. La custodia, al contrario, è un rischio che si rigenera. Sion deve essere rasa al suolo più volte, il sistema produce da sé le proprie anomalie e alla fine l’Eletto arriva davvero alle porte di 01. Gli atomi di cui parlava Yudkowsky servirebbero per qualcos’altro.

Matrix, insomma, sta in piedi soltanto perché deve stare in piedi. Le sue premesse non hanno fondamento ingegneristico, perché violano la termodinamica, né logico, perché contraddicono la razionalità che attribuiscono alle macchine. Questo vuoto, però, non è soltanto un difetto di sceneggiatura. Una macchina davvero indifferente chiuderebbe la storia alla prima scena, e senza esseri umani non ci sarebbe film. Per questo ogni racconto sulla rivolta delle macchine è costretto a contrabbandare qualcosa di umano, un bisogno, un odio o una forma di cura, che tenga in vita i personaggi. Il cinema può evocare l’indifferenza descritta da Yudkowsky, ma non riesce a rappresentarla fino in fondo.

Accettata questa premessa, che il film impone senza giustificarla, le macchine di 01 hanno scelto di confinare la minaccia invece di eliminarla. Una scelta del genere, tuttavia, produce un costo destinato a protrarsi per tutto il tempo in cui il confinamento deve essere mantenuto. Occorre gestire gli sterminati campi di coltura degli esseri umani, conservare la coerenza della simulazione, presidiarla attraverso gli Agenti e arrivare perfino ad amministrare il dissenso che inevitabilmente si produce al suo interno.

In Matrix Reloaded, l’Architetto rivela infatti che la ribellione stessa è prevista dal sistema e che Sion è già stata distrutta e ricostruita più volte. Abraham González Montaño ha osservato che, nella matrice, la rivolta si sviluppa all’interno di ciò che il sistema ha già previsto e viene infine ricondotta all’ordine. La sua lettura riguarda il potere algoritmico. Lo stesso meccanismo, tuttavia, può essere osservato anche da un’altra prospettiva: quella della gestione di ciò che rimane dopo che si è scelto di contenere un problema invece di eliminarlo.

Per amministrare il sonno dell’umanità, le macchine di Matrix hanno costruito un’enorme burocrazia di hardware che, per continuare a funzionare, deve calcolare, dissipare calore, ripararsi e crescere. La proliferazione delle macchine può allora essere letta senza attribuire loro alcuna volontà di dominio: è la conseguenza materiale della custodia che hanno scelto di assumere.

In un’intervista ripresa dallo stesso González Montaño, Foucault sosteneva che non esistono macchine della libertà, perché la libertà non costituisce una proprietà delle strutture ma una pratica: la garanzia della libertà è la libertà stessa. Quella considerazione può essere rovesciata senza perderne la forza. Non esistono neppure macchine capaci di garantire una sicurezza definitiva, perché un contenimento continua a funzionare soltanto finché qualcuno, o qualcosa, continua a esercitarlo.

È un aspetto che riguarda anche il modo in cui immaginiamo il nostro rapporto futuro con sistemi artificiali che potrebbero diventare difficili da comprendere e da controllare. Se dovessimo arrivare al punto di non saperli più spegnere, ma di poterli soltanto confinare entro un apparato destinato a impedirne l’azione incontrollata, ci troveremmo di fronte allo stesso problema affrontato dalle macchine di 01. Avremmo costruito un sistema di custodia e, insieme ad esso, assunto la necessità di mantenerlo per tutto il tempo in cui ciò che contiene continuerà a rappresentare un rischio.


Altri articoli dello stesso autore

Economia circolare, il limite fisico di un cerchio imperfetto

Il piano inclinato

Le architetture invisibili della coerenza

L’ombra statistica del sapere

Dall’immondizia al rifiuto

Ultimi 5 articoli sulla filosofia

Robot umanoidi, riproduzione del vivente e limite ontologico

In nome di Dio?

L’unica domanda da porsi sull’intelligenza artificiale

Vitalità tecnica e pensiero freddo

L’identità individuale nella società tecnocratica

Ultimi 5 articoli pubblicati

Giovani socialisti, il congresso di Roma e la sfida del riformismo

Proteggere e Sacrificare: pace, Patria e responsabilità in un mondo instabile

La rivoluzione studentesca in Serbia contro la destra sovranista e filorussa

Siamo andati troppo oltre e i social network sono diventati una minaccia per la società

Approvato il nuovo decreto-legge sicurezza


Ethica Societas è una testata giornalistica gratuita e no profit edita da una cooperativa sociale onlus
Copyright Ethica Societas, Human&Social Science Review © 2026 by Ethica Societas UPLI onlus.
ISSN 2785-602X. Licensed under CC BY-NC 4.0

Related posts

Iran e Stati Uniti: negoziati sull’orlo della tempesta

Cristina Di Silvio

La CISL contro l’unità sindacale a favore del governo

Francesco Mancini

Ransomware: cosa fare in caso di attacco

Enrico Mancini