L’Algoritmo Sociale: Demistificare l’IA per governare la transizione digitale
Abstract: Il dibattito pubblico e mediatico attorno all’Intelligenza Artificiale Generativa è spesso polarizzato tra utopie tecno-ottimiste e scenari distopici. Questo articolo si propone di demistificare la tecnologia alla base dei Large Language Models (LLM), analizzandone il funzionamento matematico e statistico. Attraverso l’esame dei concetti di tokenizzazione, calcolo delle probabilità e la natura delle cosiddette “allucinazioni”, si vuole dimostrare come questi sistemi non possiedano una comprensione semantica o un modello del mondo reale, bensì una straordinaria capacità di elaborazione sintattica. Comprendere la reale natura di questi strumenti è il prerequisito fondamentale per una loro integrazione sicura, etica ed efficace nei settori critici della società, come la Pubblica Amministrazione, la sicurezza e la sanità.
Keywords: #IAGenerativa #LargeLanguageModels #llm #logicapredittiva #trasformer
Il vero problema del dibattito attuale sull’Intelligenza Artificiale non è tecnologico, ma culturale: abbiamo l’abitudine di antropomorfizzare le macchine. Quando usiamo parole come “capire”, “pensare” o “decidere” riferendoci a un software, stiamo proiettando una coscienza umana su quello che, a conti fatti, è un monumentale sistema di calcolo statistico e probabilistico. Questa sovrapposizione cognitiva crea un pericoloso scollamento tra la percezione pubblica e la realtà ingegneristica.
Per governare l’impatto dell’IA nella sfera pubblica — dalla gestione amministrativa alla sicurezza urbana, fino all’assistenza socio-sanitaria — dobbiamo prima di tutto spogliarla del suo velo mitologico e capire cosa avviene esattamente sotto il cofano.
La matematica dietro la fluidità del linguaggio
Un Large Language Model (LLM) non attinge a un database di risposte pronte, né riflette sul significato delle nostre domande. Il suo intero funzionamento si basa sulla trasformazione del mondo in numeri e sul calcolo delle probabilità.
Il processo inizia con la tokenizzazione: ogni testo in ingresso viene frammentato in unità minime (i token, che possono essere parole o parti di esse) a cui viene assegnato un valore numerico. Attraverso tecniche di embedding, questi numeri diventano vettori geometrici proiettati in uno spazio multidimensionale. In questo spazio, i concetti simili si trovano geometricamente vicini. La macchina, quindi, non comprende il significato di un termine, ma calcola la distanza e le relazioni geometriche tra vettori.
Quando l’IA risponde, esegue un unico compito fondamentale: data una sequenza di parole, calcola qual è il token successivo statisticamente più probabile, basandosi sui miliardi di testi con cui è stata addestrata. Se scriviamo “Il gatto beve il…”, il software non sa cosa sia un gatto o cosa significhi bere, ma riconosce che la parola successiva con la probabilità più alta è “latte”. Grazie all’architettura dei Transformer e ai meccanismi di attenzione, il sistema riesce a pesare le relazioni tra parole anche molto distanti in un testo, generando risposte incredibilmente fluide, coerenti e naturali.
Il paradosso delle “Allucinazioni” e il limite semantico
Questa natura puramente statistica spiega il motivo per cui l’IA a volte inventa di sana pianta fatti, leggi, citazioni bibliografiche o dati storici, presentandoli con assoluta sicurezza: le cosiddette allucinazioni.
Dal punto di vista informatico, l’allucinazione non è un bug o un errore del sistema, ma il suo normale funzionamento. Il modello è progettato per essere plausibile, non per essere vero. Possiede una straordinaria competenza sintattica (sa come si costruisce una frase perfetta), ma è totalmente privo di competenza semantica (non ha idea del contenuto reale di quelle parole). Non avendo un modello del mondo reale o un accesso ontologico alla verità, per i circuiti matematici non esiste alcuna differenza tra un fatto storico verificato e una menzogna strutturata correttamente. Entrambi sono solo sequenze probabilistiche di numeri.
Dal calcolo alla pratica: L’impatto nei servizi e nella sicurezza
Se compresa nei suoi esatti confini, questa tecnologia cessa di essere un “oracolo” infallibile e diventa uno straordinario strumento di potenziamento operativo, specialmente laddove la burocrazia e la gestione dei dati rischiano di soffocare l’efficienza.
-
Nella Pubblica Amministrazione e nella Sicurezza: L’IA può diventare un formidabile alleato nell’analisi dei pattern di dati, nella sintesi di normative complesse o nel supporto decisionale per la sicurezza urbana (si pensi all’ottimizzazione dei flussi di traffico o al monitoraggio del territorio). Tuttavia, l’assenza di competenza semantica e la rigidità del dato statistico impongono una barriera insuperabile: l’algoritmo non può e non deve mai sostituire la discrezionalità amministrativa o la valutazione del fattore umano sul campo. Il rispetto delle normative sulla privacy (GDPR) e l’analisi critica delle fonti rimangono prerogative unicamente umane.
-
Nel settore Socio-Sanitario e assistenziale: Nelle strutture di cura, come le RSA, il tempo è la risorsa più preziosa. Qui l’IA non deve sostituire il contatto umano — che è il cuore della cura — ma può farsi carico della pesante infrastruttura amministrativa: gestione della turnistica, reportistica, analisi predittiva dei carichi di lavoro e automazione della burocrazia interna. Alleggerire il personale dalle scartoffie significa restituire minuti preziosi al rapporto diretto con il paziente.
-
Nelle realtà a risorse limitate: Anche nella cooperazione internazionale e nello sviluppo di comunità isolate (come i progetti rurali o infrastrutturali nel Sud del mondo), modelli di IA “leggeri” e ottimizzati per funzionare a basso consumo e con connettività limitata possono fare la differenza. Possono analizzare dati meteorologici storici per ottimizzare i raccolti o supportare la diagnostica medica di base dove mancano specialisti, agendo da moltiplicatori di competenze.
Il paradigma imprescindibile: Human-in-the-loop
La conclusione naturale di questo discorso è che il futuro della transizione digitale non può essere delegato all’automazione totale. Più la tecnologia diventa pervasiva e apparentemente autonoma, più diventa centrale il ruolo della responsabilità umana.
Il modello da seguire è rigorosamente quello dello Human-in-the-loop: la macchina assiste, velocizza, organizza e processa moli di dati impossibili da gestire per una mente umana; l’uomo, invece, mantiene la direzione strategica, la validazione critica delle risposte, la responsabilità giuridica e, soprattutto, la sensibilità etica. Solo rifiutando sia il cieco entusiasmo tecno-ottimista sia il rifiuto luddistico possiamo governare l’Intelligenza Artificiale, trasformandola da minaccia per l’occupazione o per la privacy a un’infrastruttura sociale al servizio del bene comune.