Intelligenza Artificiale e Diritti Umani: L'Appello ONU per Fissare le "Linee Rosse" Prima Che Sia Troppo Tardi

L'intelligenza artificiale sta avanzando più rapidamente delle regole create per governarla e, secondo l'Alto Commissario delle Nazioni Unite per i diritti umani Volker Türk, il divario tra capacità tecnologiche e sistemi di sicurezza è ormai abbastanza importante da richiedere un intervento internazionale molto più deciso. Nel suo intervento del 7 settembre 2026 a Ginevra, Türk ha condiviso le preoccupazioni di chi ritiene che sistemi di IA particolarmente avanzati possano arrivare, se lasciati senza adeguati controlli, a rappresentare persino un "rischio esistenziale per l'umanità".
Il passaggio ha attirato attenzione soprattutto per la forza dell'espressione "existential risk", ma il significato dell'intervento è più ampio di una previsione catastrofica. Türk non ha dichiarato che un'intelligenza artificiale destinata a distruggere l'umanità sia inevitabile o imminente. Ha chiesto invece che governi, imprese tecnologiche e soggetti coinvolti nelle catene di fornitura dell'IA costruiscano garanzie molto più solide prima che sistemi sempre più autonomi diventino difficili da controllare.
La richiesta formulata dal responsabile ONU è quella di uno sforzo straordinario per creare garanzie di sicurezza robuste intorno allo sviluppo dell'intelligenza artificiale, insieme a "linee rosse" condivise tra gli Stati. Il punto centrale è preventivo: stabilire limiti prima che una tecnologia particolarmente potente venga utilizzata in contesti nei quali un errore, un abuso o una perdita di controllo potrebbero produrre conseguenze di enorme portata.
Il messaggio riguarda però anche problemi molto più immediati. L'IA è già utilizzata in sistemi di sorveglianza, selezione, profilazione, sicurezza, informazione e decisione. In questi ambiti un algoritmo può influenzare concretamente l'accesso a opportunità, servizi, informazioni e diritti, anche senza possedere alcuna forma di intelligenza generale o autonomia paragonabile agli scenari futuristici discussi nel dibattito sul rischio esistenziale.

Le parole di Volker Türk al Consiglio ONU per i diritti umani

L'intervento è arrivato all'apertura della 63ª sessione del Consiglio delle Nazioni Unite per i diritti umani, iniziata a Ginevra il 7 settembre e destinata a proseguire fino al 7 ottobre 2026. Türk ha utilizzato il suo discorso per affrontare numerose crisi internazionali, ma la parte dedicata all'intelligenza artificiale ha assunto un rilievo particolare proprio per l'urgenza attribuita alla questione.
L'Alto Commissario ha dichiarato di condividere le preoccupazioni di esponenti del settore tecnologico che considerano possibile un rischio esistenziale derivante dall'IA avanzata. Ha quindi chiesto uno sforzo generalizzato per mettere in sicurezza questi sistemi "prima che sia troppo tardi", collegando la governance dell'intelligenza artificiale direttamente alla tutela dei diritti umani.
Türk ha anche indicato la necessità che gli Stati nei quali vengono sviluppati i principali sistemi di IA e quelli coinvolti nelle rispettive catene di fornitura concordino almeno alcuni limiti fondamentali. Il riferimento alle supply chain è importante perché l'intelligenza artificiale non nasce soltanto nei laboratori che progettano i modelli: dipende da semiconduttori, cloud computing, centri dati, infrastrutture energetiche, software e enormi quantità di dati.
Governare l'IA significa quindi intervenire su un ecosistema globale nel quale il potere tecnologico è distribuito in maniera fortemente asimmetrica. Una delle preoccupazioni espresse da Türk riguarda proprio la concentrazione del potere nelle mani di un numero molto limitato di soggetti privati capaci di sviluppare e controllare tecnologie utilizzate da centinaia di milioni di persone.

"Rischio esistenziale" non significa che la catastrofe sia certa

L'espressione rischio esistenziale viene utilizzata nel dibattito sull'IA per indicare scenari estremi nei quali sistemi molto avanzati potrebbero provocare conseguenze irreversibili su scala globale o mettere in pericolo la stessa sopravvivenza dell'umanità. È una categoria di rischio diversa da quella degli errori ordinari di un chatbot o di un algoritmo di raccomandazione.
Il concetto rimane però oggetto di un importante dibattito scientifico. Non esiste consenso sul fatto che sistemi capaci di produrre un simile risultato verranno effettivamente sviluppati, né è possibile attribuire oggi una probabilità certa a scenari di questo tipo. Le opinioni degli esperti variano sensibilmente sulla velocità del progresso tecnologico, sulle capacità future e sull'efficacia delle possibili misure di controllo.
È quindi scorretto trasformare l'intervento di Türk nella previsione secondo cui l'IA distruggerà inevitabilmente l'umanità. Il suo argomento è differente: quando una tecnologia potrebbe produrre conseguenze estremamente elevate, anche un rischio incerto può giustificare misure preventive prima che la capacità tecnologica superi quella regolatoria.
È lo stesso principio applicato in molti altri settori ad alto impatto: il fatto che un evento abbia una probabilità difficile da misurare non rende irrilevante la necessità di costruire barriere di sicurezza quando le potenziali conseguenze sarebbero enormi.

I rischi già presenti sono molto più concreti

Concentrarsi soltanto sugli scenari estremi rischia però di nascondere i problemi che esistono già. Sistemi algoritmici vengono utilizzati oggi in settori nei quali possono incidere su privacy, uguaglianza, libertà di espressione e accesso ai servizi.
Un sistema addestrato su dati contenenti disuguaglianze storiche può riprodurre o amplificare quelle differenze. È il problema del cosiddetto bias algoritmico: una decisione apparentemente neutrale perché prodotta da una macchina può incorporare pregiudizi presenti nei dati, nelle variabili selezionate o nelle scelte effettuate durante la progettazione.
Le conseguenze diventano particolarmente importanti quando gli algoritmi vengono utilizzati per assunzioni, credito, assicurazioni, sicurezza pubblica o accesso ai servizi. Un errore in un suggerimento musicale ha effetti limitati; un errore in un sistema che contribuisce a decidere se una persona è considerata rischiosa o idonea a un beneficio può incidere direttamente sulla sua vita.
È proprio per questo che una prospettiva basata sui diritti umani non valuta soltanto quanto un sistema sia tecnicamente preciso. Chiede anche chi può essere danneggiato dagli errori, chi può contestare una decisione, chi è responsabile e quali strumenti di ricorso siano disponibili.

Quando una decisione automatizzata diventa difficile da contestare

Uno dei problemi dell'IA riguarda l'opacità decisionale. In alcuni sistemi complessi può essere difficile spiegare in termini comprensibili perché sia stato prodotto un determinato risultato, soprattutto quando il modello utilizza un enorme numero di parametri e correlazioni.
Questa difficoltà diventa particolarmente delicata quando il risultato incide sui diritti di una persona. Se un algoritmo contribuisce a negare un servizio, segnalare un individuo alle autorità o attribuire un livello di rischio, il soggetto interessato dovrebbe poter comprendere almeno i criteri fondamentali e contestare eventuali errori.
Un sistema nel quale la risposta è semplicemente "lo ha deciso l'algoritmo" crea un problema di responsabilità. Una macchina non possiede responsabilità giuridica nel senso umano del termine; dietro progettazione, acquisto, configurazione e utilizzo esistono sempre organizzazioni e persone.
La governance dell'IA deve quindi impedire che l'automazione diventi un modo per dissolvere la responsabilità. Più una decisione è importante, maggiore dovrebbe essere la capacità di identificare chi abbia autorizzato il sistema, su quali basi e con quali possibilità di correzione.

Il problema della sorveglianza biometrica

Un settore sul quale gli organismi internazionali per i diritti umani hanno espresso ripetutamente preoccupazione è quello della sorveglianza biometrica. Sistemi di riconoscimento facciale possono identificare o tentare di identificare persone attraverso telecamere installate negli spazi pubblici.
La tecnologia può avere applicazioni legittime, ma il suo uso su larga scala solleva interrogativi sulla privacy. Una rete capace di seguire automaticamente gli spostamenti di migliaia di persone modifica profondamente il rapporto tra cittadino e spazio pubblico.
Esiste inoltre il problema dell'accuratezza differenziale. Sistemi biometrici possono produrre tassi di errore differenti tra gruppi demografici, con il rischio che determinate categorie di persone siano esposte più frequentemente a identificazioni errate o controlli.
Quando la tecnologia viene utilizzata da forze dell'ordine, autorità di frontiera o apparati di sicurezza, un errore di riconoscimento facciale può avere conseguenze molto più gravi di una semplice imprecisione tecnica. È quindi necessario applicare criteri di necessità, proporzionalità e controllo indipendente.

L'IA può amplificare la disinformazione

Un altro fronte riguarda l'informazione. I sistemi generativi permettono di produrre testi, immagini, audio e video realistici in quantità enormi e a costi molto inferiori rispetto al passato.
Questa capacità offre applicazioni creative e produttive, ma può essere utilizzata anche per produrre disinformazione, imitare persone reali, fabbricare prove apparentemente credibili o saturare gli spazi digitali con grandi quantità di contenuti artificiali.
Il problema non è soltanto che una singola immagine falsa possa ingannare qualcuno. La disponibilità di contenuti sintetici estremamente convincenti può progressivamente indebolire la fiducia nell'informazione, creando una situazione nella quale anche immagini autentiche possono essere liquidate come artificiali.
Per una democrazia, la capacità dei cittadini di distinguere informazioni affidabili da manipolazioni è parte dell'infrastruttura stessa del dibattito pubblico. Da qui l'interesse delle istituzioni internazionali per strumenti di autenticazione, alfabetizzazione digitale e responsabilità delle piattaforme.

Il potere degli algoritmi che decidono cosa vediamo

L'intelligenza artificiale non influenza il dibattito pubblico soltanto generando contenuti. Gli algoritmi determinano anche quali informazioni vengono mostrate agli utenti, in quale ordine e con quale frequenza.
I sistemi di raccomandazione possono decidere quali video appaiono in una piattaforma, quali post vengono distribuiti maggiormente e quali contenuti rimangono quasi invisibili. Queste scelte producono un enorme potere di intermediazione dell'informazione.
Non significa che ogni algoritmo di raccomandazione sia manipolatorio, ma la scala del fenomeno rende importante capire quali obiettivi vengano ottimizzati. Un sistema progettato esclusivamente per massimizzare il tempo trascorso sulla piattaforma può privilegiare contenuti capaci di generare reazioni intense anche quando la loro qualità informativa è bassa.
La prospettiva dei diritti umani introduce quindi domande che vanno oltre l'efficienza commerciale: quanto sono trasparenti questi sistemi, quali possibilità di scelta ha l'utente e quale impatto possono avere su pluralismo e libertà di espressione?

Türk mette in discussione la concentrazione del potere tecnologico

Nel suo intervento, Türk ha richiamato anche la concentrazione del controllo sull'ecosistema dell'IA. Lo sviluppo dei modelli più avanzati richiede infatti risorse economiche, infrastrutture di calcolo e accesso ai dati che soltanto un numero relativamente limitato di organizzazioni possiede.
Questa concentrazione produce un problema di governance democratica. Le decisioni prese da poche imprese private possono influenzare strumenti utilizzati da governi, scuole, aziende, professionisti e cittadini in molti Paesi.
Le aziende tecnologiche hanno naturalmente competenze fondamentali e svolgono un ruolo centrale nell'innovazione. Il problema sollevato dalle istituzioni internazionali non è l'esistenza delle imprese private, ma la possibilità che il potere tecnologico cresca senza un livello equivalente di responsabilità pubblica.
Da qui la richiesta di regole che non dipendano esclusivamente dall'autoregolamentazione. Quando i sistemi possono incidere su diritti fondamentali o sicurezza, gli Stati mantengono il compito di stabilire limiti e garantire rimedi efficaci.

Cosa potrebbero essere le "linee rosse" sull'IA

Türk ha chiesto agli Stati di concordare red lines, cioè confini oltre i quali determinate applicazioni non dovrebbero essere consentite o dovrebbero essere sottoposte a regole estremamente severe.
Non esiste ancora un elenco globale universalmente accettato. Una possibile linea rossa riguarda sistemi che prendano autonomamente decisioni letali senza un livello significativo di controllo umano.
Altre discussioni internazionali riguardano la sorveglianza biometrica indiscriminata, la manipolazione deliberata delle persone, alcune forme di profilazione automatizzata e gli utilizzi nei quali non sia possibile garantire rispetto dei diritti fondamentali.
Il principio generale è che la regolazione dovrebbe diventare più severa all'aumentare del rischio potenziale. Un sistema utilizzato per correggere una fotografia non richiede lo stesso livello di controllo di un algoritmo che contribuisce a scegliere un bersaglio militare.

Il punto più delicato: l'IA nelle armi

La parte più netta dell'intervento di Türk riguarda l'utilizzo dell'intelligenza artificiale in guerra. L'Alto Commissario ha espresso forte preoccupazione per le notizie relative a sistemi completamente autonomi e ha aderito alle richieste di proibire armi capaci di togliere la vita senza coinvolgimento umano.
Il problema non riguarda ogni utilizzo militare dell'IA. Un sistema può essere utilizzato, per esempio, per analizzare immagini, aiutare nella logistica, rilevare minacce o fornire informazioni a un operatore umano. Il livello di autonomia può variare enormemente.
Il confine più controverso viene raggiunto quando un sistema è in grado di selezionare un obiettivo e applicare forza letale senza che una persona prenda la decisione finale relativa alla singola azione.
A quel punto emergono interrogativi fondamentali: chi determina se il bersaglio è legittimo? Come viene valutata la presenza di civili? Chi risponde giuridicamente di un errore? E soprattutto, è accettabile delegare a una macchina una decisione di vita o di morte?

Le armi autonome sono già un dossier internazionale

La questione delle armi autonome letali viene discussa da anni nell'ambito delle Nazioni Unite e della Convenzione su alcune armi convenzionali. Il Segretario generale ha più volte sostenuto che sistemi capaci di togliere la vita senza controllo umano siano politicamente inaccettabili e moralmente ripugnanti.
L'obiettivo proposto è arrivare a uno strumento giuridicamente vincolante che proibisca le categorie di sistemi autonomi incompatibili con un controllo umano significativo e regolamenti le altre applicazioni.
Il tema è diventato ancora più urgente perché l'integrazione tra IA, droni, sensori e sistemi robotici sta accelerando. Tecnologie inizialmente sviluppate per applicazioni commerciali possono essere adattate molto rapidamente a contesti militari.
Una volta che sistemi autonomi vengono prodotti e schierati su larga scala, raggiungere un accordo internazionale può diventare più difficile. È questa la logica della regolazione preventiva: definire il confine prima che una nuova categoria di armamenti diventi normale.

Perché il controllo umano conta anche quando l'algoritmo è preciso

La discussione non può essere ridotta alla domanda se una macchina sia più o meno precisa di un soldato. Il controllo umano possiede una dimensione giuridica ed etica che va oltre il confronto statistico.
Il diritto internazionale umanitario richiede valutazioni su distinzione, proporzionalità e precauzione. Sono concetti che devono essere applicati in situazioni complesse, nelle quali il contesto può cambiare rapidamente e una persona apparentemente simile a un combattente può essere un civile.
Un sistema addestrato su dati incompleti può interpretare erroneamente gesti, oggetti o comportamenti. In guerra, un errore algoritmico non produce semplicemente una risposta sbagliata sullo schermo: può provocare la morte di persone.
Per questo la questione centrale resta la presenza di una responsabilità umana identificabile. La velocità offerta dall'automazione non dovrebbe trasformarsi nella rimozione delle persone dalla catena decisionale proprio quando le conseguenze sono irreversibili.

L'IA può anche abbassare la soglia dell'uso della forza

Un rischio ulteriore è che l'automazione renda alcune operazioni militari più facili da avviare. Se una missione richiede meno personale esposto direttamente al pericolo, il costo politico immediato dell'uso della forza militare può apparire inferiore.
Sistemi autonomi economici e prodotti su larga scala potrebbero inoltre permettere di utilizzare sciami di droni o altre piattaforme capaci di operare simultaneamente in numero molto elevato.
La velocità delle decisioni potrebbe diventare un altro problema. Quando due sistemi automatizzati reagiscono reciprocamente in pochi secondi, lo spazio disponibile per un intervento umano di de-escalation può ridursi.
È una delle ragioni per cui la governance dell'IA militare riguarda non soltanto i diritti dei singoli individui, ma anche la stabilità internazionale e il rischio di escalation non intenzionale tra Stati.

Dal rischio militare alla sicurezza delle infrastrutture civili

L'IA avanzata può produrre rischi anche fuori dal campo di battaglia. Sistemi altamente autonomi potrebbero interagire con infrastrutture critiche, reti informatiche, comunicazioni e servizi digitali essenziali.
Un errore in un sistema utilizzato su larga scala potrebbe quindi avere effetti che vanno oltre il singolo utente. Interruzioni di servizi essenziali, attacchi informatici automatizzati o comportamenti inattesi di agenti digitali rappresentano categorie di rischio che le autorità stanno iniziando a considerare con maggiore attenzione.
La crescita degli agenti di IA, capaci non soltanto di rispondere a una domanda ma di eseguire autonomamente sequenze di azioni, rende il tema ancora più rilevante. Maggiore è la libertà operativa concessa a un sistema, maggiore diventa la necessità di definire autorizzazioni, controlli e possibilità di interromperne il funzionamento.
La sicurezza non può quindi essere considerata una caratteristica da aggiungere dopo il lancio. Nei sistemi ad alto impatto dovrebbe essere parte della progettazione iniziale, con test, monitoraggio e capacità di intervento umano.

Il principio della sicurezza "prima", non dopo l'incidente

Il cuore dell'appello di Türk è precisamente quello di evitare una governance costruita soltanto dopo che un incidente grave si sia già verificato. La storia della regolazione tecnologica mostra spesso un modello opposto: prima la diffusione, poi il danno e infine le regole.
Nel caso dell'intelligenza artificiale, la velocità del progresso potrebbe rendere questa sequenza particolarmente problematica. Un sistema digitale può essere distribuito contemporaneamente in numerosi Paesi e raggiungere milioni di persone in tempi estremamente brevi.
Una vulnerabilità può inoltre essere replicata quasi istantaneamente. La natura del software rende molto diversa la gestione del rischio rispetto a un prodotto fisico che deve essere costruito e distribuito pezzo per pezzo.
Per questo le richieste internazionali insistono sempre più su valutazioni preventive, test di sicurezza e monitoraggio continuo durante l'intero ciclo di vita dei sistemi.

Testare i modelli prima della diffusione

Uno degli strumenti più discussi nella sicurezza dell'IA è la valutazione pre-rilascio. Prima di distribuire un sistema particolarmente potente, sviluppatori e soggetti indipendenti possono testarne capacità, vulnerabilità e possibili comportamenti indesiderati.
Questo tipo di verifica può includere tentativi deliberati di aggirare le protezioni, chiamati spesso red teaming, nei quali esperti cercano attivamente modalità attraverso cui il sistema possa essere utilizzato per scopi pericolosi.
Il problema è stabilire quali test siano sufficienti. Un modello può mostrare comportamenti differenti una volta utilizzato da milioni di persone e combinato con strumenti esterni, database, browser, software o altri agenti.
Per questo la valutazione non può terminare al momento del lancio. I sistemi avanzati richiedono anche monitoraggio successivo, segnalazione degli incidenti e possibilità di aggiornare rapidamente le misure di sicurezza.

Chi deve controllare chi sviluppa l'IA

Affidare tutte le valutazioni alle stesse società che sviluppano i modelli pone un evidente problema di indipendenza. Le imprese possiedono le competenze tecniche più profonde sui propri sistemi, ma hanno contemporaneamente incentivi economici a portarli sul mercato.
Da qui nasce la richiesta di controlli esterni, autorità pubbliche competenti e organismi indipendenti capaci di valutare almeno i sistemi caratterizzati da rischi più elevati.
Il problema non è semplice perché i regolatori devono possedere competenze tecniche comparabili a quelle delle aziende controllate. Se la tecnologia evolve più rapidamente della capacità amministrativa, il rischio è creare norme formalmente rigorose ma difficili da applicare.
Una governance efficace richiede quindi investimenti pubblici in competenze, laboratori, accesso alle informazioni e cooperazione scientifica internazionale.

Perché servono regole internazionali

L'intelligenza artificiale è una tecnologia intrinsecamente transnazionale. Un modello può essere sviluppato in un Paese, utilizzare chip prodotti in un altro, funzionare su server collocati altrove e offrire servizi a utenti di tutto il mondo.
Una regolazione esclusivamente nazionale rischia quindi di lasciare ampi spazi di arbitraggio. Un'impresa potrebbe spostare alcune attività dove le regole sono meno stringenti pur continuando a distribuire i prodotti globalmente.
D'altra parte, costruire un unico sistema normativo mondiale è estremamente difficile perché gli Stati hanno modelli economici, politici e giuridici differenti. La soluzione più realistica può quindi consistere nell'individuare alcuni principi minimi comuni.
È questo il senso delle "linee rosse" richiamate da Türk: anche senza rendere identiche tutte le legislazioni, gli Stati potrebbero concordare che alcune applicazioni siano inaccettabili indipendentemente dal luogo in cui vengono sviluppate.

L'ONU ha già creato nuovi strumenti di governance dell'IA

Il dibattito non parte da zero. Nel 2025 l'Assemblea generale delle Nazioni Unite ha istituito un Panel scientifico internazionale indipendente sull'intelligenza artificiale e un Dialogo globale sulla governance dell'IA.
Il Panel è composto da 40 esperti provenienti da diverse regioni e discipline e ha il compito di produrre valutazioni basate sulle evidenze sulle opportunità, sui rischi e sugli impatti della tecnologia.
Nel luglio 2026 si è tenuto a Ginevra il primo Global Dialogue on AI Governance, destinato a creare uno spazio nel quale governi e altri soggetti possano confrontarsi su sicurezza, diritti umani, trasparenza, responsabilità e controllo umano.
Questi strumenti non sono un "governo mondiale dell'IA" e non possiedono automaticamente il potere di imporre regole alle aziende. Rappresentano però un tentativo di costruire una base scientifica e diplomatica comune per un problema che nessuno Stato può gestire completamente da solo.

Il Global Digital Compact e il principio del controllo umano

Il quadro ONU si inserisce nel Global Digital Compact, adottato nel 2024 come parte del Patto per il Futuro. Il documento impegna gli Stati a promuovere sistemi di intelligenza artificiale sicuri e affidabili e a rafforzare trasparenza e responsabilità.
Tra i principi compare la necessità di un robusto controllo umano sull'IA, soprattutto quando i sistemi possono incidere su persone, istituzioni o diritti.
Il concetto è importante perché non implica che ogni singola operazione di un software debba essere manualmente autorizzata. Significa che l'automazione deve rimanere inserita all'interno di una struttura nella quale gli esseri umani possono comprendere, supervisionare e interrompere il processo.
Maggiore è il rischio, maggiore dovrebbe essere la qualità del controllo. Nelle applicazioni militari, giudiziarie o sanitarie il semplice "umano presente" può non essere sufficiente se quella persona non possiede tempo, informazioni o reale autorità per correggere il sistema.

Il problema dell'automation bias

Un essere umano inserito formalmente nel processo non garantisce automaticamente un vero controllo. Esiste infatti il fenomeno dell'automation bias, cioè la tendenza a fidarsi eccessivamente di una raccomandazione prodotta da un sistema automatizzato.
Se un algoritmo viene percepito come altamente sofisticato, l'operatore può essere portato ad accettarne la risposta anche quando esistono indizi che suggeriscono un errore.
Il rischio aumenta nei contesti caratterizzati da pressione temporale. Un medico, un analista, un controllore o un militare può avere pochi secondi per decidere e finire per trasformare la raccomandazione dell'IA in una decisione quasi automatica.
Il controllo umano deve quindi essere sostanziale: richiede formazione, comprensione dei limiti del sistema e possibilità concreta di rifiutare l'output senza subire pressioni organizzative irragionevoli.

L'IA e il diritto a non essere discriminati

La tutela contro la discriminazione è uno dei punti più consolidati del rapporto tra IA e diritti umani. Gli algoritmi imparano infatti da dati prodotti da società che contengono inevitabilmente disparità storiche.
Se un sistema viene addestrato sui risultati passati di assunzioni, prestiti o attività di polizia, può imparare correlazioni che riflettono quelle stesse disuguaglianze e utilizzarle per produrre nuove decisioni.
Il fatto che il modello non conosca esplicitamente una caratteristica protetta non elimina il problema. Variabili apparentemente neutrali possono funzionare come proxy, cioè indicatori indiretti fortemente correlati a provenienza, reddito o altri elementi personali.
Per questo i sistemi ad alto impatto dovrebbero essere sottoposti a verifiche non soltanto sulla precisione media, ma anche sui possibili effetti differenziali tra gruppi e sulla capacità delle persone di contestare risultati discriminatori.

Privacy e quantità crescente di dati

L'IA moderna dipende in larga misura dai dati. Più un sistema conosce sulle persone, maggiore può diventare la capacità di personalizzare servizi, prevedere comportamenti o classificare utenti.
Ma questa capacità entra direttamente in tensione con il diritto alla privacy. Informazioni provenienti da navigazione, posizione, acquisti, immagini, comunicazioni e attività quotidiane possono permettere di ricostruire profili estremamente dettagliati.
Il problema diventa ancora più delicato con i dati biometrici, perché un volto o un'impronta non possono essere modificati con la stessa facilità di una password in caso di compromissione.
Una governance basata sui diritti richiede quindi criteri di minimizzazione: raccogliere soltanto le informazioni realmente necessarie e impedire che dati ottenuti per una finalità vengano riutilizzati indiscriminatamente per scopi differenti.

I diritti non sono necessariamente un freno all'innovazione

Una delle obiezioni più frequenti alla regolazione dell'IA è che limiti troppo rigidi potrebbero rallentare l'innovazione e favorire Paesi con regole meno severe.
Il problema è reale: norme eccessivamente complesse possono aumentare i costi, soprattutto per imprese piccole e ricercatori. Ma l'alternativa non deve necessariamente essere tra assenza di regole e blocco tecnologico.
Una regolazione proporzionata al rischio può lasciare ampi spazi alle applicazioni a basso impatto e concentrare verifiche più severe sui sistemi che incidono su sicurezza, diritti fondamentali o infrastrutture critiche.
Inoltre la fiducia può diventare essa stessa un fattore economico. Aziende e cittadini potrebbero adottare più facilmente una tecnologia quando esistono standard chiari di sicurezza e responsabilità.

Il rischio di una corsa internazionale senza freni

Uno dei problemi più difficili riguarda la competizione tra Stati e aziende. Se ciascun attore teme che rallentare lo sviluppo significhi perdere terreno, può nascere una vera corsa all'IA.
In questo scenario anche organizzazioni consapevoli dei rischi potrebbero sentirsi incentivate a ridurre i tempi dedicati ai controlli per evitare che un concorrente raggiunga prima una nuova capacità tecnologica.
La stessa dinamica è particolarmente pericolosa in ambito militare, dove il timore che un avversario sviluppi un vantaggio strategico può spingere verso la rapida integrazione di sistemi autonomi.
Gli accordi internazionali servono anche a questo: creare condizioni nelle quali tutti gli attori sappiano che alcune limitazioni vengono rispettate reciprocamente, riducendo l'incentivo a una competizione senza regole.

La difficoltà di verificare gli accordi sull'IA

Anche raggiungere un accordo politico non risolve automaticamente il problema. Nel settore dell'IA è particolarmente difficile verificare il rispetto di determinati limiti.
Un programma software può essere copiato, modificato o eseguito su infrastrutture distribuite. Molte capacità dipendono inoltre da componenti commerciali utilizzate legittimamente in migliaia di applicazioni civili.
Le tecnologie di duplice uso rendono quindi complesso distinguere sviluppo civile e militare. Un modello progettato per riconoscere oggetti può essere utilizzato nell'industria e contemporaneamente adattato a sistemi di targeting.
La futura governance internazionale dovrà perciò sviluppare strumenti di verifica e trasparenza compatibili con la protezione della proprietà intellettuale e della sicurezza nazionale.

Trasparenza non significa pubblicare tutto il codice

Quando si chiede maggiore trasparenza sull'IA non significa necessariamente che ogni azienda debba rendere pubblico integralmente il proprio software o i dati riservati.
La trasparenza può riguardare informazioni essenziali: quale funzione svolge il sistema, quali sono i principali limiti conosciuti, quali valutazioni sono state effettuate e quali incidenti rilevanti sono emersi.
Per sistemi ad alto rischio possono essere necessari accessi più approfonditi per autorità indipendenti in condizioni protette, analogamente a quanto avviene in altri settori sottoposti a vigilanza.
Il principio è evitare che segreti commerciali o complessità tecnica diventino una barriera assoluta contro qualsiasi forma di responsabilità pubblica.

Il diritto a un rimedio quando l'algoritmo sbaglia

Una tutela fondamentale è il diritto a ottenere un rimedio efficace. Un sistema può essere progettato con attenzione e continuare comunque a commettere errori.
La domanda diventa allora cosa può fare la persona danneggiata. Deve esistere un canale attraverso cui chiedere una revisione umana, correggere dati inesatti e contestare decisioni che producono conseguenze significative.
Senza questa possibilità, l'automazione rischia di creare una forma di impotenza amministrativa: il cittadino riceve un risultato negativo ma non trova nessuno capace di spiegare o modificare la decisione algoritmica.
La responsabilità deve quindi essere progettata insieme al sistema, non aggiunta soltanto dopo un contenzioso. Ogni applicazione ad alto impatto dovrebbe definire chiaramente chi risponde degli errori.

Proteggere i cittadini senza rinunciare ai benefici

L'appello di Türk non equivale a una richiesta di fermare genericamente l'intelligenza artificiale. La tecnologia può offrire benefici rilevanti nella ricerca scientifica, nella medicina, nell'accessibilità, nell'educazione e nella produttività.
Un sistema capace di analizzare rapidamente grandi quantità di dati può aiutare ricercatori e professionisti, mentre strumenti generativi possono rendere alcune attività più accessibili a persone con differenti esigenze.
La questione è evitare che i benefici vengano ottenuti trasferendo i rischi sulle persone con minore possibilità di difendersi. Una governance basata sui diritti cerca quindi di distribuire non soltanto le opportunità, ma anche responsabilità e protezioni.
È una differenza importante rispetto a una visione puramente tecnologica del problema: la domanda non è soltanto "cosa può fare l'IA?", ma anche "cosa dovrebbe essere autorizzata a fare e a quali condizioni?".

La velocità della tecnologia rende il 2026 un anno decisivo

Il 2026 sta diventando un anno particolarmente importante per la governance globale dell'IA. Il nuovo Panel scientifico delle Nazioni Unite ha iniziato il proprio lavoro, si è svolto il primo dialogo internazionale dedicato alla governance e continua il negoziato sulle armi autonome.
Parallelamente, le capacità dei sistemi continuano ad aumentare e gli agenti digitali sono sempre più in grado di eseguire compiti complessi con livelli crescenti di autonomia.
La distanza tra ciò che era considerato sperimentale pochi anni fa e ciò che oggi può essere utilizzato da milioni di persone si è ridotta rapidamente. È precisamente questa accelerazione a spiegare la durezza dell'avvertimento di Türk.
La governance tradizionale, costruita attraverso processi legislativi che possono richiedere anni, deve confrontarsi con prodotti tecnologici che cambiano significativamente nell'arco di mesi.

Non tutti i rischi devono essere trattati allo stesso modo

Una regolazione efficace deve evitare un altro errore: considerare qualsiasi utilizzo dell'IA come se avesse lo stesso livello di pericolo.
Un filtro fotografico, un sistema che suggerisce una traduzione e un algoritmo utilizzato per selezionare un bersaglio militare appartengono a categorie completamente differenti. Applicare gli stessi obblighi a tutti potrebbe creare una regolazione inefficiente e sproporzionata.
Il modello che emerge sempre più frequentemente è quello basato sul rischio: obblighi leggeri per gli utilizzi ordinari, regole più stringenti per quelli ad alto impatto e divieti per applicazioni considerate incompatibili con determinati diritti.
In questa prospettiva le "linee rosse" richieste dall'Alto Commissario costituirebbero il livello massimo della scala: non semplicemente sistemi da controllare meglio, ma utilizzi che la comunità internazionale dovrebbe considerare inaccettabili.

Il controllo dell'IA diventa una questione di potere

Dietro il dibattito tecnico esiste infine una questione politica fondamentale: chi decide come viene utilizzata una tecnologia capace di influenzare informazione, economia, sicurezza e vita quotidiana?
Se le decisioni sono concentrate esclusivamente nelle imprese, i cittadini possono avere poca capacità di incidere su tecnologie che utilizzano ogni giorno. Se vengono affidate esclusivamente agli Stati, esiste invece il rischio che governi autoritari utilizzino l'IA per sorvegliare e reprimere.
Il modello basato sui diritti umani cerca di introdurre limiti validi per entrambi: le imprese devono rispettare i diritti e gli Stati non possono invocare semplicemente la sicurezza nazionale per giustificare qualunque forma di sorveglianza o automazione.
La governance dell'IA diventa quindi una discussione sulla distribuzione del potere digitale, sul controllo delle infrastrutture e sulla capacità delle persone di mantenere autonomia in un ambiente sempre più automatizzato.

Le armi autonome sono la linea più urgente da non superare

Tra tutti gli ambiti discussi, quello nel quale il messaggio ONU appare meno ambiguo riguarda le armi letali autonome. La possibilità che un sistema selezioni una persona e decida autonomamente di utilizzare forza letale viene considerata da una parte crescente delle istituzioni internazionali una soglia particolarmente problematica.
Il principio sostenuto dall'ONU è che la responsabilità per l'uso della forza non possa essere trasferita integralmente a una macchina. Deve esistere un controllo umano significativo, accompagnato da una catena di responsabilità giuridica identificabile.
Le trattative internazionali dimostrano tuttavia che non esiste ancora un accordo completo tra gli Stati sulle modalità attraverso cui raggiungere questo risultato. Alcuni sostengono la necessità di un trattato vincolante, altri preferiscono strumenti meno rigidi o ritengono sufficiente l'applicazione delle norme già esistenti.
È precisamente questa distanza politica a rendere il 2026 un passaggio importante: la tecnologia continua a progredire mentre la comunità internazionale deve ancora definire il confine giuridico.

Dal timore della superintelligenza ai diritti di oggi

Il valore dell'intervento di Türk sta anche nel collegare due discussioni spesso separate: i possibili rischi futuri dell'IA avanzata e le violazioni dei diritti che possono verificarsi già oggi.
Non è necessario attendere una superintelligenza per preoccuparsi di un algoritmo discriminatorio, di una sorveglianza biometrica invasiva o di una campagna di disinformazione automatizzata.
Allo stesso tempo, concentrarsi soltanto sui danni presenti potrebbe lasciare impreparati davanti a sistemi futuri dotati di capacità e autonomia molto superiori. Le due prospettive non sono necessariamente in competizione: possono richiedere strumenti differenti.
La governance deve quindi funzionare su due orizzonti. Nel breve periodo deve proteggere diritti concreti; nel lungo periodo deve impedire che capacità tecnologiche potenzialmente pericolose vengano sviluppate senza salvaguardie adeguate.

La domanda non è più se regolare l'IA, ma come farlo

Il dibattito internazionale sembra essersi spostato. La domanda centrale non è più se l'intelligenza artificiale debba essere governata, ma quali strumenti utilizzare e quanto debbano essere vincolanti.
Esistono approcci differenti: legislazioni nazionali, regolamenti regionali, standard tecnici, codici volontari, obblighi aziendali, accordi internazionali e possibili trattati per le applicazioni più sensibili.
Nessuno di questi strumenti, isolatamente, sembra sufficiente. Un settore globale e rapidamente mutevole richiede probabilmente una combinazione tra regole giuridiche, standard tecnici e cooperazione scientifica.
L'elemento decisivo sarà la capacità delle istituzioni di mantenere le norme abbastanza flessibili da adattarsi al progresso senza renderle così vaghe da diventare inefficaci.

"Prima che sia troppo tardi": il senso dell'avvertimento ONU

L'espressione utilizzata da Türk deve essere letta soprattutto come un appello alla prevenzione. Le società hanno ancora la possibilità di decidere quali sistemi costruire, quali autorizzare e quali limiti imporre.
Attendere che una tecnologia produca un danno irreversibile per stabilire una regola significa rinunciare alla parte più importante della governance del rischio: impedire che l'evento accada.
Questo non significa bloccare indiscriminatamente la ricerca né trattare l'IA come una minaccia intrinsecamente negativa. Significa riconoscere che strumenti sempre più potenti richiedono un livello crescente di responsabilità.
La sfida consiste nel costruire garanzie abbastanza solide da proteggere le persone senza impedire gli utilizzi che possono generare benefici scientifici, economici e sociali.

L'umanità deve restare responsabile delle proprie macchine

Il filo che collega discriminazione algoritmica, sorveglianza, agenti autonomi e armi intelligenti è il principio della responsabilità umana. Una macchina può calcolare, suggerire, prevedere o eseguire, ma la società non può utilizzare la sua complessità come giustificazione per eliminare la responsabilità di chi la progetta e la impiega.
Nel settore militare questo principio diventa estremo perché riguarda direttamente la vita umana. Nei servizi pubblici riguarda la possibilità di ottenere una decisione equa. Nell'informazione riguarda il pluralismo. Nella sorveglianza riguarda la libertà di vivere senza essere costantemente analizzati.
La richiesta dell'Alto Commissario ONU è quindi più ampia della sola sicurezza informatica: costruire un modello nel quale il progresso dell'IA rimanga compatibile con i diritti fondamentali.
È una sfida che nessuna singola azienda, governo o organizzazione internazionale può risolvere da sola. Richiede regole, ricerca indipendente, cooperazione tra Stati e una società civile capace di partecipare al dibattito.

Il futuro dell'IA si decide mentre la tecnologia è ancora in costruzione

L'avvertimento di Volker Türk arriva in un momento nel quale molte delle regole destinate a governare l'IA dei prossimi anni sono ancora in costruzione. È proprio questa fase a offrire il maggiore spazio di intervento.
Una volta che determinate infrastrutture, modelli economici e applicazioni diventano profondamente integrati nella società, modificarli può essere molto più difficile. Stabilire oggi requisiti di sicurezza, trasparenza e controllo umano può quindi influenzare direttamente la direzione dello sviluppo tecnologico.
La forza dell'espressione "rischio esistenziale" non dovrebbe oscurare questo elemento pratico. L'ONU non sta dicendo che la catastrofe sia certa: sta sostenendo che aspettare la certezza potrebbe essere incompatibile con una vera strategia preventiva.
Nel frattempo rimane altrettanto urgente affrontare gli effetti già visibili dell'automazione su privacy, discriminazione, informazione e potere. Proteggere il futuro e proteggere i diritti di oggi sono due parti dello stesso problema.

La linea rossa finale resta il controllo sulle decisioni irreversibili

Tra tutte le possibili regole, una emerge con particolare chiarezza: più una decisione è irreversibile, meno accettabile diventa delegarla interamente a una macchina.
Una raccomandazione può essere corretta. Un contenuto generato può essere cancellato. Una decisione amministrativa può essere riesaminata. Ma l'utilizzo autonomo di forza letale non offre la stessa possibilità di correzione.
È per questo che il dibattito sulle armi autonome rappresenta simbolicamente il punto più estremo della governance dell'intelligenza artificiale. Stabilire che una macchina non possa decidere da sola chi deve vivere o morire significa affermare che esiste almeno una responsabilità che l'umanità non intende delegare.
L'appello del 7 settembre porta questa idea fuori dalle discussioni tra tecnici e diplomatici e la inserisce direttamente nel dibattito sui diritti umani: il progresso tecnologico può essere straordinario, ma deve restare subordinato a regole costruite dalle persone e per le persone.

La sfida ora passa dalle dichiarazioni alle regole

La vera prova arriverà nella capacità di trasformare gli avvertimenti in norme applicabili. Dichiarare che l'intelligenza artificiale deve essere sicura è relativamente semplice; stabilire soglie tecniche, responsabilità, controlli indipendenti e sanzioni è molto più complesso.
Gli Stati dovranno confrontarsi con interessi economici enormi, competizione geopolitica e tecnologie che continuano a cambiare mentre le regole vengono negoziate. Le imprese dovranno dimostrare che l'innovazione responsabile non è soltanto un principio dichiarato, ma una parte concreta dei propri processi.
Le istituzioni internazionali dovranno invece trovare il difficile equilibrio tra Paesi con capacità tecnologiche molto differenti, evitando che la governance dell'IA venga decisa esclusivamente dalle potenze tecnologiche.
Il messaggio di Türk è quindi un invito a sfruttare la finestra attuale: l'IA è già abbastanza potente da mostrare rischi concreti, ma molte delle tecnologie più avanzate sono ancora in una fase nella quale scelte politiche e tecniche possono determinarne il futuro.

Tra opportunità e rischi, il controllo umano diventa la questione centrale

L'intelligenza artificiale continuerà probabilmente a entrare in un numero crescente di attività. La sfida non sarà scegliere tra un mondo "con" o "senza" IA, ma definire dove l'automazione sia utile, dove debba essere strettamente controllata e dove non debba essere consentita.
La prospettiva proposta dall'ONU mette i diritti umani come criterio di questa scelta. Un sistema non dovrebbe essere valutato soltanto per ciò che sa fare, ma per gli effetti che produce su libertà, uguaglianza, dignità e sicurezza.
È in questa cornice che l'espressione "rischio esistenziale" assume il proprio significato più concreto: non una profezia, ma il richiamo a non aspettare che la capacità tecnologica diventi troppo grande rispetto alla nostra capacità di governarla.
Le "garanzie di ferro" richieste da Volker Türk dovranno ora essere tradotte in controlli verificabili, limiti per gli usi più pericolosi e accordi internazionali capaci di mantenere l'essere umano dentro le decisioni che contano davvero. E voi quale linea rossa sull'intelligenza artificiale considerate più importante? Pensate che alcune applicazioni, soprattutto militari e di sorveglianza, debbano essere vietate oppure ritenete sufficienti controlli più severi? Raccontateci nei commenti quale equilibrio vorreste tra innovazione, sicurezza e diritti.