Se davvero alcuni tra coloro che lavorano ai sistemi di Intelligenza Artificiale più avanzati ritengono possibile che questa tecnologia possa diventare una minaccia per l’umanità, la domanda sembra inevitabile: perché non fermarsi? È una domanda ragionevole che contiene un presupposto discutibile: che esista qualcuno in grado di premere il pulsante di arresto. Non esiste. Non può farlo Anthropic, non può farlo OpenAI, non può farlo un governo europeo e probabilmente non potrebbero farlo nemmeno gli Stati Uniti. L’Intelligenza Artificiale è ormai inserita in una competizione globale nella quale interagiscono ricerca scientifica, interessi economici, sicurezza nazionale e potenza militare. Ogni soggetto sa che rallentare unilateralmente significa concedere un vantaggio agli altri.

È il classico problema dell’azione collettiva su una scala tecnologica senza precedenti. Potremmo persino immaginare che tutti i dirigenti delle maggiori aziende americane diventino domani convinti sostenitori di una moratoria. Rimangono la Cina, gli altri Stati, i laboratori indipendenti, i modelli open source, le applicazioni militari. Nessun attore dispone della sovranità sull’intero processo. Riconoscere questa condizione non significa arrendersi al determinismo tecnologico. Significa distinguere due questioni che troppo spesso vengono confuse: fermare lo sviluppo della tecnica e governarne gli effetti non sono la stessa cosa. La prima possibilità appare sempre meno realistica; la seconda è precisamente il compito della politica. Pensiamo a ciò che abbiamo fatto con altre tecnologie potenzialmente distruttive. Non abbiamo eliminato l’energia nucleare né cancellato dalla conoscenza umana la possibilità di costruire armi atomiche: abbiamo costruito, con risultati imperfetti e tutt’altro che irrilevanti, trattati, controlli, istituzioni e sistemi di deterrenza. Non abbiamo abolito l’automobile perché può uccidere: abbiamo introdotto patenti, limiti di velocità, standard di sicurezza, assicurazioni e responsabilità.

L’Intelligenza Artificiale presenta problemi nuovi e forse incomparabilmente più complessi. Il principio politico rimane lo stesso: quando una tecnologia produce rischi collettivi, la libertà di svilupparla e utilizzarla non può essere assoluta. Servono quindi regole, non per stabilire burocraticamente ciò che la ricerca può scoprire, bensì per intervenire nei punti in cui il rischio diventa socialmente rilevante: accesso alle infrastrutture critiche, sistemi d’arma autonomi, capacità di manipolazione su larga scala, impieghi nella sicurezza informatica, controllo di sistemi essenziali, responsabilità per le decisioni automatizzate. Per i modelli più potenti servono inoltre verifiche indipendenti prima della loro diffusione. Nessuna regolamentazione puramente nazionale sarà sufficiente. Se il rischio è globale, anche le regole devono progressivamente diventare globali. Stati Uniti, Europa e Cina hanno interessi divergenti e condividono almeno un interesse elementare: evitare che una competizione senza limiti produca sistemi che nessuno sia più in grado di controllare.

Leggi anche

Qui si misura la maturità della politica. Sarebbe facile scegliere tra due posizioni rassicuranti: da una parte l’entusiasmo tecnologico di chi considera ogni innovazione inevitabilmente positiva, dall’altra l’apocalittica di chi propone semplicemente di fermare tutto. Entrambe evitano il problema. La tecnica è ormai inarrestabile nei suoi processi e governabile, almeno parzialmente, nelle sue forme sociali. Non possiamo sapere oggi se l’Intelligenza Artificiale arriverà davvero a costituire una minaccia esistenziale. Le percentuali evocate dai ricercatori non sono misurazioni scientifiche del futuro: sono valutazioni di rischio, e come tali vanno considerate. Quando la probabilità è incerta e il danno potenziale enorme, la razionalità impone comunque di non ignorare il problema.

Non dobbiamo scegliere tra paura e progresso. Dobbiamo costruire istituzioni capaci di accompagnare un processo che nessuno può più arrestare da solo. La politica del XXI secolo avrà sempre più questo compito: non fermare la tecnica, ma impedire che tutto ciò che tecnicamente possiamo fare diventi, per questo solo fatto, qualcosa che dobbiamo fare.

Luca Taddio

Avatar photo

© Riproduzione riservata