Ogni epoca sembra avere la propria fine del mondo. Nel secondo dopoguerra fu la bomba atomica: per decenni l’umanità visse sapendo che una guerra nucleare avrebbe potuto distruggere una parte considerevole della civiltà. Poi vennero il buco nell’ozono, le pandemie e, infine, il cambiamento climatico. Oggi è il turno dell’intelligenza artificiale. Mettere in successione fenomeni tanto diversi non significa naturalmente sostenere che si tratti di paure immaginarie. Hiroshima ha mostrato che la minaccia atomica non era una fantasia. Il buco nell’ozono era scientificamente accertato e proprio l’intervento internazionale ha contribuito a contenerlo. Il Covid ha provocato milioni di morti. Il cambiamento climatico è una trasformazione misurabile del sistema terrestre. I pericoli esistono. Ciò che interessa è il modo in cui vengono rappresentati e la facilità con cui il rischio si trasforma nell’annuncio della catastrofe.

È ciò che sta accadendo con l’Intelligenza artificiale. Alcuni protagonisti dell’industria tecnologica ci spiegano che i sistemi che stanno costruendo potrebbero sfuggire al controllo umano e arrivare, nelle versioni più estreme, a minacciare la sopravvivenza della nostra specie. La particolarità della situazione dovrebbe almeno insospettirci: a lanciare l’allarme sono spesso le stesse aziende che investono miliardi per costruire sistemi sempre più potenti. Il paradosso è evidente. Se un produttore di automobili annunciasse che il nuovo modello potrebbe diventare incontrollabile, difficilmente interpreteremmo la dichiarazione come una campagna pubblicitaria. Nel mercato dell’Intelligenza artificiale accade qualcosa di diverso. Dire che il proprio sistema potrebbe diventare pericolosissimo equivale indirettamente ad affermarne la straordinaria potenza, presente o futura. La paura diventa così anche una forma di marketing. Luciano Floridi ha colto con particolare chiarezza questo cortocircuito. Da tempo definisce fantascientifiche le narrazioni sull’intelligenza artificiale che prende il controllo dell’umanità e invita a interrogarsi sull’interesse di chi le alimenta. Se a descrivere una tecnologia come immensamente potente sono anche coloro che la producono e la vendono, l’allarme può diventare parte della sua stessa promozione. Floridi ha parlato esplicitamente, a questo proposito, di “hype” e di un’operazione di marketing. L’effetto ulteriore è spostare l’attenzione dai problemi che queste tecnologie pongono già oggi verso scenari futuri difficilmente verificabili. La fantascienza rischia così di diventare una distrazione dalla politica.

La storia delle grandi paure contemporanee dovrebbe insegnarci una distinzione fondamentale. Alla vigilia dell’anno 2000, il Millennium Bug alimentò previsioni di gravi malfunzionamenti dei sistemi informatici. Le conseguenze furono assai più limitate. Sarebbe tuttavia sbagliato concludere che il rischio fosse semplicemente inventato: migliaia di tecnici lavorarono per anni per prevenirne gli effetti. Qualcosa di analogo vale per il buco nell’ozono. La catastrofe non si è prodotta anche perché gli Stati sono intervenuti limitando i clorofluorocarburi. Una previsione può dunque non realizzarsi perché era infondata oppure perché le nostre azioni hanno modificato il corso degli eventi. Una società razionale non deve perciò scegliere tra credere all’Apocalisse e negare ogni rischio. Deve distinguere ciò che è possibile da ciò che è probabile. Possiamo immaginare una pandemia molto più letale del Covid o una guerra nucleare totale. Il fatto che qualcosa sia possibile non ci dice ancora quanto sia probabile né quale posto debba occupare tra le nostre priorità. Con l’Intelligenza artificiale questa distinzione tende a scomparire. Che sistemi futuri molto più potenti degli attuali possano produrre conseguenze catastrofiche è un’ipotesi che merita di essere studiata. Trasformare questa possibilità in una previsione sull’estinzione dell’umanità è un’operazione assai più problematica. Non possediamo precedenti storici né una base statistica che permetta di attribuire seriamente una probabilità a un simile evento.

Leggi anche

Il cortocircuito appare ancora più evidente quando l’annuncio della catastrofe proviene da chi trae un vantaggio competitivo dall’accreditare l’idea che la propria tecnologia sia prossima a capacità sovrumane. Il messaggio assume allora una forma singolare: ciò che stiamo costruendo è così potente che potrebbe distruggervi, dunque avete bisogno di noi per costruirlo in sicurezza. L’impresa diventa contemporaneamente produttrice della tecnologia e autorità che ne certifica la pericolosità. Qui si trova l’imbroglio delle profezie sull’Intelligenza artificiale. Non occorre immaginare che qualcuno stia necessariamente mentendo. Un rischio remoto può essere reale e merita di essere studiato. L’imbroglio consiste nella confusione tra possibilità e previsione e nel lasciare che siano coloro che hanno il maggiore interesse economico nello sviluppo di una tecnologia a determinarne anche la rappresentazione pubblica. La storia recente ci invita a prendere sul serio i rischi senza vivere nell’attesa permanente della catastrofe. Di fronte alla minaccia atomica abbiamo costruito sistemi di deterrenza e accordi internazionali. Per il buco nell’ozono abbiamo modificato comportamenti industriali e raggiunto accordi tra Stati. Anche l’intelligenza artificiale richiede regole e istituzioni capaci di comprenderne gli effetti. Non serve attribuirle poteri che ancora non possiede. La questione decisiva potrebbe essere molto meno spettacolare della fine dell’umanità. Mentre discutiamo della macchina che un giorno potrebbe prendere il potere, rischiamo di non vedere il potere che qualcuno sta già esercitando attraverso le macchine.

Luca Taddio

Avatar photo

© Riproduzione riservata