L’AI ci toglierà il diritto di non sapere

Per tutta la storia umana abbiamo convissuto con una verità tanto ovvia quanto pacificante: nessuno può sapere tutto. Non conoscere una lingua, non saper programmare, non capire un bilancio, non districarsi tra le norme non erano difetti, ma la condizione normale di ogni persona. Anzi, la società era costruita proprio su quei buchi. Esistevano traduttori perché i più non parlavano tutte le lingue, programmatori perché non tutti sapevano scrivere codice, commercialisti perché leggere un bilancio richiedeva anni di studio, avvocati perché il diritto bisognava averlo masticato a lungo. L’incompetenza, in fondo, non era un guasto del sistema: era il cemento, che teneva insieme la divisione del lavoro. Ognuno sapeva bene una cosa proprio perché poteva permettersi di ignorarne mille altre. L’intelligenza artificiale rischia di scardinare questa premessa antichissima e di produrre una conseguenza di cui parliamo ancora troppo poco: la lenta scomparsa del diritto di non sapere.

Prendiamo una scena semplicissima. A un manager arriva un documento in giapponese e lui risponde di non conoscere la lingua. Vent’anni fa sarebbe suonata come un’ovvietà; oggi suonerebbe già strana, perché quel documento può tradurlo in tre secondi. Un piccolo imprenditore riceve un contratto irto di clausole e ammette di non capirne alcune: può farsele spiegare, confrontare, smontare da un sistema, salvo poi rivolgersi comunque a un professionista. Un impiegato non sa costruire una formula in un foglio di calcolo né montare una presentazione: l’AI lo prende per mano. A poco a poco la risposta “non so farlo” perde legittimità, perché qualcuno è pronto a ribattere: non devi saperlo fare, devi sapere come ottenere il risultato.
Sembra una splendida democratizzazione e in buona parte lo è. Persone senza certe competenze potranno mettere le mani su capacità, che prima costavano anni di studio o parcelle salate ma ogni volta che cresce ciò che possiamo fare, cresce anche ciò che gli altri si aspettano da noi. Lo smartphone non ci ha soltanto reso sempre raggiungibili: ha reso quasi indecente non esserlo. La posta elettronica non ha solo accelerato la comunicazione: ha accorciato il tempo che il mondo considera educato per rispondere. Il navigatore satellitare non ci ha solo aiutato a orientarci: ha trasformato il perdersi da avventura ordinaria a colpa evitabile. È la regola non scritta di ogni tecnologia: non cambia soltanto ciò che possiamo fare, cambia ciò che gli altri ritengono ragionevole pretendere.

L’intelligenza artificiale potrebbe estendere questa dinamica non a un singolo gesto, ma a una fetta enorme delle nostre facoltà mentali. Se posso tradurre qualunque testo, riassumere qualsiasi documento, farmi spiegare quasi ogni argomento, generare codice, analizzare dati, sfornare immagini, quale livello di prestazione diventerà normale pretendere da me? Rischiamo di entrare in una stagione di inflazione delle aspettative cognitive. E l’immagine è quanto mai calzante: quando una moneta abbonda, ogni singola unità vale di meno e i prezzi salgono. Allo stesso modo, quando la competenza circola gratis e a fiumi, il valore di ciascuna prestazione si abbassa e l’asticella di ciò che serve soltanto per essere considerati normali continua a salire. La capacità in più non si traduce in tempo libero o in minore pressione, ma in un nuovo minimo sindacale.

Non è una novità assoluta. Il computer avrebbe dovuto tagliare drasticamente il tempo per svolgere mille attività d’ufficio. In effetti lo ha fatto, senza che ne seguissero giornate più corte. Abbiamo usato quel tempo risparmiato per produrre più documenti, più analisi, più riunioni, più slide. Quando preparare dieci diapositive costava una giornata, dieci diapositive erano un buon lavoro. Ora che quelle stesse slide si ottengono in dieci minuti, ci si aspetta che ne vengano preparate cinquanta, confrontando anche cinque scenari e presentando alla riunione tre alternative pronte. Cyril Northcote Parkinson lo aveva capito con la sua celebre legge: il lavoro si dilata fino a occupare tutto il tempo disponibile. L’efficienza tecnologica, insomma, si trasforma quasi subito in pretesa sociale.

Con l’AI il fenomeno può diventare molto più violento perché tocca il perimetro stesso delle competenze. Il professionista di domani potrebbe non essere giudicato per ciò che sa in prima persona, ma per tutto ciò che riesce a mobilitare attraverso le intelligenze a cui ha accesso. È come valutare un artigiano non più dalle sue mani, ma dall’intera bottega che ha alle spalle: gli attrezzi, gli apprendisti, i fornitori, i cataloghi. Il confine della competenza individuale finirebbe così per coincidere con il confine della propria architettura cognitiva. Non ciò che sai, ma ciò che tu, i tuoi strumenti, i tuoi agenti, i tuoi dati e le tue reti sapete fare tutti insieme.

C’è un versante splendidamente emancipatore in tutto questo. Una persona con una disabilità, una microimpresa senza grandi strutture, uno studente di provincia, un libero professionista, potrebbero afferrare capacità un tempo riservate a colossi organizzati. Ma c’è anche un versante meno tranquillizzante. Se la potenza artificiale viene inglobata nella definizione sociale di competenza, chi sceglie di non usarla rischia di apparire non soltanto più lento, ma addirittura irresponsabile. Perché dovrei tollerare un refuso, se esiste uno strumento che lo corregge? Perché una relazione dovrebbe restare lacunosa, se un sistema può passarla al setaccio? Perché un medico, un docente, un funzionario dovrebbe ignorare qualcosa che un agente avrebbe potuto recuperare in un istante?

La faccenda si fa ancora più spinosa quando entra in scena l’errore. Abbiamo sempre distinto tra ciò che una persona poteva ragionevolmente sapere e ciò che non era in grado di conoscere. Ma se una macchina spulcia in pochi secondi montagne di informazioni, il perimetro di ciò che “avresti potuto sapere” si gonfia a dismisura. Un domani potremmo sentirci rimproverare non più soltanto “dovevi saperlo”, ma “avresti dovuto chiederlo all’AI”. La semplice disponibilità della competenza artificiale potrebbe così riscrivere perfino il concetto di negligenza. Non interpellare un sistema capace di fiutare un rischio potrebbe diventare grave quanto oggi lo è ignorare una fonte obbligatoria.
Ed eccoci al paradosso. L’AI nasce con la promessa di sollevarci da una parte della fatica mentale e potrebbe, invece, partorire individui a cui si chiede di essere competenti in un numero crescente di campi. Non perché abbiano davvero studiato tutto, ma perché possiedono la chiave d’accesso a una capacità esterna, che rende quella competenza momentaneamente disponibile. Potremmo sapere di persona molte meno cose e, allo stesso tempo, essere ritenuti responsabili di molte più.

Lo scenario incrina anche l’idea di specializzazione. Se un singolo professionista può mobilitare capacità artificiali in diritto, economia, comunicazione, analisi dei dati e programmazione, che ne è dei confini tra le professioni? Gli specialisti non spariranno, perché la conoscenza profonda resterà indispensabile proprio per controllare e governare i sistemi. A rischiare è semmai la competenza intermedia, quella per cui pagavamo qualcuno soltanto perché possedeva una capacità, che a noi mancava. E la domanda si farà sempre più ruvida: quanto vale una competenza, quando chi non la possiede può simularne temporaneamente una fetta consistente?
La soluzione, certo, non può essere difendere per legge l’ignoranza. Sarebbe grottesco rimpiangere un mondo in cui non capivamo un testo perché non ne conoscevamo la lingua, o in cui il piccolo imprenditore restava tagliato fuori dagli strumenti di analisi. Dovremo però imparare a tenere distinte tre cose, che oggi tendiamo pericolosamente a confondere: possedere una competenza, accedere a una competenza, saper governare una competenza artificiale. Non sono la stessa cosa. Posso ottenere una traduzione senza sapere la lingua, un’analisi statistica senza sapere la statistica, un parere preliminare senza sapere il diritto. Il risultato può essere ottimo. Ma saper produrre un risultato non significa affatto saperne riconoscere i limiti. È la vecchia trappola descritta da Dunning e Kruger: chi meno sa di una materia è spesso il meno attrezzato ad accorgersene, e un output impeccabile sfornato dalla macchina rischia di spegnere del tutto quel campanello d’allarme.

È qui che il diritto di non sapere assume un senso nuovo. Non è la rivendicazione dell’ignoranza, ma il riconoscimento del limite come ingrediente indispensabile dell’autonomia. Una società sana deve permettere alle persone di dire “non lo so” senza obbligarle a mascherare il proprio vuoto dietro una macchina. Forse dovremmo preoccuparci meno delle AI, che ammettono candidamente di non conoscere una risposta. Il vero problema saranno gli esseri umani che, avendo un’AI sempre a portata di mano, non sentiranno più di avere il diritto di ammettere di non sapere.
Perché il dubbio, l’incertezza, il riconoscimento del limite non sono difetti della mente. Sono dispositivi di sicurezza, esattamente come le cinture in automobile. Chi sa di non sapere cerca un esperto, verifica, rallenta. Chi invece può generare all’istante una risposta plausibile può coltivare l’illusione di padroneggiare una competenza, che in realtà sta soltanto prendendo in prestito. Bertrand Russell lo diceva con la sua abituale perfidia: il guaio del mondo è che gli sciocchi sono pieni di certezze e le persone sagge traboccano di dubbi.

Forse, allora, la capacità più preziosa nell’età dell’intelligenza artificiale sarà la meno tecnologica di tutte: sapere con esattezza dove finisce la terraferma di ciò che sappiamo davvero e dove comincia il mare aperto di ciò che la nostra architettura cognitiva sa fare al posto nostro. È una saggezza antica travestita da problema nuovo. Già Socrate aveva fatto della consapevolezza della propria ignoranza il principio stesso del sapere: sapeva di non sapere e proprio per questo non smetteva mai di cercare.
Per secoli l’ignoranza è stata il muro contro cui abbiamo costruito la conoscenza. Nel prossimo futuro rischia invece di diventare qualcosa da nascondere, perché una macchina ci offre il modo di farlo. E in una società in cui tutti possono sembrare competenti in quasi tutto, pronunciare tre paroline semplicissime potrebbe diventare una delle forme più rare e più preziose di intelligenza: non lo so.

© Riproduzione riservata

Carlo Maria Medaglia