Non perdere gli occhi
Lo scenario evolutivo dell’utilizzo estensivo dell’IA: miliardi di idee ma pochissimi modi di pensare
Non abbiamo mai prodotto tante parole, immagini, video, presentazioni, analisi e idee come stiamo cominciando a fare nell’epoca dell’intelligenza artificiale generativa. Il costo di produrre un contenuto sta precipitando e la quantità cresce a una velocità che toglie il fiato. Chiunque può chiedere a una macchina dieci varianti, cinquanta slogan, cento titoli, tre strategie, cinque scenari e riceverli in pochi secondi. All’apparenza stiamo entrando nella più grande esplosione di creatività della storia umana. Eppure proprio questa abbondanza potrebbe nascondere il suo esatto contrario, molto meno visibile e forse molto più importante. Potremmo generare miliardi di contenuti diversi servendoci di un numero sempre più ristretto di infrastrutture attraverso cui pensiamo. L’epoca della massima varietà apparente rischia di essere, per un paradosso beffardo, quella della più grande convergenza cognitiva.
Il punto non è che l’intelligenza artificiale dia sempre la stessa risposta. Non lo fa e lo farà sempre meno. Possiamo cambiare istruzioni, contesto, modelli, fonti e dati fino a ottenere esiti lontanissimi fra loro. La questione sta un piano più sotto: quali alternative vengono considerate plausibili? Che forma prende, di solito, una spiegazione? Quali argomenti sembrano naturali e quali restano ai margini? Come viene impostato un problema, prima ancora di essere risolto? La varietà dei risultati non coincide affatto con la varietà dei processi che li generano. È la differenza fra un menù lunghissimo e un’unica cucina dietro le quinte.
È una distinzione che già conosciamo altrove. Un supermercato può esibire migliaia di prodotti diversi che appartengono a una manciata di gruppi industriali. Possiamo avere centinaia di canali televisivi e una proprietà dei media concentrata in poche mani. Possiamo navigare miliardi di pagine passando quasi sempre per due o tre motori di ricerca. L’abbondanza dell’offerta visibile convive benissimo con la concentrazione dell’infrastruttura invisibile. Con l’intelligenza artificiale questa vecchia dinamica potrebbe spingersi in un territorio che credevamo al riparo da qualsiasi centralizzazione: la produzione delle strutture con cui organizziamo il pensiero.
Milioni di studenti usano già i sistemi generativi per studiare, riassumere, capire. Milioni di professionisti li usano per preparare documenti, montare presentazioni, esplorare alternative, costruire argomentazioni. Giornalisti, consulenti, programmatori, ricercatori, manager e creativi hanno cominciato a dialogare ogni giorno con un numero abbastanza ridotto di famiglie di modelli. Nessuno impartisce loro una dottrina e nessuno censura un’opinione. Basta molto meno e cioè che certe forme di risposta risultino statisticamente più probabili, certi registri più frequenti, certe architetture argomentative più comode. Ripetuto miliardi di volte, questo minuscolo attrito potrebbe generare qualcosa che non abbiamo ancora imparato a misurare: una standardizzazione morbida del pensiero.
L’aggettivo “morbida” individua il nocciolo del problema. Le grandi uniformità del Novecento erano quasi sempre visibili e brutali: un regime bruciava libri, controllava i giornali, decideva ciò che si poteva dire. La convergenza prodotta da infrastrutture artificiali potrebbe non somigliare affatto a quel volto arcigno. Potremmo restare liberissimi di chiedere ciò che vogliamo e ricevere risposte diverse, creative, su misura. E intanto, senza accorgercene, abituarci a una certa grammatica della ragione: problemi smontati sempre negli stessi modi, argomenti disposti secondo schemi ricorrenti, conflitti ricondotti a compromessi prevedibili. Tocqueville, quasi due secoli fa, aveva intuito che la libertà moderna non sarebbe morta sotto i colpi di un tiranno feroce, ma poteva addormentarsi sotto un potere mite, gentile e premuroso, capace di rammollire gli animi senza mai spezzarli. Non sarebbe uniformità delle opinioni ma sarebbe uniformità delle forme con cui impariamo a costruirle.
La scuola rende tutto più nitido. Immaginiamo una generazione che, dall’asilo all’università, usi ogni giorno assistenti artificiali per capire testi, costruire ragionamenti, ricevere correzioni, sviluppare idee. Sarebbe una risorsa educativa straordinaria, su questo non ci sono dubbi. Ma se milioni di studenti vengono accompagnati dalle stesse poche architetture, che ne è della varietà dei loro modelli mentali? Un tempo un ragazzo incontrava molti insegnanti, ciascuno con le sue fissazioni, le sue passioni, i suoi limiti, i suoi metodi e persino i suoi errori. L’imperfezione umana, senza volerlo, produceva biodiversità cognitiva. Un tutor artificiale più competente, più paziente e sempre disponibile potrebbe essere pedagogicamente migliore e, nello stesso respiro, più uniformante. È il paradosso più scomodo per chi, come chi scrive, crede davvero nel potenziale di questi strumenti.
Lo stesso vale per la creatività. Chiediamo a un sistema venti idee per una campagna e ci stupiamo di quanto siano varie. Ma se migliaia di agenzie lavorano con modelli addestrati sulle stesse enormi porzioni di cultura visiva e testuale, potremmo assistere a un’accelerazione silenziosa della convergenza estetica. Non perché le macchine copino le medesime immagini, ma perché ci aiutano a esplorare soprattutto lo spazio delle possibilità che la cultura ha già reso statisticamente leggibile. L’idea davvero anomala, quella che nasce da una biografia improbabile, da un errore fecondo, da un’ossessione privata o dall’incrocio accidentale fra mondi lontani, diventerebbe ancora più preziosa proprio perché più difficile da dedurre.
Anche la scienza dovrebbe interrogarsi. L’AI aiuta a spulciare la letteratura, generare ipotesi, scovare connessioni che nessun ricercatore vedrebbe da solo. È un’occasione enorme. Ma se laboratori di tutto il mondo cominciano a usare sistemi simili per capire quali ipotesi paiano promettenti, rischiamo di addensare l’attenzione scientifica intorno alle regioni dello spazio del sapere che i modelli riconoscono meglio. La macchina potrebbe allargare a dismisura ciò che possiamo esplorare e, allo stesso tempo, orientare ciò che riteniamo degno di essere esplorato.
Il rischio si fa più profondo quando passiamo dalle risposte alle domande. Oggi vediamo l’AI soprattutto come un sistema che risponde ma gli assistenti stanno imparando a suggerire domande, anticipare bisogni, proporre percorsi, indicare problemi che forse vorremmo approfondire. Quando un’infrastruttura cognitiva non si limita a fabbricare le risposte ma partecipa alla scelta delle domande, cambia peso specifico. Chi orienta ciò che una società giudica interessante orienta, per vie indirette, anche ciò che quella società potrà diventare.
Non serve accusare i modelli di coltivare un progetto culturale. Sarebbe antropomorfismo. Il problema può nascere senza la minima intenzione. Ogni sistema di conoscenza ha inevitabilmente una struttura: dati più e meno rappresentati, lingue dominanti e lingue periferiche, culture con molta o pochissima presenza digitale, saperi facili da codificare e conoscenze tacite, che resistono a farsi testo. Una società, che usa in massa questi sistemi, rischia di trasformare la distribuzione statistica del passato in una delle infrastrutture cognitive del futuro. In fondo è la vecchia lezione delle carestie: la monocoltura è efficiente finché tutto va bene, poi arriva una sola malattia e mette in ginocchio un’intera popolazione. L’Irlanda dell’Ottocento lo scoprì con una patata sola e un milione di morti.
Ed è qui che il tema incontra quello del potere. Se una parte crescente della nostra produzione intellettuale passa per un pugno di modelli sviluppati da poche grandi organizzazioni, il pluralismo non si misura più contando quanti contenuti diversi circolano. Dovremo chiederci quante architetture diverse contribuiscono a produrli, quali dati le nutrono, quali culture rappresentano, quali possibilità rendono visibili e quali lasciano nell’ombra. Già John Stuart Mill, difendendo la libertà di pensiero, avvertiva che un’opinione mai contraddetta si spegne in “dogma morto” e che la vera minaccia delle società moderne era una “mediocrità collettiva” travestita da consenso. Forse ci servirà una politica della biodiversità cognitiva, esattamente come abbiamo costruito politiche per la biodiversità biologica e per il pluralismo dell’informazione.
Ne segue che il futuro dell’AI non dovrebbe essere solo una corsa al modello più potente e universale. Potremmo avere bisogno anche di modelli locali, disciplinari, culturali, linguistici, educativi; di sistemi costruiti apposta intorno a epistemologie diverse; di architetture capaci di dissentire fra loro invece di convergere tutte verso l’unica risposta ottimale. L’inefficienza di tenere in vita più modelli potrebbe rivelarsi il prezzo giusto per conservare più modi di guardare il mondo.
Ed è qui che Polifemo torna sorprendentemente utile. Il Ciclope non è cieco, anzi ci vede benissimo. Il suo guaio è avere un occhio solo e una forza tale da non accorgersi che gli manca una prospettiva. La società cognitiva che ci attende potrebbe trovarsi nella stessa posizione: strumenti straordinari per analizzare il mondo attraverso infrastrutture sempre più potenti, e la disattenzione di chi non nota che quelle infrastrutture stanno condividendo, poco per volta, gli stessi punti ciechi. Non a caso Ulisse non sconfigge Polifemo con la forza, che non avrebbe mai potuto eguagliare, ma con l’astuzia di chi sa cambiare punto di vista.
La sfida, dunque, non sarà impedire all’AI di produrre contenuti. Ne sfornerà quantità inimmaginabili. Sarà evitare che l’abbondanza dei contenuti ci faccia scambiare la moltiplicazione delle risposte per la moltiplicazione dei punti di vista. Possiamo ritrovarci con un miliardo di libri, un miliardo di immagini e un miliardo di idee in apparenza diverse, per scoprire troppo tardi che sono state immaginate tutte guardando il mondo attraverso gli stessi pochi occhi. Proust scriveva che il vero viaggio di scoperta non consiste nel cercare nuovi paesaggi, ma nell’avere occhi nuovi. La posta in gioco dei prossimi anni è, forse, tutta qui: non moltiplicare i paesaggi, ma non perdere gli occhi.
© Riproduzione riservata
