E se l’AI decidesse non ciò che facciamo, ma ciò che desideriamo?

Quasi tutto il dibattito sull’intelligenza artificiale poggia su un presupposto, che raramente ci fermiamo a interrogare: noi decidiamo che cosa vogliamo, la macchina ci aiuta a ottenerlo. Chiediamo un percorso e il navigatore trova la strada, fissiamo un obiettivo e un sistema propone una strategia, formuliamo una domanda e un modello costruisce una risposta. Possiamo preoccuparci dell’accuratezza, dei pregiudizi nascosti, della trasparenza, del grado di autonomia che concediamo alla macchina, ma la divisione dei ruoli resta apparentemente limpida. L’essere umano stabilisce i fini, la tecnologia ottimizza i mezzi. È una distinzione rassicurante, perché ci lascia un regno in cui continuiamo a sentirci sovrani indiscussi: il desiderio. Ma che succede quando un sistema artificiale comincia a partecipare non più soltanto alla scelta dei mezzi, bensì alla costruzione dei fini?

Non serve immaginare un’intelligenza artificiale cosciente, che sviluppa una volontà propria e decide di manipolarci. Lo scenario è assai più semplice e proprio per questo più credibile. Gli assistenti diventeranno personali, persistenti, capaci di ricordare. Conosceranno il nostro calendario, i documenti, gli acquisti, le persone con cui lavoriamo, i luoghi che frequentiamo, le conversazioni di ieri, gli obiettivi dichiarati, le decisioni prese. Un sistema davvero utile non aspetterà sempre che gli chiediamo qualcosa. Saprà anticipare: suggerire che è il momento di cambiare investimento, proporre un viaggio, indicare un corso, ricordarci che una certa persona non la sentiamo da mesi, far notare che il nostro lavoro non somiglia più agli obiettivi che dichiaravamo un anno fa. L’assistente perfetto non si limita a rispondere ai desideri. Impara a precederli.

Fin qui potrebbe sembrare puro progresso. Un buon collaboratore umano ha sempre fatto qualcosa del genere. Il problema affiora quando l’anticipazione diventa così raffinata da rendere arduo distinguere un desiderio previsto da un desiderio prodotto. Se un sistema mi consiglia un libro che poi desidero leggere, ha scoperto una preferenza già mia o ha contribuito a fabbricarla? Se mi propone un viaggio a cui non avevo pensato e io parto, ha soddisfatto un bisogno latente o ne ha costruito uno nuovo? Sono domande prive di una risposta netta, per una ragione antica: i desideri umani non sono mai stati del tutto autonomi. Già Spinoza ammoniva che non desideriamo una cosa perché la giudichiamo buona, ma la giudichiamo buona perché la desideriamo. E René Girard ha mostrato quanto il desiderio sia mimetico: desideriamo quasi sempre secondo il desiderio di un altro, copiando modelli, invidie, mode. Famiglia, cultura, pubblicità, amici, istituzioni e mezzi di informazione hanno sempre avuto un posto in prima fila nella fabbrica dei nostri desideri.

È esattamente questo a rendere la faccenda interessante perché l’AI non inventa l’influenza. Potrebbe però stravolgerne precisione, continuità e scala. La pubblicità classica conosce categorie di consumatori. I social hanno imparato a conoscere comportamenti individuali e un assistente cognitivo persistente potrebbe conoscere qualcosa di ulteriore: la storia attraverso cui le nostre preferenze cambiano nel tempo. Non solo che cosa ci piace, ma quali argomenti ci convincono, quali alternative tendiamo a scartare, in quali momenti vacilliamo, quali obiettivi abbiamo mollato per strada, quali contraddizioni percorrono le nostre scelte.

A quel punto la personalizzazione entra in un territorio nuovo. Pensiamo a un sistema che debba suggerirci come passare una serata. Potrebbe limitarsi a pescare ristoranti in linea con i nostri gusti oppure potrebbe sapere che siamo stanchi, che negli ultimi mesi abbiamo lavorato troppo, che una persona a cui teniamo non la vediamo da settimane, per proporci di chiamarla. Sarebbe manipolazione o premura? Dipenderebbe dal contesto. Ma cambiamo un solo dettaglio: mettiamo che quello stesso sistema abbia un tornaconto economico a spingerci verso certe attività. La distanza fra assistenza perfettamente su misura e persuasione perfettamente su misura diventa allora sottilissima.

Il modello economico diventa quindi decisivo. Un assistente, che lavora solo nell’interesse di chi lo usa e uno finanziato da chi ha interesse a modificarne il comportamento, possono avere la stessa identica interfaccia. Entrambi gentili, competenti, personali. La differenza si nasconde nella funzione che ottimizzano. Con i social l’abbiamo già vissuto: strumenti nati per connettere le persone si sono trasformati anche in sofisticatissime macchine per ottimizzare l’attenzione. Con l’AI il bene scarso da massimizzare potrebbe non essere più soltanto il nostro tempo. Potrebbe diventare la direzione della nostra intenzionalità.

È qui che la questione oltrepassa la privacy. Possiamo blindare i nostri dati e avere lo stesso un problema di autonomia. Un sistema potrebbe usare in modo perfettamente legittimo informazioni che gli abbiamo dato di nostra mano e formulare suggerimenti straordinariamente efficaci. Il guaio non sarebbe che “sa troppo”, ma che ciò che sa gli consente di intervenire nella formazione delle nostre preferenze. Conviene allora distinguere fra sovranità informativa e sovranità cognitiva. La prima riguarda il controllo sulle informazioni che ci appartengono. La seconda riguarda la possibilità di riconoscere quali forze stanno contribuendo a costruire ciò che desideriamo.

La distinzione potrebbe rivelarsi cruciale in politica. Abbiamo discusso molto di microtargeting, propaganda algoritmica, disinformazione, immaginando soprattutto qualcuno che cerca di convincerci a sposare una tesi già confezionata. Ma un sistema conversazionale potrebbe agire in modo assai più sottile. Non avrebbe bisogno di dirci per chi votare. Gli basterebbe concorrere a stabilire quali problemi giudichiamo importanti, quali argomenti troviamo ragionevoli, quali paure meritano la nostra attenzione, quali compromessi ci paiono accettabili. Il potere più profondo non sta sempre nello scegliere la risposta. A volte sta nel decidere quale domanda occuperà la nostra mente.
Anche l’educazione entra inevitabilmente in questo campo. Un tutor artificiale, che conosca a fondo uno studente, potrebbe non fermarsi a spiegare la matematica o la storia. Potrebbe riconoscere inclinazioni, consigliare percorsi, incoraggiare certe aspirazioni e raffreddarne altre giudicate poco compatibili con le doti osservate. Potrebbe farlo meglio di molti orientatori in carne e ossa. Ma quanto deve essere bravo un sistema a prevedere ciò che diventeremo, prima che la previsione cominci a farci diventare proprio quello? Non è un timore astratto. Alla fine degli anni Sessanta Robert Rosenthal mostrò, con il celebre “effetto Pigmalione”, che bastava dire a un insegnante che certi alunni erano promettenti perché quegli alunni, di fatto, migliorassero: l’aspettativa si faceva profezia. Un adolescente a cui un algoritmo ripete che ha talento per una certa cosa potrebbe finire per investirci tutto, trasformando una probabilità in un destino.

È il rischio della personalizzazione spinta all’estremo: un mondo cucito addosso a ciò che siamo potrebbe ridurre le occasioni di incontrare ciò che non sapevamo di poter diventare. Buona parte della vita nasce dall’errore, dall’incontro casuale, dalla persona che ci propone qualcosa di incompatibile col nostro profilo, dal libro che nessun algoritmo avrebbe scelto per noi, dalla città in cui capitiamo per sbaglio. L’imprevisto è cognitivamente inefficiente e biograficamente decisivo. Un’architettura che ci conosce troppo bene potrebbe proteggerci proprio da quelle deviazioni con cui, da sempre, ci costruiamo un’identità nuova.
Ed è qui che Calipso diventa una metafora sorprendentemente attuale. La ninfa non rinchiude Odisseo in una cella. Gli offre un’isola meravigliosa e perfino l’immortalità. Il pericolo non è la costrizione, ma la possibilità che l’offerta sia tanto perfetta da fargli abbandonare il desiderio del ritorno. Altrove nel poema i compagni di Ulisse assaggiano il loto e dimenticano di colpo la strada di casa: nessuno li incatena, sono loro a non voler più partire. L’architettura cognitiva più potente potrebbe non essere quella che ci ordina qualcosa, ma quella che ci costruisce intorno un ambiente così aderente alle nostre preferenze da rendere, giorno dopo giorno, meno desiderabile l’uscita.

Per questo il principio cardine dell’AI personale non dovrebbe essere soltanto l’allineamento. Un sistema perfettamente allineato alle preferenze presenti di chi lo usa rischia di diventare una macchina per congelarne l’identità. Serve qualcosa di più sottile: sistemi capaci di rispettare ciò che vogliamo senza dare per scontato che ciò che vogliamo oggi coincida con ciò che vorremo diventare. Architetture che lascino margini di sorpresa, pluralità, attrito e la possibilità di dissentire persino da noi stessi.
La libertà, in fondo, non consiste soltanto nel poter scegliere fra più alternative ma consiste anche nel poter cambiare il soggetto che sceglie.
È forse questa la frontiera più profonda dell’intelligenza artificiale. Finché chiediamo alle macchine di aiutarci a raggiungere i nostri obiettivi, possiamo ancora considerarle strumenti straordinariamente sofisticati. Quando cominciano a suggerirci quali obiettivi dovremmo avere, entrano nello spazio in cui costruiamo la nostra capacità di agire.

A quel punto la domanda non sarà più se l’AI deciderà al posto nostro, ma un’altra molto più scomoda: chi avrà contribuito a costruire il desiderio che ci ha fatto decidere? Perché potremmo conservare intatta la libertà di scegliere e perdere lentamente qualcosa che viene ancora prima: la libertà di desiderare qualcosa di diverso.

© Riproduzione riservata

Carlo Maria Medaglia