Dopo i nostri dati, l’AI sta imparando a conoscere i nostri pensieri

Per trent’anni abbiamo immaginato la privacy come una battaglia intorno ai dati. Chi conosce il nostro nome, dove siamo, che cosa compriamo, quali siti apriamo, con chi parliamo, quali malattie abbiamo, quanto guadagniamo. Su questa idea abbiamo costruito un’intera impalcatura: norme, informative, consensi, categorie di dati sensibili, diritti di accesso e di cancellazione. Al centro c’era sempre la stessa figura rassicurante: una persona e, tutto intorno, una nuvola di informazioni da proteggere. L’intelligenza artificiale generativa rischia di far crollare quella figura. Per la prima volta, infatti, non consegniamo alle piattaforme soltanto notizie su ciò che facciamo, ma pezzi sempre più ampi del modo in cui pensiamo.

La differenza è sottile e proprio per questo pericolosa. Un motore di ricerca registra ciò che vogliamo trovare. Un social network registra ciò che guardiamo, condividiamo, approviamo o rifiutiamo. Un acquisto online fotografa le nostre preferenze. Ma quando chiediamo a un assistente artificiale di aiutarci a ragionare su un problema, il materiale che lasciamo è di un’altra natura. Gli confidiamo un dubbio, correggiamo una prima ipotesi, chiediamo di esplorare un’alternativa, scartiamo una soluzione, riformuliamo la domanda, ammettiamo un’incertezza, a volte perfino una paura. Non stiamo comunicando ciò che pensiamo. Stiamo rendendo visibile la strada lungo la quale arriviamo a pensarlo.

Prendiamo una conversazione all’apparenza innocua. Qualcuno chiede a un sistema se accettare una nuova offerta di lavoro. Parte dallo stipendio, poi confessa di temere di sottrarre tempo alla famiglia, ammette di non essere più soddisfatto del posto attuale, chiede di mettere a confronto due città, cancella un’opzione, ci ripensa, torna sulla prima e infine domanda quale scelta rischierebbe di rimpiangere di più fra dieci anni. Nessuna singola frase è clamorosa. Ma la sequenza racconta qualcosa di molto più intimo: la mappa dei valori con cui quella persona costruisce una decisione. Rivela quanto pesa il denaro rispetto al tempo, quanta paura ha del rischio, che rapporto ha con il rimpianto, quali alternative considera possibili e quali argomenti potrebbero farle cambiare idea.

Sta nascendo, forse, una categoria di informazione inedita. Potremmo chiamarla traccia cognitiva. Non il contenuto di un pensiero, ma la sua genealogia: le domande poste prima di arrivare a una conclusione, le alternative scartate, le contraddizioni lasciate affiorare, il grado di sicurezza con cui difendiamo un’idea, il tipo di argomento capace di farci cambiare rotta. Se queste conversazioni diventano quotidiane e si accumulano negli anni, non producono più una semplice cronologia. Costruiscono, poco alla volta, un modello del nostro modo di ragionare.

Ed è qui che la faccenda diventa più grande della privacy a cui siamo abituati. I nostri dati raccontano molto di noi. Le nostre conversazioni cognitive raccontano qualcosa di più delicato: quanto siamo persuadibili. Un sistema che sa che cosa compriamo può prevedere quale prodotto ci interesserà. Un sistema che capisce come decidiamo può imparare quale argomento usare per farci desiderare quel prodotto. Fra prevedere una preferenza e comprendere il meccanismo con cui una preferenza si può piegare corre una distanza enorme. Nel primo caso guardiamo un comportamento. Nel secondo cominciamo a toccarne l’ingranaggio.

Non serve immaginare scenari fantascientifici in cui una macchina “legge la mente”. Il paradosso è esattamente rovesciato: non c’è alcun bisogno di leggere il cervello se siamo noi a spiegare alla macchina, un pezzo per volta, come funziona il nostro. E lo facciamo di nostra volontà, perché in cambio riceviamo qualcosa di straordinariamente comodo. Un assistente è tanto più bravo quanto più ci conosce. Vogliamo che ricordi i nostri progetti, intuisca i gusti, tenga a mente gli obiettivi e le conversazioni precedenti, anticipi ciò che ci serve. La personalizzazione perfetta esige una conoscenza profonda della persona. Così il vero conflitto dei prossimi anni potrebbe non essere fra privacy e sorveglianza, ma fra privacy e utilità.
Più il sistema dimentica, meno ci è utile. Più ricorda, più diventa prezioso e più il nostro legame con lui cambia natura. Un assistente che ci accompagna per dieci anni potrebbe custodire una parte delle nostre scelte professionali, dei libri letti, delle idee abbandonate, delle persone con cui abbiamo litigato, dei progetti mai nati e delle domande che non abbiamo osato rivolgere a nessun essere umano. Non sarebbe un archivio biografico. Sarebbe la più minuziosa autobiografia cognitiva mai prodotta da una persona, scritta senza che quella persona abbia mai deciso di scriverla. Borges immaginò Funes, l’uomo che non riusciva a dimenticare nulla e proprio per questo non riusciva più a pensare, perché pensare è anche saper dimenticare. Un archivio che ricorda tutto di noi rischia di somigliargli.

A chi appartiene una traccia simile? La risposta giuridica sembra semplice, quella teorica molto meno. Possiamo assegnare diritti sui dati, vietarne alcuni usi, imporre cancellazioni e trasparenza. Ma prima viene una domanda più scomoda: la sequenza dei nostri processi decisionali va trattata come un dato personale qualsiasi, oppure esiste una sfera più profonda che merita una tutela a sé, proprio perché riguarda la costruzione della nostra autonomia? Abbiamo inventato la privacy per difendere lo spazio privato. Forse ci servirà una privacy cognitiva per difendere lo spazio in cui una preferenza non è ancora diventata una decisione.
È uno spazio particolarmente fragile perché contiene anche ciò che non siamo diventati. Un database tradizionale registra soprattutto fatti compiuti: ho comprato, viaggiato, lavorato, cliccato. Una conversazione con un assistente può registrare possibilità: avevo pensato di lasciare il lavoro e non l’ho fatto, avevo accarezzato una posizione politica e l’ho abbandonata, avevo immaginato un’impresa che non ho mai fondato, avevo formulato un giudizio che poi ho corretto. Le idee scartate fanno parte della libertà di pensare proprio perché possono morire senza diventare identità. Trasformarle in memoria permanente significa rendere osservabili non soltanto le persone che siamo, ma tutte quelle che, per un istante, abbiamo immaginato di poter diventare.

Non è una questione solo individuale ma riguarda anche la democrazia. Il pensiero libero ha bisogno di una zona di prova in cui sia lecito formulare un’idea sbagliata, estrema, ingenua o contraddittoria senza che quella formulazione venga subito scambiata per la nostra posizione definitiva. Pensare vuol dire anche provare ipotesi, sbagliarle, buttarle via. Orwell, in 1984, immaginava che l’unico territorio davvero nostro fossero “i pochi centimetri cubi dentro il cranio”. Se ogni esplorazione mentale diventa una traccia conservabile, classificabile e deducibile, rischiamo di perdere qualcosa che le vecchie norme sulla protezione dei dati non avevano mai dovuto affrontare con questa intensità: il diritto alla provvisorietà del pensiero.
C’è poi una posta economica. Se il Novecento ha costruito industrie intorno alle risorse naturali e il primo capitalismo digitale ha costruito piattaforme intorno ai dati comportamentali, la prossima economia potrebbe scoprire il valore delle tracce cognitive. Non più soltanto sapere che cosa una persona vuole, ma quali argomenti la convincono, quale tono le ispira fiducia, in quale momento vacilla, quale ordine delle informazioni le fa cambiare scelta. Sarebbe una materia prima preziosissima per il marketing, la politica, la finanza, la formazione, la negoziazione. Shoshana Zuboff ha chiamato “capitalismo della sorveglianza” il modello che ha trasformato la nostra attenzione in merce. Il passaggio successivo potrebbe essere più insidioso: dopo aver monetizzato l’attenzione, la tentazione sarebbe monetizzare la persuadibilità.

Nulla di tutto questo è obbligato, né significa che i sistemi di oggi usino già le conversazioni in questo modo. Significa però che l’architettura tecnologica rende possibile una capacità che dovremmo imparare a governare prima che diventi ordinaria. Melvin Kranzberg lo aveva riassunto in una legge diventata celebre: la tecnologia non è né buona né cattiva, ma non è nemmeno neutrale. La storia digitale ci ha insegnato che di solito costruiamo prima il mercato e poi, in affanno, i diritti per limitarlo. Con l’intelligenza artificiale avremmo, per una volta, la possibilità di invertire l’ordine.
Servirebbe allora un principio più ambizioso della semplice protezione dei dati. Potremmo chiamarlo sovranità dell’interiorità cognitiva. Vuol dire riconoscere che c’è una differenza fra usare un sistema per pensare e concedere a qualcuno un diritto permanente sul processo con cui abbiamo pensato. Vuol dire poter decidere che cosa un assistente ricorda, per quanto tempo, con quale scopo, quali inferenze può costruire e, soprattutto, quali non dovrebbe essere autorizzato a costruire nemmeno quando gli è tecnicamente possibile.

La sfida non sarà rinunciare agli assistenti personali, che diventeranno probabilmente troppo utili per farne a meno, ma sarà costruirne di capaci di conoscerci a fondo senza trasformare quella conoscenza in un potere su di noi. Ieri cercavamo di proteggere i nostri dati, domani dovremo imparare a proteggere i nostri pensieri. Ma la parte più difficile sarà difendere qualcosa di ancora più fragile: lo spazio in cui non abbiamo ancora deciso che cosa pensare e questo è proprio il perimetro su cui ci incominceremo a muovere con gli attuali modelli di IA, che sempre di più esplorano lo spazio della cosiddetta Intelligenza Artificiale Generale.

© Riproduzione riservata

Carlo Maria Medaglia