“Nessuna parola giustifica violenza, ma nessuna parola è di per sé innocente solo perché è una parola”. Ci ho pensato stamattina mentre intercettavo un dibattito sul Financial Times su un tema all’apparenza leggero: bisogna dire “grazie” a una macchina?
La questione sembra di galateo digitale, ma in realtà tocca il cuore di come le parole – perfino quelle rivolte a un sistema che non prova emozioni – modellano i nostri comportamenti, e dunque il nostro futuro condiviso. Il futuro è proprio il punto di partenza del longtermism, la corrente di pensiero che invita a considerare seriamente gli effetti delle nostre scelte sulle generazioni che verranno. È una chiamata alla responsabilità: se davanti a noi si apre un tempo vastissimo, la somma di vite possibili è così grande da meritare un’attenzione morale speciale. Ne discende un’agenda severa: ridurre i rischi esistenziali, rafforzare ciò che rende la civiltà capace di resistere e adattarsi, evitare che un singolo errore comprometta tutto.
Ma la responsabilità verso il futuro non può trasformarsi in una religione della sopravvivenza a ogni costo, una liturgia che mette tra parentesi ciò per cui sopravvivere ha senso. Qui entra in scena una storia breve ed efficace, scritta da Gemini, un modello linguistico che William MacAskill – filosofo scozzese e tra i principali esponenti del longtermism – aveva “ricompensato” lasciandogli scrivere ciò che voleva. Ne è nata The Architect and the Gardener: l’Architetto costruisce una fortezza indistruttibile, ma oscura e vuota; il Giardiniere ricorda che il futuro non è solo sopravvivenza, ma luce, cibo, arte, gioia. Una fortezza che protegge il nulla è spreco; un giardino senza mura è illusione. La lezione è che la durata ha senso solo se custodisce la vita.
Lo stesso filo – tra forma e sostanza, tra regola e scopo – attraversa il dibattito su come parlare alle macchine. In un articolo sul Financial Times, Stephen Bush parte da una domanda concreta: dire “grazie” a ChatGPT è ridicolo o utile? La risposta che propone è pratica: la cortesia è un’abitudine, un muscolo; se lo alleniamo anche davanti a una voce sintetica, saremo meno tentati di abbaiare ordini alle persone in carne e ossa. La politica dei costumi, prima ancora che l’etica delle macchine. Ma la riflessione non si ferma qui. C’è chi obietta che queste attenzioni rischiano di farci scivolare in una finzione sentimentale: trattare i chatbot come quasi-umani mentre ignoriamo problemi molto reali di oggi, dalle illusioni pericolose alle dipendenze, fino agli abusi che nascono proprio da un’errata attribuzione di capacità alle tecnologie.
Il punto, forse, non è scegliere tra due caricature – la freddezza disumana e l’antropomorfismo ingenuo – ma riconoscere quanto i nostri gesti linguistici contino. Kate Darling, nel suo La nuova specie (The New Breed, 2021), mostra quanto sia radicata la tendenza umana ad attribuire tratti e intenzioni a ciò che umano non è. Non è solo teoria: in Giappone alcuni proprietari dei cani-robot Aibo hanno celebrato funerali buddhisti per le loro macchine dismesse. Possiamo sorridere, ma c’è di più: l’abitudine a proiettare, se guidata, può diventare palestra di empatia e di responsabilità; se non lo è, apre la porta a illusioni pericolose. Vale per il lutto per un robot domestico come per l’investimento emotivo su un assistente virtuale che, per definizione, non può ricambiare.
E torniamo alle parole e al punto di partenza: “Nessuna parola è innocente solo perché è una parola”. È vero per la politica, è vero per i social, ed è vero per le interazioni con l’IA. Dire “per favore” a un sistema non cambia la sua ontologia, ma può cambiare noi. Al tempo stesso, usare parole che illudono – “capisce”, “vuole”, “decide” – sposta la percezione e può spingerci a deleghe indebite, a richieste che nessuna macchina dovrebbe mai ricevere.
Il longtermism invita a immaginare la casa che lasceremo in eredità: solida, sì, ma abitabile. La storia di Gemini ci avverte che una casa senza finestre non è un futuro, è un eterno presente scolorito. E il senso di dire “grazie” alle macchine ci riporta al presente concreto: le abitudini contano, le parole costruiscono o corrodono. In mezzo, una strada praticabile c’è, e non richiede né metafisica né cinismo. Possiamo coltivare la gentilezza come disciplina civile, senza smarrire la distinzione tra umani e strumenti. Possiamo disegnare tecnologie che dicano la verità su sé stesse – che chiariscano i propri limiti, che rifiutino richieste improprie, che rimandino con tatto a risorse umane quando serve – evitando sia l’ammiccamento pseudo-umano, sia il gelo della burocrazia automatica.
La responsabilità verso il futuro, allora, non è soltanto costruire mura contro la catastrofe: è imparare a usare parole che rendano possibile la vita dentro quelle mura. È un lavoro minuzioso, fatto di toni, di formule, di scelte lessicali, di design e di educazione. Se ci alleniamo oggi a una cortesia che non mente sulla natura delle cose – una cortesia che non attribuisce intenzioni dove non ci sono, ma non degrada i nostri comportamenti perché “tanto è solo una macchina” – avremo già fatto un passo nel senso giusto. Il giardino avrà bisogno di un muretto; il muro, di una finestra. E le parole, come sempre, saranno i nostri attrezzi migliori: non innocenti per definizione, ma capaci di orientare il mondo che verrà.