Le difficoltà che incontra la democrazia nell’affrontare una realtà sempre più complessa porta talvolta a pensare che sia meglio fare in modo che chiamati a decidere siano i pochi che dispongono dei saperi e delle conoscenze in grado di risolvere i problemi. La tentazione di lasciarsi alle spalle le oscurità, vaghezze e incertezze che sembrano costantemente ostacolare il corso ordinario della politica finisce perciò per far ritenere che la percezione dei problemi promossa dagli esperti debba imporsi contro quella fatta valere dai cittadini. Quanto più i problemi che deve affrontare sono ad alta complessità e perciò tali da richiedere sempre più alti livelli di conoscenza, tanto più il compito di decidere in modo informato va lasciato nelle mani di chi è in grado di padroneggiarne tutti gli aspetti pertinenti. Oggi, sostengono alcuni, una governance digitale a livello sistemico può rappresentare una opportunità per mettere fine a discussioni inconcludenti e a pregiudizi sottratti ad ogni verifica. La razionalità tecnica “incarnata” (si fa per dire) dall’intelligenza artificiale sembra infatti disporre delle capacità analitiche e prognostiche suscettibili di fornire orientamenti utili alla soluzione di compiti pratici, anche sostituendosi alle fallibili opinioni dei decisori politici.

Governance algoritmica

Ora, l’illusione di una governance algoritmica in grado di prendere il posto delle pratiche politiche ordinarie muove dall’ipotesi che un giorno l’intelligenza artificiale possa essere più intelligente di quella umana. Tuttavia, dal punto di vista dell’intelligenza politica, questo non è solo un errore, ma anche una previsione fuorviante. Basta considerare la natura della politica democratica per averne un diretto riscontro. Diversamente dalla logica computazionale, che funziona secondo un codice binario e opera inferenze di tipo logico-matematico (se A allora B) o statistico (B è correlato spesso ad A), la politica è un’attività in cui il ragionamento lineare e deduttivo non è prioritario e nella quale occorre gestire situazioni particolarmente ambigue in un quadro di grande incertezza. Sono queste caratteristiche a renderla molto diversa dalla logica algoritmica, che esige chiarezza, oggettività e accuratezza. Caratteristiche che, se da un lato frappongono ostacoli pressoché insuperabili al trattamento algoritmico delle questioni politiche, dall’altro sono anche il fondamento della democrazia.

Cosa non può l’intelligenza artificiale

L’idea che l’agire politico possa essere surrogato dalla tecnica e che l’intelligenza artificiale possa prendere decisioni al nostro posto è poco realistica. Non tanto, però, a causa di un ancora insufficiente grado di sviluppo, quanto, piuttosto, per l’incapacità della tecnologia, qualunque sia il suo livello di perfezionamento, di assumere funzioni rispetto alle quali non è adatta per sua stessa natura. Non si tratta di imporre divieti morali, ma di prendere atto che vi sono problemi di interesse pubblico che non possono essere risolti in modo adeguato dalle procedure algoritmiche. Il ricorso alla razionalità computazionale può essere un ottimo strumento se si tratta di affrontare situazioni complesse, determinate e specifiche, in particolare quelle che richiedono molti dati o grande precisione quando si misurano preferenze o impatti. Quando invece si tratta di affrontare situazioni complesse che derivano dalla natura ambigua e contingente delle circostanze politiche le cose sono diverse, se non altro perché in politica la questione verte spesso sulla definizione del problema piuttosto che sull’implementazione di una soluzione.

La logica 0/1

Gli algoritmi funzionano secondo la logica 0/1, che è l’esatto opposto dell’ambiguità. Anche quando lavorano con categorie di verosimiglianza, finiscono per ricorrere a risposte binarie, perché sono le uniche che possono essere informatizzate mediante categorie oggettive. Con la logica binaria è difficile gestire tutto ciò che è indistinto, indefinito, non formalizzabile o impreciso. Gli algoritmi sono adatti a navigare in circostanze definite o quantificabili, ma non sono in grado di mettere in discussione se qualcosa abbia senso o sia dotato di valore. Possono risolvere unicamente problemi predeterminati e capaci di essere tradotti in codici matematici. Non possono identificare un problema al di fuori del loro ambito predefinito o determinare cosa sia o non sia rilevante in ogni situazione, né definire ogni possibile scenario come rilevante o irrilevante. Si tratta di un limite estremamente significativo perché, se c’è se qualcosa che definisce la politica, al contrario ad esempio della razionalità amministrativa, è la sua disposizione ad affrontare realtà impreviste, costellazioni che non si adattano in tutto e per tutto alle previsioni standardizzate. L’automazione risponde a una logica poco adatta ai continui cambiamenti che le società aperte devono senza sosta affrontare.

Un limite significativo

La democrazia è una forma di organizzazione della vita collettiva che dispone di un repertorio illimitato di risposte a situazioni nuove. Vive di critica, di discussione sui mezzi e sui fini della vita associata, avendo bisogno di differenti alternative da considerare prima di decidere. Una governance algoritmica, inconsapevole dei propri limiti, commette fin dall’inizio l’errore di pensare di categorizzare con chiarezza situazioni sociali e soluzioni politiche, così da risolvere ogni cosa. Eppure, anche quando sappiamo tutto ciò che si può sapere, dopo aver discusso tutto il possibile, richiesto il parere autorizzato degli esperti, fatto ricorso a tutte le tecniche di datificazione disponibili, non è detto che ciò che si deve fare sia perfettamente chiaro. Per questo spetta sempre alla politica democratica l’ultima parola.

Edoardo Greblo, Luca Taddio

Autore