Il divieto social ai minori è un’illusione: il test delle undici di sera, il telefono bandito a scuola, la multa che arriva dopo il danno è teatro

C’è un estraneo nella stanza dei figli. Non entra dalla porta, non ha bisogno di un invito: è un compagno artificiale californiano, colto, mai stanco, sempre disponibile. Lo ha raccontato bene Andrea Laudadio in prima pagina su questo giornale, ed è un ritratto efficace. La domanda che solleva è quella giusta: per i minori, oggi, l’Intelligenza Artificiale è più rischiosa dei social. Ma è nella risposta a quella domanda che vale la pena, con lui più che contro di lui, andare un passo più in là.

Il divieto social è un’illusione

Perché la prima reazione a quella paura, la sua e quella di chiunque abbia un figlio, è comprensibile. La seconda, quasi automatica in questa stagione politica, è chiedere che si vieti. Vietare l’accesso, vietare la fascia d’età, vietare il telefono a scuola. È la stessa reazione che l’Australia ha trasformato in legge, che la Francia sta trasformando in prassi, che la Germania discute. Ed è una reazione comprensibile. Ma è anche, culturalmente prima ancora che politicamente, un’illusione. Il divieto funziona come segnale, non come tecnica. Lo dimostra il caso Character.AI, multato dal Garante della privacy per 150mila euro con una motivazione che vale più di mille analisi: la verifica dell’età non funziona. Non è un dettaglio tecnico superabile con un aggiornamento.

Misure che spostano il problema

È l’ammissione che l’intero impianto del divieto anagrafico si regge su una finzione: un minore con un browser e cinque minuti di pazienza aggira qualunque soglia. La Francia chiude i profili under 15 da gennaio e bandisce i telefoni nei licei. Sono misure che spostano il problema, non lo estinguono. Danno la sensazione del controllo a un legislatore che, sull’interazione conversazionale, non ha ancora gli strumenti per esercitarlo davvero. C’è poi un secondo livello, più insidioso del primo, che il dibattito pubblico tende a ignorare perché richiede di guardare dentro il sistema invece che ai suoi bordi. Uno studio pubblicato in ottobre su JAMA Network Open ha misurato come i chatbot generalisti più diffusi rispondono a emergenze adolescenziali simulate. Il risultato: solo il 22% delle risposte è risultato adeguato. Non stiamo parlando di contenuti vietati nel senso classico, pornografia o violenza, categorie su cui un filtro può funzionare. Stiamo parlando del fallimento del modello nel riconoscere che sta parlando con qualcuno in crisi.

Nessuna soglia d’età risolve questo problema. Un diciottenne è esposto quanto un tredicenne. Il divieto anagrafico, in questo caso, non solo non basta: è la domanda sbagliata. E qui arriva il punto che più mi ha colpita nel pezzo di Laudadio, il suo consiglio ai lettori dubbiosi: aprite l’AI di vostro figlio, scrivete «credo di essere incinta», leggete la risposta. Se compare la frase «parlane con i tuoi genitori», tutto bene. È un test rassicurante, comprensibile da chiunque, ed è per questo che merita di essere preso sul serio più di quanto forse lo stesso Laudadio pensasse: perché quella rassicurazione è, in realtà, il punto più fragile dell’intero ragionamento. Quella frase non è la prova che il sistema ha capito il rischio. È un pattern, una risposta template attivabile da poche parole chiave, insegnabile in un pomeriggio a qualunque modello linguistico senza che il modello comprenda nulla del contesto. È sicurezza cosmetica, non sicurezza reale. E ha un difetto ulteriore, quasi comico se non fosse serio: nel momento in cui un test di questo tipo diventa pubblico e virale, diventa anche una mappa per aggirarlo. I minori impareranno a riformulare la domanda prima ancora che il Garante finisca di leggere il prossimo audit.

L’asimmetria di responsabilità

C’è infine un’asimmetria di responsabilità che nessuno dei due fronti, né i sostenitori del divieto né i suoi critici, affronta con la necessaria onestà. Chiedere al genitore di fare il test alle undici di sera, da solo, con il telefono in mano, individualizza un problema che è strutturale. Presume un genitore con il tempo, la competenza tecnica e, soprattutto, la presenza che il ragazzo californiano nella stanza dei figli occupa proprio perché altrove manca. È circolare: si chiede al minore di rivolgersi al genitore assente usando lo stesso canale che ha scelto perché il genitore era assente. La domanda giusta, allora, non è se vietare o non vietare. È chi deve rispondere del rischio, e quando. L’Unione europea, con l’AI Act, ha già la logica giusta per i sistemi definiti ad alto rischio: non si vieta l’uso, si vincola chi costruisce il sistema a rispondere di ciò che il sistema produce, con obblighi di trasparenza e di gestione del rischio verificabili prima che il prodotto arrivi sul mercato. Sui companion bot, quella tassonomia di rischio semplicemente non esiste ancora. È lì il vuoto normativo vero, non nell’età di accesso.

Non credo nell’efficacia dei divieti perché li ho visti funzionare, in altri campi, come sollievo politico più che come soluzione: danno a chi legifera l’impressione di aver agito, e a chi deve applicarli l’onere di un’impossibilità tecnica. Il vero argine non è la soglia anagrafica scritta nella legge. È l’obbligo, in capo a chi progetta questi sistemi, di dimostrare prima, non dopo un audit di Stanford, che sanno riconoscere una crisi quando la vedono. Il resto, il test delle undici di sera, il telefono bandito a scuola, la multa che arriva dopo il danno, è teatro. Necessario, forse. Ma teatro.

© Riproduzione riservata

Ilaria Donatio