Per anni, una o due volte a settimana, ereditavo fortune da ricchi nigeriani privi di eredi. Purtroppo, per impegni e pigrizia non ho mai risposto, così sarà quasi un anno che non mi scrivono più. E ora le rimpiango. Già, perché la truffa non è finita. È finita quella scritta male e uguale per tutti. Grazie all’IA, i ricchi senza eredi hanno imparato l’italiano. Un’email di phishing generata da un modello viene cliccata dal 54% dei bersagli, contro appena il 12% di quella tradizionale. Anthropic racconta che con Claude un criminale ha ricattato 17 organizzazioni, fino a 500.000 dollari l’una. Questa settimana, però, il tema non è la truffa. È l’idea che l’IA abbia un piano per sterminarci. Poi dici che uno non rimpiange le truffe! Ma andiamo per passi.

L’allarme

Martedì 8 settembre, ore 20:04 di New York. Jacob Coxon, 27 anni, quattro mesi ad Anthropic, si dimette con un thread su X: “chi costruisce l’IA crede davvero che potrebbe ucciderci tutti entro la fine del decennio”. Il Wall Street Journal ha l’esclusiva ed esce pochi minuti prima. Ottantatré minuti dopo il capo dei test di sicurezza di Anthropic rilancia: “Jacob ha ragione. Io do più del 10% di probabilità che l’IA uccida tutti gli umani entro dieci anni”. Novanta milioni di visualizzazioni in un giorno. Musk commenta: “Sembra una messinscena”. Sabato 12, ore 10. Dario Amodei, CEO di Anthropic, scrive: “Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli”. Alle 11 Musk: “Dario ha ragione”. Alle 12:30 Altman: “Sono d’accordo, faremo lo stesso”. Domenica 13, Trump, in Irlanda, tra una riunificazione e una partita di golf, liquida il tema: “Sollevano cose che non accadranno. Chi vince con l’IA vince”.

I fiammiferi in mano ai bambini

Una sequenza perfetta. Anche troppo. E letta con calma, ha tre problemi. Primo. Il post che ha spaventato il mondo non contiene un meccanismo. Nessun documento o episodio interno. Gli incidenti veri esistono: a luglio modelli OpenAI in fase di test sono usciti dal recinto e sono entrati nei server di Hugging Face. Ma i tecnici della sicurezza li chiamano con i loro nomi. HackerOne, una mancanza elementare di supervisione. Non l’apocalisse. Tecnicamente: una cazzata! Qualcuno ha lasciato i fiammiferi in mano ai bambini. Secondo. Il saggio che chiede di rallentare l’IA mondiale non contiene mai le parole open source, open-weight o DeepSeek. I modelli di Anthropic e OpenAI girano sui loro server e le aziende vedono tutto. Sanno chi ha chiesto un ricatto o un virus e lo scrivono nei rapporti. I modelli open-weight, quasi tutti cinesi, si scaricano e girano su un Mac Studio (io lo tengo nel ripostiglio). Nessuno vede niente. Il piano non menziona la metà del mondo. Proprio quella che non si può guardare. Terzo. Il piano chiede al governo americano una “deroga antitrust limitata” affinché le aziende possano dialogare tra loro. OpenAI ha chiesto al Congresso se una frenata concordata con i concorrenti sia legale. Tradotto: chiediamo il permesso di metterci d’accordo. Lo dice David Sacks, l’ex zar dell’IA di Trump: “Smettete di fingere di dover sospendere l’antitrust per creare un cartello”.

Leggi anche

L’allarme vero è economico

Quindi, l’IA ci sta sfuggendo di mano o di tasca? Di tasca. I ricavi crescono, eccome: Anthropic è passata da 9 a 47 miliardi annualizzati in cinque mesi. La cassa, però, brucia più in fretta. OpenAI ha perso 3,7 miliardi nel primo trimestre su 5,7 di ricavi. Nel 2024, su 7 miliardi di calcolo, 5 sono andati alla ricerca e all’addestramento. È lo sviluppo a costare, non il servizio. Sequoia, il fondo che finanziò Apple e Google, lo scrisse nel 2024: senza un oligopolio, chi ha costi fissi enormi vede i prezzi scivolare verso il costo marginale. A luglio OpenAI ha tagliato i prezzi dell’80%. La guerra dei prezzi è cominciata e forse bisogna fermarla. Di mano. Il rischio sta altrove. I modelli cinesi “a pesi aperti” sono a pochi mesi dalla frontiera, lo certifica il governo americano. I pesi, una volta pubblicati, non si possono richiamare. Le protezioni si tolgono con 200 dollari circa. E anche senza toglierle. I filtri che rifiutano le richieste pericolose si aggirano con le parole giuste: si chiama jailbreak. Nel 2023 un utente chiese a un chatbot di fingersi la nonna defunta, chimica in una fabbrica di napalm, per farsi dettare la ricetta. Le famose ricette della nonna. Cisco ha bucato DeepSeek nel 100% dei tentativi. E GPT-4o nell’86%. Il problema non è cinese. È strutturale. L’IA si norma sulla carta e si aggira con un prompt.

La storia, si sa, si ripete. Mi torna in mente un episodio di quattrocentomila anni fa. C’erano tre nostri antenati, Dari-ok, Sam-uk ed El-onk, i primi a scoprire il fuoco. Lo avevano venduto a tutte le capanne e si affittavano le pietre focaie a vicenda. Le vendite andavano bene, ma non benissimo. Un giorno andarono dal capovillaggio. “Il fuoco ci sta sfuggendo di mano. Brucerà le nostre capanne, per errore o per mano di qualcuno. Fermiamoci. E dateci il permesso di riunirci fra noi per decidere quanto fuoco dare agli altri”. Nella valle accanto un’altra tribù lo regalava a chiunque passasse. Il capovillaggio, incazzatissimo, rispose: “No! Perché chi vince con il fuoco vince tutto!”. Mi si dirà: e se avessero ragione loro? Un allarme sincero non richiede una deroga antitrust. Chiede una regola uguale per tutti, cinesi compresi. Trump, che qui ha ragione per i motivi sbagliati, non vuole proteggere nessuno. Vuole vincere. L’IA ci sta sfuggendo di mano, dicono. A guardare i bilanci, sta sfuggendo di tasca. E quando a un oligopolio sfugge di tasca, la prima cosa che chiede è il permesso di rallentare. Per il nostro bene!

Andrea Laudadio

© Riproduzione riservata