La corsa alla superintelligenza sembra avere una nuova regola non scritta: nessuno vuole essere il primo a fermarsi. Ma cosa accade quando a lanciare l’allarme sono proprio gli scienziati che quella corsa la conoscono dall’interno? Ne parliamo con Derrick de Kerckhove, sociologo canadese naturalizzato italiano, tra i massimi esperti mondiali delle conseguenze sociali e culturali delle tecnologie.

C’è un’immagine che torna alla mente ogni volta che la scienza si avvicina a un confine difficile da governare: quella di J. Robert Oppenheimer, il fisico che contribuì alla costruzione della bomba atomica e che poi si trovò a fare i conti con la potenza distruttiva della propria creatura. Una figura diventata il simbolo di una contraddizione ancora attuale: l’essere umano che inventa strumenti per difendersi, prevalere o migliorare la propria condizione e che, nello stesso tempo, finisce per mettere a rischio la propria sopravvivenza.

Oggi quella contraddizione sembra ripresentarsi sotto una forma diversa, più sfuggente e forse ancora più pervasiva. Non c’è una bomba da sganciare, né un singolo istante in cui premere un pulsante. C’è una tecnologia – quella dell’intelligenza artificiale –  che apprende, produce, decide, si integra nei sistemi economici, militari e informativi e che, secondo alcuni dei suoi stessi ricercatori, potrebbe sviluppare capacità difficili da controllare.

Le recenti dimissioni di Jacob Coxon da Anthropic hanno riportato al centro una domanda che non riguarda soltanto il futuro dell’intelligenza artificiale, ma il presente delle aziende che la stanno costruendo. Coxon ha accusato Anthropic e OpenAI – le due principali aziende di IA –   di «giocare d’azzardo» con il futuro dell’umanità nella corsa alla superintelligenza. A queste parole si sono aggiunte quelle di Evan Hubinger, ricercatore di Anthropic, che ha indicato una probabilità superiore al 10% di un rischio estintivo nei prossimi anni. Percentuali, allarmi e valutazioni che non possono essere trattati come profezie, ma che sarebbe altrettanto superficiale liquidare come semplice fantascienza o marketing.

La questione, infatti, non è soltanto capire se una macchina potrà un giorno diventare più intelligente dell’uomo. È capire cosa accade quando la competizione economica e geopolitica spinge aziende e Stati a sviluppare sistemi sempre più potenti, mentre le regole per governarli restano indietro. E soprattutto quando chi lavora dentro questi laboratori comincia a chiedersi se la ricerca del progresso stia correndo più veloce della capacità di comprenderne le conseguenze.

Per affrontare queste domande abbiamo intervistato Derrick de Kerckhove, sociologo canadese, oggi anche italiano, che vive a Roma, dove è direttore scientifico della rivista Media Duemila e dell’Osservatorio TuttiMedia. Tra il 1983 e il 2008 ha diretto il programma McLuhan sulla cultura e la tecnologia all’Università di Toronto. Da decenni applica i metodi della sociologia allo studio delle conseguenze psicologiche, sociali, economiche e politiche delle tecnologie della comunicazione.

Autore di libri come Brainframes: Technology, Mind and Business, La pelle della cultura e L’intelligenza connettiva, de Kerckhove ha continuato a interrogarsi sulle trasformazioni prodotte dalla tecnologia con opere più recenti come Dopo Orwell il gemello digitale, scritto con Maria Pia Rossignaud, The Quantum Ecology, pubblicato dal MIT Press nel 2024 con Stefano Calzati, e L’uomo quantistico, uscito per Rai Libri nel 2025.

Con lui proviamo a capire cosa ci sia davvero dietro gli allarmi provenienti dai laboratori di intelligenza artificiale, quanto siano scientificamente fondati i rischi evocati, cosa stia accadendo alla mente e alla cultura umana e quali strumenti possano impedire che la tecnologia diventi un’autorità alla quale deleghiamo, senza accorgercene, anche la responsabilità delle nostre decisioni.

Perché il paradosso di Oppenheimer, forse, non è scomparso. Ha semplicemente cambiato forma. E la domanda non è più soltanto se saremo capaci di costruire qualcosa di più potente di noi, ma se saremo ancora capaci di governarlo.

1. Le dimissioni di Jacob Coxon da Anthropic e le sue accuse a OpenAI ed Anthropic di ‘scommettere con la vita delle persone’ per vincere la corsa alla superintelligenza indicano un malessere interno ai laboratori di ricerca. Cosa sta succedendo davvero all’interno delle big tech dell’intelligenza artificiale? 

Le dimissioni di Jacob Coxon non indicano che ci sia un complotto all’interno delle grandi aziende dell’intelligenza artificiale. Rivelano piuttosto una contraddizione profonda del sistema. Coxon ha lavorato allo sviluppo dei modelli sia in OpenAI sia in Anthropic e, lasciando Anthropic, ha sostenuto che queste aziende stanno correndo verso sistemi sempre più potenti senza avere ancora la certezza di poterli controllare.

Il punto interessante è che questa preoccupazione esiste anche all’interno dei laboratori stessi. Molti ricercatori possono essere sinceramente convinti che una futura superintelligenza comporti rischi enormi e, nello stesso tempo, continuare a lavorare per svilupparla. Perché? Perché il timore è che se la propria organizzazione rallenta, sarà un concorrente ad arrivare per primo.

È quello che definirei il “paradosso di Cassandra imprenditoriale”: si vede il possibile pericolo, ma proprio perché lo si considera reale si vuole arrivare prima degli altri, nella convinzione che la tecnologia sarà più sicura nelle proprie mani che in quelle del concorrente.

Il vero problema, quindi, non è tanto psicologico quanto istituzionale. La competizione crea un sistema nel quale fermarsi o rallentare per ragioni etiche può trasformarsi immediatamente in uno svantaggio competitivo. Anche persone intelligenti, responsabili e realmente preoccupate per le conseguenze possono così essere spinte ad accelerare.

La contraddizione è molto semplice in quanto  tutti possono pensare che sarebbe più sicuro rallentare, ma nessuno vuole essere l’unico  o il primo. Ed è probabilmente questo il malessere più profondo che oggi attraversa i grandi laboratori dell’intelligenza artificiale.

2. Oltre al rischio fisico estintivo, cosa succede alla mente e alla cultura umana quando deleghiamo la ricerca e il pensiero a sistemi capaci di auto-migliorarsi?

La prima distinzione da fare è tra esternalizzare un’operazione ed esternalizzare il giudizio. Abbiamo sempre delegato memoria e calcolo: alla scrittura, alla biblioteca, alla stampa, alla calcolatrice. Socrate temeva che la scrittura indebolisse la memoria; McLuhan ha mostrato che ogni estensione tecnica comporta anche un’amputazione. Ma l’IA generativa introduce qualcosa di diverso: non conserva soltanto il pensiero; può anticiparne la formulazione, organizzare gli argomenti e persino proporre la domanda. Il rischio non è dunque che l’essere umano “non pensi più”, ma che perda la percezione di dove il pensiero abbia avuto origine e di chi debba risponderne. Non dobbiamo quindi vietare la delega, ma renderla reversibile e responsabile. La catastrofe culturale potrebbe precedere quella fisica: non quando la macchina pensa meglio di noi, ma quando noi smettiamo di sentirci responsabili del pensiero che essa produce per noi.

3. Evan Hubinger, altra esperita di Anthropic, ha stimato oltre il 10% la probabilità di un rischio catastrofico o estintivo nei prossimi anni. Da dove nasce questa percentuale e quanto c’è di rigore scientifico rispetto alla percezione emotiva?

Occorre essere precisi: Hubinger, responsabile di un gruppo di ricerca sull’allineamento in Anthropic, non ha comunicato una misura ufficiale dell’azienda. Ha espresso un’idea personale. Oggi, evidentemente non possiamo avvalerci di dati certi perché non esiste una serie storica di “superintelligenze sfuggite al controllo”.  Non parliamo di temperature o probabilità di pioggia. Mi viene in mente un ingegnere che osserva crepe in una diga mai sottoposta a una piena. Non può predire il momento del cedimento; può però sostenere che ignorare le crepe sarebbe irresponsabile.

4. Molti sostengono che questi allarmi siano solo marketing o speculazioni teoriche. Dove finisce il dibattito scientifico legittimo e dove inizia la narrazione mediatico-apocalittica?

Il dibattito scientifico diventa narrazione apocalittica quando trasforma ogni comportamento anomalo in una “volontà di sopravvivere”, converte un benchmark in una profezia o assegna una data esatta all’estinzione senza rendere esplicita la catena delle supposizioni. L’International AI Safety Report 2026, coordinato da Yoshua Bengio con più di cento esperti, mantiene questa distinzione: rileva forme rudimentali di comportamenti pertinenti alla perdita di controllo, ma precisa che i sistemi attuali non le manifestano stabilmente e che una vera perdita di controllo richiederebbe molte capacità combinate, mantenute nel tempo e in ambienti reali.

Ma un conflitto d’interessi non rende automaticamente falso un argomento. Bisogna giudicare le prove, non soltanto le intenzioni. La posizione più ragionevole è: né “l’estinzione è prossima”, né “è soltanto marketing”, ma “l’incertezza è troppo grande per lasciare la decisione ai soli produttori”.

5. Il parallelo con Robert Oppenheimer e della bomba atomica è stringente. Quali sono le vere analogie e quali le differenze nella natura del rischio?

Il parallelo con Oppenheimer è suggestivo, ma va usato con cautela. In realtà, Coxon assomiglia forse più a Leo Szilard e agli scienziati del Franck Report, che cercarono di mettere in guardia sulle conseguenze della bomba atomica prima che venisse utilizzata, che all’Oppenheimer tormentato dalle conseguenze dopo Trinity.

L’analogia fondamentale è questa: in entrambi i casi gli scienziati si trovano a sviluppare una tecnologia di enorme potenza prima che la società abbia costruito istituzioni e regole adeguate per governarla. E in entrambi i casi esiste la stessa pressione: se noi rallentiamo, qualcun altro potrebbe arrivare prima. Durante il Progetto Manhattan il timore era che la Germania nazista potesse costruire la bomba; oggi, nella corsa all’intelligenza artificiale, ogni grande laboratorio teme di essere superato dagli altri, come ho detto prima.

Ma qui finiscono, in buona parte, le analogie. La bomba atomica è un’arma; l’intelligenza artificiale è una tecnologia generale. Della bomba conosciamo il meccanismo distruttivo: libera in pochi istanti una quantità enorme di energia. Il rischio dell’IA avanzata, invece, è molto meno determinato. Dipende da ciò che questi sistemi saranno capaci di fare, dal grado di autonomia che acquisiranno e, soprattutto, da quanto potere saremo disposti ad affidare loro.

C’è poi un’altra differenza fondamentale. Una bomba atomica richiede materiali fisici molto particolari, come uranio altamente arricchito o plutonio, e ha un momento relativamente preciso in cui viene utilizzata. L’intelligenza artificiale, invece, entra progressivamente nella società. Viene distribuita, aggiornata e incorporata nei sistemi economici, militari, informativi e politici. Non produce necessariamente una catastrofe in un singolo istante: può modificare poco alla volta il modo in cui prendiamo decisioni e governiamo energia, armi, informazione e perfino gli esseri umani.

Per questo eviterei di definire l’intelligenza artificiale semplicemente come «la nuova bomba atomica». La metafora più interessante è forse quella dell’apprendista: costruiamo uno strumento che diventa progressivamente più capace e che può persino aiutarci a costruire la generazione successiva di strumenti ancora più potenti. Il punto è che. una cosa sta già accadendo: mentre l’apprendista diventa più capace, il maestro comincia a dipendere sempre di più da lui. Ed è forse qui che si trova la differenza più profonda rispetto alla bomba atomica: il pericolo non consiste soltanto nella potenza della tecnologia, ma nella progressiva cessione alla tecnologia delle nostre capacità di decidere e di controllare.

6. Di fronte ad aziende e nazioni che non rallentano, quali strumenti di governance o regolamentazione culturale e politica sono realisticamente attuabili per proteggerci?

Una moratoria mondiale sull’intelligenza artificiale mi sembra oggi poco realistica: sarebbe difficile ottenere l’accordo di tutte le grandi potenze e ancora più difficile verificare che tutti lo rispettino. È invece possibile introdurre freni selettivi, legati alle capacità e ai rischi concreti dei sistemi più avanzati.

L’Europa sta cercando di costruire un primo sistema di controllo attraverso l’AI Act e l’AI Office. Ma le leggi, da sole, non bastano. Abbiamo bisogno anche di una regolamentazione culturale: non censurare l’intelligenza artificiale, ma educare la società a usarla senza delegarle automaticamente autorità e responsabilità.

Questo significa, per esempio, sapere quando una decisione importante è stata presa o mediata da un’IA, poter chiedere l’intervento di una persona nei settori essenziali e rendere riconoscibili e tracciabili i contenuti sintetici. E significa soprattutto cambiare l’educazione: non insegnare soltanto a usare bene l’IA, ma a verificarla, metterla in dubbio e assumersi la responsabilità di ciò che si produce con il suo aiuto.

La questione fondamentale, quindi, non è decidere se credere o meno alle previsioni più catastrofiche sulla superintelligenza. La domanda politica è molto più semplice: chi ha dato a poche aziende il mandato di correre, a nome di tutti, un rischio le cui conseguenze potrebbero riguardare tutti?

Per questo non dobbiamo preparare gli esseri umani a una gara di intelligenza contro le macchine, ma dobbiamo invece stabilire quali decisioni e quali responsabilità devono restare umane. Perché il problema decisivo non sarà soltanto chi è capace di pensare meglio, ma chi risponde delle conseguenze quando una decisione diventa realtà.

Giovanni Salzano