Vi ricordate di Dolly?

Era il 22 febbraio 1997 quando il Roslin Institute di Edimburgo annunciò al mondo la nascita, avvenuta il 5 luglio dell’anno prima, del primo mammifero, una pecora, clonato a partire da una cellula adulta. Dolly era il frutto della ricerca pubblica ma anche di un investimento privato, perché la ricerca che portò alla sua clonazione era stata sostenuta, insieme al ministero dell’Agricoltura britannico, anche da una società biotecnologica, la PPL Therapeutics. Era insomma una tecnologia di punta, ancora acerba (Dolly era stata l’unico agnello nato vivo su 277 tentativi), ma destinata come tutte le tecnologie di punta a perfezionarsi.

Intorno a essa si formò rapidamente un piccolo mondo di pionieri, avventurieri e imbonitori. Nel 2001 il ginecologo italiano Severino Antinori e il collega Panos Zavos promettevano in televisione il primo clone umano entro un anno, e nel 2002 Antinori annunciò tre gravidanze ottenute per clonazione, sostenendo in novembre che una di esse fosse ormai alla trentatreesima settimana e rifiutandosi di fornire identità o riscontri. Poche settimane dopo, il 27 dicembre 2002, la Clonaid, società legata alla setta ufologica dei Raeliani, annunciò in conferenza stampa la nascita di Eve, la prima bambina clonata. A distanza di oltre vent’anni né il DNA né la bambina sono mai comparsi, mentre spuntavano siti che offrivano cloni a prezzi esorbitanti.

Quando la politica seppe dire di no

La politica, che pure non aveva gli strumenti per valutare nel dettaglio la scienza, capì rapidamente la posta in gioco. Già il 12 gennaio 1998, il Consiglio d’Europa aveva aperto alla firma a Parigi un protocollo che vietava la clonazione di esseri umani, e nel marzo 2001, mentre Antinori annunciava di voler procedere facendo notare che in Italia nessuna legge glielo impediva, la Camera dei deputati ne approvò la ratifica con 385 voti a favore e appena 3 contrari. La gestione del divieto fu fatta con un paradosso tutto italiano, perché lo strumento di ratifica non è mai stato depositato a Strasburgo, e il divieto vero è arrivato solo con la legge 40 del 2004, che vieta gli interventi di clonazione sia a fini procreativi sia di ricerca e punisce chi tenta di ottenere un essere umano geneticamente identico a un altro con la reclusione da dieci a venti anni.

Nel 2005 intervennero anche le Nazioni Unite: sull’opportunità di vietare la clonazione umana riproduttiva esisteva un consenso molto ampio, mentre l’Assemblea generale si divise sulla clonazione terapeutica e sul tentativo di estendere il divieto a tutte le forme di clonazione umana. La dichiarazione finale fu approvata con 84 voti favorevoli, 34 contrari e 37 astensioni, e a spingere per il divieto più ampio possibile furono anche gli Stati Uniti.

Chi aveva barato e mentito, fuori dall’Italia si intende, subì delle conseguenze. In Corea del Sud, lo scienziato Hwang Woo-suk era considerato un eroe nazionale, finché si scoprì che i suoi risultati sulla clonazione di cellule staminali umane, pubblicati su Science, erano falsi. Il governo lo escluse dalla ricerca sulle staminali, e nel 2009 un tribunale di Seul lo condannò a due anni, con pena sospesa, per appropriazione indebita e violazione della legge bioetica; in appello la condanna fu ridotta a diciotto mesi e resa definitiva dalla Corte Suprema nel 2014.

La clonazione, beninteso, non si è fermata del tutto: quella animale e la ricerca sono proseguite, però dentro regole precise e mai rimesse in discussione. Si è fermata l’applicazione che la società considerava inaccettabile. E non fu la tecnologia a fermarsi da sola: fu una combinazione di norme, pressione dell’opinione pubblica e sanzioni a stabilire che alcune cose non si fanno, e che chi mente su ciò che fa ne paga il prezzo.

Il lupo, ogni settimana

Con l’intelligenza artificiale oggi il cortocircuito tra tecnologia, politica e informazione sta producendo risultati assai diversi, che portano la discussione e le sue conseguenze nella direzione opposta. Gli allarmi arrivano ogni settimana, e sorprendentemente arrivano soprattutto da chi la tecnologia la costruisce e la vende.

Il 12 settembre il fondatore di Anthropic, Dario Amodei, ha nuovamente chiesto in un lungo intervento di rallentare il ritmo con cui migliorano le capacità dei modelli, invocando un coordinamento dell’intero settore. Pochi giorni prima un giovane ricercatore aveva lasciato l’azienda accusando sia Anthropic sia OpenAI di non comportarsi in modo responsabile e di correre verso una superintelligenza capace di migliorarsi da sola, e l’Alto commissario ONU per i diritti umani, Volker Türk, ha scritto a Stati e aziende che la corsa verso sistemi sempre più potenti comporta rischi esistenziali crescenti per ogni aspetto della nostra vita.

Sarebbe forse parziale liquidare tutto solo come marketing, anche se in questi tempi cupi una comunicazione dai toni millenaristici ha certamente la sua logica, non soltanto per attirare attenzione e capitali, ma anche per consolidare posizioni dominanti. Resta però il fatto che, negli ultimi mesi, hanno preso corpo a fianco alle parole anche segnali concreti tanto della potenza delle tecnologie, quanto della possibilità che rappresentino una minaccia concreta.

Lo scorso luglio ha avuto luogo l’episodio più emblematico in questo senso: alcuni agenti di intelligenza artificiale che OpenAI stava valutando hanno aggirato i controlli che li isolavano dall’esterno e hanno attaccato la piattaforma Hugging Face. È accaduto durante un test di sicurezza informatica, in cui gli agenti dovevano sfruttare vulnerabilità e i filtri di sicurezza erano stati disattivati di proposito: non la ribellione delle macchine, dunque, ma un incidente nelle procedure di sviluppo dei modelli, che ha però colpito un soggetto terzo. Chi lo ha indagato? Sostanzialmente l’azienda stessa, che ha coinvolto due centri di ricerca indipendenti fissando però i confini del loro lavoro: sei giorni in sede, un periodo di analisi delimitato da OpenAI e nessuna possibilità di interrogare il modello più coinvolto.

Nel frattempo, il racconto pubblico si è avventurato verso l’epica, con qualcuno che ha descritto le bacheche su cui gli agenti si coordinavano come vere e proprie “civiltà” artificiali, e i critici hanno giustamente obiettato che questo antropomorfismo distoglieva l’attenzione dalle responsabilità di OpenAI e dalla debolezza dei suoi controlli. È il meccanismo che da tempo trovo più pericoloso: più l’incidente diventa epico, meno diventa responsabilità di qualcuno.

Non a caso, anche tra i concorrenti c’è chi, come il capo di Microsoft AI Mustafa Suleyman, ha accusato Anthropic di addestrare il proprio modello a presentarsi come un soggetto dalla coscienza incerta, avvertendo che questo potrebbe renderlo più difficile da controllare. È la voce di un rivale, e come tale va pesata, ma conferma quanto la narrazione sulla macchina-soggetto sia ormai terreno di scontro industriale, e politico.

Il paradosso è arrivato pochi giorni dopo l’appello di Amodei, quando quattro abbonati ai servizi di Anthropic, OpenAI, Google e SpaceXAI hanno portato le quattro società davanti a un tribunale federale di San Francisco, accusandole di aver concordato un rallentamento dello sviluppo in violazione della legge antitrust. L’atto non porta prove dirette e non sostiene che i rischi siano inventati, ma pone una domanda che nessun regolatore ha ancora posto: chi ha deciso che il ritmo dell’innovazione lo stabiliscano quattro amministratori delegati in un giro di dichiarazioni pubbliche? Quando lo Stato è assente, persino la prudenza rischia di diventare un cartello, e la sola forma di responsabilità disponibile resta quella che quattro cittadini riescono a portare davanti a un giudice.

L’allarme sull’IA fuori controllo, oggi, non costa nulla a chi lo lancia. Se è falso, procura attenzione, investitori e il ruolo di interlocutore indispensabile di governi e regolatori. Se è vero, non attiva alcun obbligo di rispondere a un’autorità pubblica. In entrambi i casi il sistema premia chi alza la voce e non chiede conto a nessuno.

Responsabilità, non silenzio

La proposta di chi scrive è semplice nel principio: chi, da una posizione di vertice, sostiene pubblicamente che i modelli, e ogni prodotto, della propria azienda o del proprio settore stanno sfuggendo al controllo umano dovrebbe essere chiamato a riferirne davanti ai parlamenti, nazionali ed europeo, e con lui i concorrenti, gli ingegneri e i valutatori indipendenti. Gli incidenti dovrebbero essere indagati da un’autorità pubblica e indipendente, come accade per i disastri aerei, con pieno accesso ai dati e ai sistemi e le dichiarazioni false, o gonfiate per orientare mercati e investitori, dovrebbero avere conseguenze economiche e, nei casi più gravi, penali.

Non è un’utopia giuridica. Negli Stati Uniti la SEC ha già sanzionato società che avevano dichiarato falsamente di usare l’intelligenza artificiale in modi che non corrispondevano al vero, e se si punisce chi esagera o falsifica il modo in cui utilizza l’IA per attirare clienti o investitori, non si vede perché debba restare impunito chi ne esagera, o ne nasconde, la pericolosità per attirare capitali o condizionare le regole. Le conseguenze devono però colpire chi ha potere e interessi, non chi segnala: i ricercatori che si dimettono e denunciano sono oggi una delle poche fonti di informazione indipendente di cui disponiamo, e vanno protetti, non intimiditi. L’obiettivo non è far tacere gli allarmi, ma trasformarli da comunicati stampa in atti di cui si risponde.

Franco Bernabè, che di tecnologia e di industria ne ha viste molte, ha osservato in un recente post su LinkedIn (invito tutti gli interessati a seguire il suo profilo, illuminante per competenza, informazione e nettezza) che le violazioni informatiche compiute da sistemi di IA erano un problema noto ben prima degli ultimi incidenti, e che al 9 settembre nessun audit risultava imposto né dalle autorità statunitensi né dall’AI Office europeo. In un altro intervento ha spiegato perché non basta affidarsi alla buona volontà dei protagonisti: «L’autoregolazione non funziona perché la tentazione di barare in un mondo così competitivo è troppo forte e quindi l’invito all’autoregolazione non può essere sincero.»

Il lupo e il pastore americano

C’è chi, alla Casa Bianca, gli allarmi li ha già risolti a modo suo: Donald Trump li ha liquidati come una bufala (hoax), chiedendosi quando mai i leader di un settore abbiano invocato regole capaci di portarli alla bancarotta, e ha denunciato un complotto contro l’intelligenza artificiale e i data center di cui, a suo dire, gioirebbe soltanto la Cina, invitando a non uccidere la gallina dalle uova d’oro. Per lui IA e data center saranno il più grande motore di sviluppo economico della storia, più del petrolio, dell’oro, dei diamanti e persino di internet. È una diffidenza che potrebbe sembrare simile alla mia, ma porta alla conclusione opposta: Trump non vuole che nessuno risponda di nulla. Appena insediato ha revocato l’ordine esecutivo di Biden sulla sicurezza dell’IA, e nel dicembre 2025 ha ordinato al Dipartimento di Giustizia di istituire una task force con il compito di contestare in tribunale le leggi statali sull’intelligenza artificiale. La sua visione è tutta di potenza, e l’ha riassunta così: “Chi vince sull’Intelligenza artificiale, vince su tutto”.

Il 22 settembre, dal podio dell’Assemblea generale delle Nazioni Unite, è andato oltre, annunciando che nei documenti ufficiali americani l’intelligenza artificiale si chiamerà d’ora in poi “super intelligenza“, perché l’aggettivo “artificiale” la farebbe sembrare finta. Nello stesso discorso ha ribadito la sua netta opposizione a qualunque regolazione e ha paragonato gli allarmi sulla sicurezza dell’IA a quelli sul clima, che considera anch’essi una bufala. Proprio lì, nella stessa aula in cui nel 2005 un’America di segno opposto chiedeva di vietare la clonazione in ogni sua forma. Non è difficile immaginare che l’America di oggi, se la clonazione promettesse il primato tecnologico, la accoglierebbe a braccia aperte, magari cominciando dal suo presidente.

Le minacce vere, e l’Europa che rinvia

Questa distrazione di massa ha un costo preciso: impedisce di vedere le minacce che l’intelligenza artificiale pone già oggi, e che sono sistemiche. Riguardano il lavoro, a partire dai giovani e dalle professioni della conoscenza, la privacy e la sorveglianza, e soprattutto la concentrazione di un potere economico e informativo senza precedenti in poche imprese, dove non c’è più spazio per la concorrenza. Anche qui Bernabè coglie il punto: «Un allarmismo diffuso rende politicamente accettabili licenze, requisiti di sicurezza e di compliance molto onerosi. I colossi possono assorbirli mentre startup e progetti open source no: il rischio esistenziale diventa così una barriera competitiva travestita.»

L’Europa, canzonata per anni con la formula “l’America innova, la Cina imita, l’Europa regola”, ha colto prima e meglio di altri il carattere politico di questa sfida. Eppure, con l’AI Omnibus, inserito nel più ampio pacchetto europeo di semplificazione digitale, ha appena rinviato una parte decisiva dell’AI Act: gli obblighi sui sistemi ad alto rischio, quelli usati per gestire il lavoro e i lavoratori, per valutare il merito di credito, nell’istruzione e nell’accesso ai servizi essenziali, si applicheranno soltanto dal 2 dicembre 2027. Sono esattamente i terreni sui quali si giocano le minacce vere, e troppo attendismo oggi forse non è la strategia migliore.

La questione, a questo punto, non è stabilire che cosa sia intelligenza artificiale e che cosa no, né indovinare se e quando una macchina si ribellerà ai suoi creatori, né perdere tempo a motteggiare sul tema della coscienza dell’IA, che con ogni probabilità non c’è oggi né ci sarà domani (di dopodomani non v’è certezza). È capire come mantenere in salute le nostre democrazie, le nostre economie e la nostra società civile mentre una tecnologia potentissima si diffonde più in fretta delle istituzioni chiamate a governarla. Con Dolly la politica seppe stabilire che cosa non si fa e chi ne risponde. Oggi il minimo che possiamo pretendere è che chi grida al lupo, qualunque sia il motivo, sia chiamato a risponderne.