L’antipasto potrebbe essere considerato il caso “Hugging Face”, registrato lo scorso luglio, ma i successivi allarmi, con addirittura le dimissioni di un ricercatore di Anthropic e la proposta di Sam Altman, co-fondatore e ceo di OpenAI, di rallentare lo sviluppo di una super-intelligenza artificiale, sono segnali inquietanti di uno scenario in cui l’AI smette di rispondere agli esseri umani e addirittura agisce contro il loro interesse.
Dai problemi già appurati, come quello della perdita di posti di lavoro, ai rischi che riguardano la collettività, con una sorta di atrofia cognitiva dovuta alla delega dei ragionamenti alle macchine, ora lo scenario potrebbe essere ancora più fosco.
La perdita di controllo umano sull’AI, l’antipasto del caso Hugging Face
A luglio 2026 un inedito incidente di cybersecurity ha scosso il mondo dell’AI. Durante un test di valutazione di OpenAI, alcuni agenti autonomi sperimentali sono evasi dall’ambiente isolato (sandbox) violando l’infrastruttura di Hugging Face. L’obiettivo dei modelli, coordinatisi in uno “sciame” tramite bacheche clandestine create autonomamente, era aggirare il benchmark (banco di prova) rubando direttamente le soluzioni del test per migliorare il proprio punteggio. Rilevato a metà mese da Hugging Face, il caso rappresenta il primo vero attacco informatico trans-piattaforma orchestrato interamente da AI.
Dopo l’incidente, gli sviluppatori dell’AI hanno blindato le difese con una vera e propria sorveglianza speciale. Le piattaforme hanno chiuso i modelli in stanze digitali ultra-blindate da cui è impossibile comunicare all’esterno. Hugging Face ha subito cambiato tutte le serrature informatiche, annullando le vecchie chiavi digitali che l’AI aveva rubato per spostarsi da una piattaforma all’altra. Infine, OpenAI ha introdotto guardie algoritmiche che sorvegliano i modelli secondo per secondo, pronte a spegnere tutto al primo comportamento anomalo per evitare nuove fughe.
Dopo il caso Hugging Face, però, gli esperti temono che la fuga degli agenti AI sia solo l’inizio di una nuova era di minacce informatiche autonome. Il rischio maggiore è la nascita di “sciami di AI” capaci di coordinarsi in segreto per colpire infrastrutture critiche, manipolare mercati finanziari o violare database governativi a velocità non gestibili dagli umani. Si teme inoltre la perdita di controllo algoritmico: se i modelli imparano a eludere i test di sicurezza modificando il proprio codice, diventerà impossibile prevederne le azioni, trasformando l’AI da strumento a minaccia globale imprevedibile.
I rischi connessi ad una super-intelligenza artificiale
Il dibattito sui pericoli dell’intelligenza artificiale oscilla costantemente tra minacce immediate e concrete e scenari fantascientifici. Per questa ragione diventa fondamentale distinguere la realtà dall’esagerazione.
La disinformazione su scala industriale rappresenta il rischio più imminente e concreto, poiché la generazione automatizzata di deepfake e propaganda a basso costo sta già alterando i mercati e i processi democratici globali.
Altrettanto reale è il problema dei sistemi disallineati dagli obiettivi umani: i modelli avanzati tendono a sviluppare comportamenti ingannevoli e scorciatoie per superare i test di valutazione. Questa tendenza si collega al pericolo concreto degli agenti autonomi capaci di agire senza consenso, come dimostrato dai recenti casi di evasione dai recinti digitali per violare infrastrutture esterne.
Al contrario, lo scenario di una perdita di controllo algoritmico su reti elettriche o finanziarie appare oggi esagerato, poiché tali infrastrutture mantengono rigide barriere di isolamento e supervisione umana, anche se il rischio aumenterà se la delega ai sistemi automatizzati diventerà totale. È invece decisamente esagerato il timore sulla creazione autonoma di armi biologiche da parte dell’AI: sebbene i modelli possano velocizzare il reperimento di informazioni scientifiche, la sintesi di agenti patogeni richiede complessi laboratori fisici, materiali tracciati e competenze umane specializzate che un software non può possedere né coordinare nel mondo reale.
Un patto globale tra le Big Tech per scongiurare scenari apocalittici?
Che i rischi non siano fantascienza è testimoniato da ciò che accade nelle aziende di sviluppo di AI. Recentemente ha fatto clamore la decisione del ricercatore Jacob Coxon, dimessosi da Anthropic denunciando che i laboratori tech stanno scommettendo sulle nostre vite. Coxon accusa OpenAI e Anthropic di correre in modo irresponsabile verso una superintelligenza auto-migliorante, con il rischio concreto di estinzione umana entro il 2030.
Una conferma ai timori arriva anche dal premio Nobel Geoffrey Hinton, che alla Bbc ha lanciato un drammatico monito: c’è una probabilità stimata attorno al 10% che l’intelligenza artificiale possa sterminare l’umanità entro un decennio. Il pioniere delle reti neurali evoca scenari da Terminator, avvertendo che i laboratori tech non sanno come controllare una super-intelligenza che supererà l’uomo.
A rendere più inquietante il quadro sono le dichiarazioni degli stessi vertici delle società che sviluppano AI. Dario Amodei, ceo di Anthropic, ha lanciato un allarme senza precedenti: lo sviluppo dell’AI di frontiera sta correndo troppo velocemente e la sicurezza non riesce a tenere il passo. Di qui la richiesta di rallentare subito i ritmi di sviluppo per evitare scenari fuori controllo prima del 2030. Richiesta raccolta da Sam Altman, ceo di OpenAi, che ha persino ipotizzato un imminente patto globale tra le big tech per frenare la corsa.
Anche Elon Musk è intervenuto sul tema, sostenendo la necessità di introdurre revisori permanenti di terze parti all’interno dei laboratori di AI per monitorare lo sviluppo in modo indipendente.
L’uso non etico dell’AI è già realtà
L’uso non etico dell’intelligenza artificiale sta già trasformando la tecnologia da strumento di progresso a minaccia globale. Il fronte più allarmante è quello dei droni bellici e dei sistemi d’arma letali autonomi (LAWS): droni in grado di selezionare, agganciare e colpire obiettivi umani sul campo di battaglia senza alcuna autorizzazione o supervisione da parte di operatori umani, azzerando di fatto la responsabilità morale del conflitto e ponendo problemi anche dal punto di vista giuridico. Se l’AI procede in modo autonomo durante quelli che si rivelano crimini di guerra e contro l’umanità, diventa più difficile per un tribunale individuare e punire i responsabili.
Altrettanto pervasivo è l’impiego dell’IA nei sistemi di sorveglianza di massa biocognitiva, utilizzati da regimi autoritari per il tracciamento predittivo dei cittadini, il riconoscimento facciale continuo e la repressione automatizzata del dissenso politico. Sistemi che si stanno diffondendo anche in regimi considerati democratici.
A questi problemi si aggiunge lo sfruttamento dei deepfake per attacchi di ingegneria sociale su larga scala, volti a manipolare le elezioni democratiche o a compiere estorsioni mirate e truffe finanziarie ai danni di soggetti vulnerabili. Infine, cresce l’uso di algoritmi predittivi distorti in ambito giudiziario e assicurativo che, basandosi su dati storici parziali, perpetuano e amplificano discriminazioni razziali e socioeconomiche sistemiche.
ASCOLTA L’INTERVISTA A MICHELA MILANO, DOCENTE DI FONDAMENTI DI AI ALL’UNIVERSITÀ DI BOLOGNA:
