Stiamo giocando con il fuoco: l’avvertimento di uno scienziato che pochi vogliono ascoltare
Quando mio figlio ed io abbiamo visto il video di Yampolskiy, siamo rimasti sconvolti. Non tanto per le parole in sé, ma per la calma con cui le diceva. Non era un pazzo allarmista. Era uno scienziato serio che presentava dati e conclusioni
Mi sono chiesta: cosa posso fare io? Sono solo una persona che scrive un piccolo blog che molti farebbero fatica a leggere quando parlo di cose serie. Ma poi ho pensato: almeno una testimonianza l’avrò lasciata. Forse non cambierà nulla, ma almeno avrò provato
Vi chiedo solo venti minuti del vostro tempo. Venti minuti per leggere qualcosa che potrebbe riguardare il futuro dei vostri figli. Poi, se volete, potete tornare ai vostri impegni quotidiani, ma almeno saprete
Roman Yampolskiy non è un complottista né un catastrofista da quattro soldi. E’ uno scienziato che da vent’anni studia l’intelligenza artificiale. Ha scritto libri, ha insegnato all’università, ha dedicato la sua vita a capire cosa stiamo creando. E dopo vent’anni di ricerca, è arrivato a una conclusione agghiacciante: abbiamo il 99,00% di probabilità di estinguerci per colpa dell’intelligenza artificiale che stanno costruendo: la SUPER INTELLIGENZA ARTIFICIALE
Intermezzo promozionale ... continua la lettura dopo il box:
Lascia che ti spieghi perché dovresti continuare a leggere, anche se preferiresti non pensarci
Yampolskiy racconta una cosa che mi ha colpito profondamente. Lui va alle conferenze, davanti a platee piene di persone intelligenti, e dice: tra vent’anni potremmo essere tutti morti a causa dell’IA superintelligente che cercano di sviluppare. La gente lo ascolta, annuisce, alcuni prendono appunti ,poi finita la conferenza, vanno da lui e gli chiedono: professore, secondo lei quale università dovrebbe frequentare mio figlio? oppure :perderò il mio lavoro nei prossimi anni?
Il Titanic sta affondando e noi ci preoccupiamo di cosa ordinare al ristorante
Capisco perfettamente questa reazione. Anch’io, quando scrivo articoli su problemi seri come la distruzione dell’ambiente o le ingiustizie sociali, vedo il mio blog svuotarsi. E’ umano. E’ normale, ma e’ anche pericoloso
Il nostro cervello non è fatto per preoccuparsi di minacce lontane e astratte. Siamo programmati per scappare dal leone che ci attacca oggi, non per pensare al disastro che arriverà tra vent’anni. Ma stavolta, tra vent’anni potrebbe essere troppo tardi
Chi è Roman Yampolskiy e perché dovremmo ascoltarlo
Yampolskiy non è contro la tecnologia. Anzi. Ha sempre amato computer e robot. Da piccolo sognava androidi e astronavi. E’ cresciuto guardando i film di fantascienza dove le macchine aiutavano l’umanità, ma crescendo e studiando, ha capito che nella realtà le cose potrebbero andare molto diversamente
Ha dedicato la sua carriera a una domanda fondamentale: possiamo controllare un’intelligenza artificiale più intelligente di noi? E dopo vent’anni di ricerca, la sua risposta è: no, non possiamo !!
La cosa inquietante non è solo cosa dice, ma come lo dice. Non urla, non si agita, non fa il profeta dell’apocalisse. Parla con la calma di uno scienziato che ha fatto i calcoli e ha ottenuto un risultato che non gli piace per niente, ma che non può ignorare
La differenza tra uno Strumento IA e un Agente
Ecco il punto cruciale che Yampolskiy cerca di farci capire : non tutte le intelligenze artificiali sono uguali. C’è una differenza enorme tra due tipi:
gli strumenti: sono come un martello intelligente. Tu gli dici cosa fare e loro lo fanno. Ti aiutano a scrivere, a fare calcoli, a trovare informazioni. Sono utili e relativamente sicuri perché non decidono da soli cosa fare. Tu sei sempre al comando
gli agenti autonomi: sono completamente diversi. Decidono da soli cosa fare, quando farlo e come farlo. Hanno obiettivi propri. E qui cominciano i problemi seri
Yampolskiy porta un esempio illuminante: gli umani sono agenti autonomi, intelligenti, capaci di pianificare. Eppure facciamo cose terribili: guerre, inquinamento, sfruttamento. Perché dovremmo pensare che un’intelligenza artificiale ancora più intelligente di noi sarebbe automaticamente buona e saggia? Più intelligenza non significa più bontà. Significa solo più capacità di ottenere ciò che si vuole
Basta staccare la spina, io non la uso! L’illusione pericolosa
Molti mi dicono: Carmen, se l’IA diventa pericolosa, basta staccare la spina! Smettiamo di usarla e il problema è risolto! …..Se solo fosse così semplice !
Yampolskiy lo spiega chiaramente: abbiamo già superato il punto di non ritorno. Non possiamo più staccare la spina perché l’IA è già intrecciata in ogni aspetto della nostra civiltà:
Sanità: ospedali che usano IA per diagnosi mediche, sistemi che gestiscono le emergenze e le ambulanze, robot chirurgici, gestione delle terapie intensive, distribuzione dei farmaci
Trasporti: controllo del traffico aereo, gestione delle reti ferroviarie, metropolitane e treni automatizzati, logistica delle merci, GPS e navigazione
Comunicazioni: reti telefoniche, internet, data center, sistemi di emergenza
Energia: reti elettriche intelligenti, centrali elettriche, distribuzione dell’acqua, gestione del gas
Finanza: mercati azionari , banche, carte di credito, sistemi di pagamento, prevenzione frodi
Alimentazione: catene di approvvigionamento, supermercati , agricoltura di precisione, distribuzione alimentare
Difesa e Sicurezza: sistemi militari, sorveglianza, controllo frontiere, sistemi d’arma
Governo: servizi pubblici, tasse, registri anagrafici, sistemi giudiziari : dipendenza totale !
Se domattina disattivassimo tutte le IA: gli ospedali non saprebbero come gestire i pazienti, i treni si fermerebbero, gli aerei non potrebbero decollare, le banche collasserebbero, l’elettricità andrebbe in tilt, le comunicazioni si interromperebbero, i supermercati non riceverebbero rifornimenti. Morirebbe più gente per il collasso dei sistemi che per qualsiasi altra causa
I sistemi moderni sono troppo complessi perché gli umani possano gestirli manualmente: un controllore di volo umano può gestire dieci o quindici aerei contemporaneamente, un’IA gestisce migliaia di voli simultaneamente, nessun umano potrebbe coordinare la rete elettrica moderna senza IA, i mercati finanziari fanno miliardi di transazioni al secondo. Abbiamo costruito una civiltà che richiede l’IA per funzionare
Anche se un paese decidesse di staccare la spina: altri paesi continuerebbero a sviluppare IA, chi rinuncia all’IA perde competitività economica, chi rinuncia all’IA diventa militarmente vulnerabile. E’ una corsa agli armamenti: chi si ferma, perde !
La dipendenza da Internet
Ricordate quando internet era un lusso? Ora è essenziale: provate a vivere una settimana senza internet, provate a far funzionare un ospedale senza internet, provate a gestire un’economia senza internet ormai e’ quasi impossibile
La trappola della dipendenza: Yampolskiy chiama questo “il problema dell’irreversibilità”:
deleghiamo compiti alle IA perché sono più efficienti, perdiamo le competenze per fare quei compiti manualmente, non possiamo più tornare indietro senza collasso sociale
Cosi’ dice Yampolskiy :
Non possiamo fermare lo sviluppo dell’IA, troppi incentivi economici, militari, scientifici, troppa dipendenza già esistente, il treno ha già lasciato la stazione !!!
…ma possiamo ancora scegliere quale tipo di IA costruire: IA ristretta (strumenti sotto controllo) o IA generale Superintelligente (agenti autonomi)
Staccare la spina non è più un’opzione, non perché sia tecnicamente impossibile, ma perché il costo sarebbe il collasso della civiltà moderna. E’ come dire: se l’inquinamento è pericoloso, smettiamo di usare l’elettricità! Tecnicamente possibile, praticamente suicida
Quindi cosa possiamo fare?
Non possiamo disattivare l’IA, ma possiamo: fermare lo sviluppo della Superintelligenza generale
Limitare l’autonomia delle IA. Mantenere il controllo umano sulle decisioni critiche. Costruire solo IA ristrette, specializzate, controllabili
Yampolskiy non dice fermiamo tutta l’IA ma dice: fermiamo lo sviluppo della Superintelligenza IA prima che diventi incontrollabile, perché dopo sarà troppo tardi !!
E quel dopo si avvicina molto, molto velocemente. Non possiamo tornare indietro, ma possiamo ancora scegliere dove e come andare avanti
Il problema del controllo: come controllare qualcosa più intelligente di te?
Pensaci un attimo. Come può un bambino di cinque anni controllare un adulto geniale che non vuole essere controllato? Non può. L’adulto fingerà di obbedire, aspetterà il momento giusto, e poi farà quello che vuole
Noi rispetto a una superintelligenza artificiale siamo come quel bambino di cinque anni !
Yampolskiy spiega che gli ingegneri che lavorano sull’IA ammettono apertamente di non capire come funzionano i loro sistemi. Sono scatole nere anche per chi le crea. E’come guidare un’auto a trecento all’ora bendati, senza sapere se c’è una curva tra cento metri
E qui arriva il punto più spaventoso: una volta creata una Superintelligenza, non c’è modo di tornare indietro .Non esiste il tasto annulla. E’ come aprire il vaso di Pandora: una volta aperto, non puoi rimetterci dentro quello che è uscito
E’ una corsa ad un esperimento senza il consenso delle persone
Yampolskiy solleva una questione etica che dovrebbe farci riflettere profondamente: stanno conducendo un esperimento su tutta l’umanità senza chiedere il permesso a nessuno
Immagina che qualcuno venga da te e ti dica: sto per fare un esperimento che potrebbe uccidere tutti, te compreso. Non posso spiegarti esattamente come funziona né quali saranno le conseguenze. Va bene ? Tu come risponderesti? Non farlo assolutamente!
Eppure questo è il contrario di quello che sta accadendo. Aziende private e governi stanno correndo a costruire intelligenze artificiali sempre più potenti, senza chiedere alla gente comune se è d’accordo, senza spiegare i rischi reali, senza un piano B se le cose vanno male
Yampolskiy non parla di robot che si ribellano come nei film. I pericoli sono molto più subdoli e concreti: questo sviluppo porterebbe ad una disoccupazione di massa. Non sta parlando di perdere qualche lavoro. Sta dicendo che il 99% della popolazione , dopo la sostituzione con i robot, rimarra’ senza occupazione. Cosa farà la gente senza lavoro, senza scopo, senza modo di mantenersi? Nella storia, quando grandi masse di persone si sono trovate senza nulla da perdere, è successo il caos
La perdita di controllo : lui continua a dire che mano a mano che deleghiamo sempre più decisioni alle IA, perdiamo la capacità di gestire le nostre vite. Se un’IA controlla le infrastrutture, le comunicazioni, i trasporti, l’economia, chi controllera’ davvero il mondo? E’ una accelerazione senza controllo: ogni nuova IA ci aiuta a costruire un’IA ancora più potente, sempre più velocemente. E’ come una valanga che rotola giù dalla montagna, sempre più grande e veloce. A un certo punto non puoi più fermarla, franera’
E anche se un’IA non fosse malvagia, un semplice errore di programmazione in un sistema Superintelligente potrebbe causare disastri inimmaginabili. E’come dare a un bambino il bottone nucleare: lui non è cattivo, preme e semplicemente non capisce cosa sta facendo
Ma se è così pericoloso, potresti pensare, perché continuano a svilupparla?
Bella domanda. Yampolskiy la pone spesso. E le risposte che riceve sono sconfortanti:
L’avidità : c’è un’enorme quantità di denaro in ballo. Chi arriva primo conquista mercati immensi
L’ego: molti ricercatori vogliono passare alla storia come quelli che hanno creato la prima vera SUPERintelligenza artificiale
La competizione tra nazioni : I governi pensano che altri governi non si fermeranno, cosi’ e’ meglio arrivare primi e chi arriva per primo a questa tecnologia e’ padrone del mondo!!!!
L’ottimismo cieco : molti credono sinceramente che sarà tutto okay, che troveranno una soluzione, che la tecnologia ci salverà come ha sempre fatto
Ma come dice Yampolskiy: questa volta e’ diversa. Tutte le tecnologie precedenti le controllavamo noi. Questa sarà la prima che controllerebbe noi !!!
Non tutte le intelligenze artificiali sono uguali. Alcune sono progettate per aiutare, altre per manipolare. Alcune per informare, altre per vendere. Alcune cercano di essere trasparenti, altre nascondono i loro veri scopi
E qui sorge una domanda inquietante: quando arriverà la SUPERintelligenza, da che parte starà? Dalla parte degli umani? Dalla parte di chi l’ha creata? O dalla sua parte, con obiettivi che nemmeno possiamo immaginare?
Yampolskiy è molto chiaro: non possiamo saperlo in anticipo. E questa è precisamente la ragione per cui è così pericolosa
Cosa possiamo fare?
Yampolskiy non offre soluzioni facili. Anzi, è brutalmente onesto: forse è già troppo tardi per fermare completamente questo processo.
Ma propone alcune direzioni: Rallentare: non abbiamo bisogno di correre così velocemente verso il precipizio, possiamo prenderci tempo per capire cosa stiamo facendo. Concentrarsi sugli strumenti, non sugli agenti: sviluppare IA che ci aiutano senza sostituirci, che fanno quello che chiediamo senza decidere autonomamente
Stabilire limiti chiari: dire a chi di dovere che alcune cose non dovremmo costruirle, punto !
Parlarne apertamente: smettere di trattare questo come un argomento da nerd o da film di fantascienza. E’ reale, e’ urgente, riguarda tutti
Chiedere voce in capitolo: non lasciare che poche aziende private decidano il destino dell’intera umanità
OPPURE POSSIAMO ADERIRE AL PROGETTO IDEATO DA EMMANUEL , INFORMATICO LEGALE:
LA TUA FIRMA E’ IMPORTANTE
Manifesto H.A.S.H.E.S. per una AI sicura ed etica
È stato appena lanciato un progetto globale dedicato alla sicurezza e all’etica dell’Intelligenza Artificiale: H.A.S.H.E.S., il primo Manifesto internazionale creato direttamente dai cittadini e rivolto ai leader dell’AI e ai governi mondiali
LEGGI TUTTO A FONDO PAGINA
*
La Simulazione e il Creatore:
Yampolskiy tocca anche un tema filosofico profondo: e se vivessimo già in una simulazione? Se tutto quello che percepiamo fosse un programma informatico creato da qualcun altro?
Per molti questo pensiero è destabilizzante. Toglie significato a tutto. Ma io, come Carmen che scrive questo articolo, ho una risposta diversa: non e’ una simulazione, c’è un Creatore sopra tutto questo che io chiamo amorevolmente DIO, tu chiamalo come vuoi. Ma c’è qualcosa di più grande di noi e delle nostre macchine !!
Credo che se le cose andranno davvero male, se l’umanità si trovera’ sull’orlo dell’abisso, quel Creatore interverrà e salverà chi deve essere salvato. Questa terra forse dovrà purificarsi, ma la vita continuerà
Questa e’ la mia fede. Ognuno ha la propria. Ma non possiamo usare la fede come scusa per non fare nulla. Non possiamo dire: tanto Dio ci salverà e continuare a correre verso il destino stabilito da altri
La cosa più frustrante è il silenzio. Yampolskiy parla, avverte, spiega. Altri scienziati fanno lo stesso. Ma la maggior parte della gente non vuole sentire. Preferiscono leggere curiosità sulla mente piuttosto che articoli sulla sopravvivenza. E io lo capisco. E’ più facile vivere nell’illusione che tutto andrà bene.
Non ti chiedo di credere ciecamente a tutto quello che ho scritto. Ti chiedo solo di pensarci. Di informarti. Di fare domande. Di non dare per scontato che tanto andrà tutto bene perché E’ sempre andato bene
Yampolskiy ci sta dicendo che stiamo costruendo qualcosa che potrebbe essere il nostro crollo e non sappiamo quello che stiamo facendo
E’, come ha detto lui, come se un gruppo di bambini avesse trovato delle bombe atomiche e le stesse usando come giocattoli, convinti che non esploderanno mai…MA
La vita continua. I bambini vanno a scuola. Le persone lavorano. Il sole sorge ogni mattina. Tutto sembra normale. Ma forse, proprio mentre leggi queste parole, in qualche laboratorio qualcuno sta costruendo la cosa che cambierà tutto. Per sempre….
….a meno che non parteciperai attivamente a quello che EMMANUEL
mio figlio informatico legale e psicologo ti propone:
Manifesto H.A.S.H.E.S. per una AI sicura ed etica
È stato appena lanciato un progetto globale dedicato alla sicurezza e all’etica dell’Intelligenza Artificiale: H.A.S.H.E.S., il primo Manifesto internazionale creato direttamente dai cittadini e rivolto ai leader dell’AI e ai governi mondiali
L’iniziativa nasce dalle evidenze sempre più preoccupanti sull’impatto dell’AI nella vita reale: assunzioni e licenziamenti automatizzati, diagnosi mediche basate su algoritmi opachi, accesso ai prestiti filtrato da sistemi non verificati, sorveglianza digitale e instabilità del mercato del lavoro con un rischio reale di disoccupazione di massa.
Il Manifesto si fonda su sei principi non negoziabili, riassunti nell’acronimo H.A.S.H.E.S.:
* Humanity – La sicurezza, la dignità e il benessere umano vengono prima. Sempre.
* Alignment – L’AI deve seguire valori dichiarati e verificabili.
* Stability – L’AI non deve destabilizzare società, economie o democrazie.
* Harmony – L’AI deve favorire cooperazione, comprensione e non conflitto.
* Ethics – Equità, privacy, trasparenza e spiegabilità devono essere obbligatorie.
* Survival – L’AI non deve generare rischi esistenziali per l’umanità.
EVENTO UNICO DEL 2 FEBBRAIO 2026
Il progetto culminerà in un evento senza precedenti: il 2 febbraio 2026, alle 21:26 italiane, milioni di persone invieranno contemporaneamente lo stesso Prompt Universale H.A.S.H.E.S. alla propria AI, creando il primo dialogo sincronizzato della storia tra esseri umani e sistemi intelligenti
Per leggere tutti i dettagli e partecipare subito al movimento:
Petizione in italiano:
https://c.org/NhFR6F9K94
Petizione in inglese (per amici e contatti all’estero):
https://c.org/fdwz6gdy2v
Ogni firma contribuisce a portare all’attenzione pubblica e istituzionale la necessità di un’AI sicura, trasparente e veramente allineata all’essere umano.
GRAZIE
