Quando si parla di futuro dell’intelligenza artificiale, siamo ormai abituati a un certo grado di allarmismo. E le parole di Roman Yampolskiy, ricercatore specializzato in sicurezza dell’IA presso la University of Louisville, hanno decisamente superato la soglia del “semplice avvertimento”. Durante una lunga intervista al podcast di Lex Fridman, lo scienziato ha infatti stimato un rischio del 99,9% che l’umanità possa essere spazzata via dall’IA entro i prossimi cento anni. Una previsione così estrema da lasciare interdetti anche i più scettici.
- Il calcolo dell'esperto
- Cosa pensano "gli scettici"
- La visione della scienza: che futuro ci aspetta?
Il calcolo dell’esperto
Secondo Yampolskiy, il problema è che nessun sistema di IA finora realizzato può essere considerato realmente sicuro. Ogni modello lanciato sul mercato presenta vulnerabilità, comportamenti difficili da prevedere e margini di errore che, a suo avviso, diventano inevitabilmente più pericolosi man mano che la tecnologia avanza.
Gli algoritmi non sono più soltanto strumenti: stanno diventando sistemi complessi, capaci di apprendere, ottimizzare e prendere decisioni in modi che gli esseri umani non sempre riescono a interpretare.
Un punto centrale della sua tesi riguarda l’imprevedibilità del comportamento delle intelligenze artificiali avanzate. Nel suo libro AI: Unexplainable, Unpredictable, Uncontrollable, Yampolskiy descrive la crescente difficoltà nel comprendere come le macchine prendano decisioni e quali conseguenze possano generare, intenzionali o meno. L’autore affronta temi che spaziano dalla proprietà dei sistemi intelligenti alla possibilità che un’IA sviluppi forme embrionali di coscienza, fino agli scenari in cui smette di rispondere ai controlli umani.
La sua voce non è isolata. Numerosi pionieri dell’intelligenza artificiale – proprio coloro che negli anni hanno contribuito a costruirne le fondamenta – si stanno mostrando sempre più preoccupati. La corsa globale per dominare il settore, alimentata anche da competizioni politiche come quelle avviate sotto l’amministrazione Trump, ha accelerato cicli di sviluppo sempre più rapidi e difficili da monitorare.
Cosa pensano “gli scettici”
Eppure, non tutta la comunità scientifica concorda con un pronostico tanto catastrofico. Una ricerca congiunta delle Università di Oxford e Bonn ha consultato oltre 2.700 esperti del settore, evidenziando un rischio di estinzione intorno al 5%: un dato comunque allarmante, ma lontanissimo dalla quasi certezza ipotizzata da Yampolskiy.
Katja Grace, tra le autrici dello studio, sottolinea come la comunità scientifica consideri la minaccia reale, ma molto meno estrema: per molti studiosi, il dibattito è aperto tra chi vede un pericolo dell’1% e chi lo colloca attorno al 20%.
Altri nomi illustri, come Andrew Ng e Yann LeCun, respingono invece in modo netto la narrativa apocalittica. LeCun, in particolare, accusa alcuni leader del settore – tra cui Sam Altman di OpenAI – di ingigantire i rischi per motivazioni politiche o strategiche. Nonostante ciò, lo stesso Altman ha più volte dichiarato che l’IA potrebbe cancellare milioni di posti di lavoro e trasformare profondamente il nostro sistema sociale. Già nel 2015 aveva affermato che “l’IA probabilmente porterà alla fine del mondo, ma nel frattempo nasceranno grandi aziende”, una frase che oggi viene citata con crescente inquietudine.
Oltre alla minaccia diretta dei sistemi intelligenti, alcuni ricercatori ricordano che la crescita incontrollata dell’IA porta anche problemi collaterali molto concreti, come l’enorme impatto ambientale dei data center, ormai paragonabili alle industrie più energivore del pianeta.
La visione della scienza: che futuro ci aspetta?
Le visioni opposte delineano una comunità scientifica tutt’altro che compatta: da un lato chi vede nell’IA una tecnologia potenzialmente destabilizzante a livello esistenziale, dall’altro chi considera esagerate le ipotesi di un collasso globale. Ma un punto sembra accomunare tutti: l’IA avrà un impatto enorme sulla nostra civiltà, che lo si immagini catastrofico, trasformativo o semplicemente complesso da gestire.
Resta allora una domanda aperta: quanto siamo realmente preparati a controllare una tecnologia che corre più veloce della nostra capacità di comprenderla? Le prossime decadi potrebbero non essere solo una stagione di progresso tecnologico senza precedenti, ma anche il banco di prova definitivo per capire se l’umanità saprà convivere con ciò che ha creato — o se le previsioni più fosche troveranno terreno fertile.
