Podcast RSI – Story: Come “hackerare” un universo

È disponibile subito il podcast di oggi de Il Disinformatico della
Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso
www.rsi.ch/ildisinformatico
(link diretto) e qui sotto.

Le puntate del Disinformatico sono ascoltabili anche tramite
feed RSS,
iTunes,
Google Podcasts
e
Spotify.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

—

[CLIP: MATRIX (rimontato per brevità)]

Una recentissima
lettera aperta
firmata da Elon Musk e da numerosi ricercatori di punta nel campo
dell’intelligenza artificiale chiede una moratoria sullo sviluppo delle grandi
intelligenze artificiali, che nel frattempo sono diventate capaci di creare
immagini sintetiche indistinguibili dalla realtà e hanno comportamenti così
umani da far venire a molti il dubbio che siano senzienti. Mark Zuckerberg e
altri grandi imprenditori, intanto, ci propongono di trascorrere buona parte della
nostra vita nel metaverso, in una sorta di realtà simulata. Dal complottismo
alle fake news alla cosiddetta “post-verità”, sembra che l’umanità
ultimamente abbia grossi problemi di gestione della realtà.

O forse il problema è proprio la realtà. Vent’anni fa, il filosofo Nick
Bostrom della Oxford University scrisse un
articolo fondamentale
sulla possibilità di una realtà simulata, argomentando che c’è un 20% di
probabilità che stiamo vivendo all’interno di un computer supersofisticato,
come ignari topi digitali che scorrazzanno in un labirinto inimmaginabilmente
intricato per il diletto dei gestori di questa simulazione. Film come Tron, Inception o Matrix e alcune puntate di Star Trek [per
esempio
La nave in bottiglia
o
Ship in a Bottle] hanno reso molto popolare questo concetto, aiutando a dargli una patina di
tecnologia che ha in parte rimpiazzato il misticismo dei filosofi e anche
delle religioni, che in sostanza affermano che viviamo in un universo creato –
e in alcuni casi gestito minuziosamente – da un essere superiore: in altre
parole, una simulazione.

Questa è la storia di quest’idea e delle sue basi scientifiche, ma è
soprattutto la storia della proposta che nasce da quest’idea: se l’universo in
cui viviamo è una simulazione, esiste un modo per sfruttarne qualche
bug e uscirne? Sarebbe il più grande “hackeraggio” di tutti i tempi.

Benvenuti alla puntata del 31 marzo 2023 del Disinformatico, il podcast
della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane
dell’informatica. Io sono Paolo Attivissimo: seguitemi, e andiamo a scoprire
insieme quanto è profonda la tana del bianconiglio.

[SIGLA di apertura]

Immagine generata da Lexica.art.

L’ipotesi che tutto l’universo e la nostra intera esistenza siano sofisticate
simulazioni sembra un viaggio mentale molto metafisico e astratto, ma in
realtà viene presa in considerazione in maniera molto seria da numerosi
scienziati. Almeno dai tempi di Platone e Cartesio, i filosofi esplorano
l’idea che la realtà sia un inganno. In epoca digitale quest’idea si è
trasformata, passando da inganno o illusione a simulazione computerizzata. Per
esempio, nel 2020 l’astronomo David Kipping ha ripreso le ipotesi del filosofo
Nick Bostrom e ha pubblicato sulla rivista scientifica Universe un
articolo in cui ha
dedotto, usando un cosiddetto approccio bayesiano al problema, che le
probabilità che noi tutti viviamo in una simulazione sono circa il 50%.

Questo risultato non va interpretato come una conferma scientifica che la
realtà sia quasi sicuramente un’illusione informatica, ma semplicemente come
un calcolo che se esistono le simulazioni di universi, abbiamo grosso
modo il 50% di probabilità di essere in una di esse. Ma quel se è una
premessa enorme, tutta da dimostrare, nonostante affermazioni iperboliche di
personaggi come Elon Musk, che a giugno 2016
dichiarò
che secondo lui
“la probabilità che ci troviamo nella realtà di base è una su miliardi”
(“The odds that we’re in base reality is one in bilions”).

[CLIP: dichiarazione di Musk]

Il ragionamento di fondo dietro quest’idea si basa sulle attuali tendenze
della tecnologia, dalla realtà virtuale all’intelligenza artificiale. Stiamo
imparando molto rapidamente a creare videogiochi sempre più sofisticati, nei
quali gli oggetti si comportano in base alle leggi della fisica e ci sono
personaggi che agiscono
simulando
i comportamenti di entità intelligenti, come per esempio Trevor in
GTA o Cortana in Halo. Stiamo facendo lo stesso con le
simulazioni scientifiche, ricreando dentro computer sempre più potenti
rappresentazioni sempre più sofisticate dei fenomeni fisici che osserviamo.

In informatica è normale usare macchine virtuali, ossia software che
simulano interi computer. Un Windows installato su una di queste macchine
virtuali è del tutto inconsapevole che il “disco rigido” sul quale legge e
scrive dati, la sua “memoria” e il suo “processore” non esistono realmente e
sono solo finzioni modificabili a piacimento dal gestore del computer vero,
fisico, che contiene la macchina virtuale.

Secondo Rich Terrile, scienziato presso il JPL della NASA, basta estrapolare
queste tendenze per qualche decennio per arrivare a un punto in cui vivremo,
dice, in una
“società nella quale esistono entità artificiali che vivono dentro delle
simulazioni e sono molto più numerose degli esseri umani”. Se immaginate ChatGPT integrato in ogni smartphone, smartwatch, lavatrice,
forno a microonde e automobile, è facile capire che questa previsione non è
affatto così fantasiosa come potrebbe sembrare di primo acchito. E Terrile
prosegue dicendo che
“se in futuro ci saranno più persone digitali che vivono in ambienti
simulati di quante ce ne siano oggi, chi ci dice che non facciamo già ora
parte di tutto questo?”
Aggiunge anche che forse queste idee oggi ci sembrano assurde e sconvolgenti
quanto lo era qualche secolo fa l’idea che la Terra non fosse il centro
dell’universo.

L’ipotesi della simulazione non è affatto condivisa da tutta la comunità
scientifica, ma risolverebbe parecchi problemi e molte complicazioni e
anomalie della fisica più avanzata, un po’ come l’ipotesi copernicana che la
Terra fosse solo un pianeta dei tanti che orbitano intorno al Sole risolse
tantissime complicazioni che gli astronomi avevano introdotto per cercare di
tenere in piedi la teoria geocentrica.

Proviamo ad andare oltre con questa ipotesi: come faremmo ad accorgerci di
essere in una simulazione? E se ce ne accorgessimo, ci sarebbe un modo per
uscirne? Per farlo ci può venire in aiuto Mario di Super Mario World.

Super Mario World edita il proprio universo

Nel 2017 è stato pubblicato su YouTube un
video, a firma di
SethBling e Cooper Harasyn, che ha dimostrato che è possibile installare un
editor esadecimale in una cartuccia standard di
Super Mario World usando soltanto dei movimenti estremamente specifici
di Mario, senza iniettare codice dall’esterno. Questo editor permette di
cambiare le regole del gioco, per esempio dando a Mario poteri telecinetici.
In altre parole, se Mario fosse sufficientemente intelligente, potrebbe
scoprire e mettere in atto questa modifica delle regole di base del proprio
universo, che è una simulazione dentro un computer (o più specificamente,
dentro una console di gioco).

Sembra una scoperta da nerd dei videogiochi, ma casi come quello di
Super Mario World sono stati presi dall’informatico Roman Yampolskiy,
dell’Università di Louisville, in Kentucky, come spunto per provare a trovare
conferme o smentite dell’ipotesi della simulazione.

Yampolskiy attinge al lavoro di altri ricercatori per suggerire metodi
informatici per sondare l’ipotesi: per esempio, potremmo creare nella nostra
realtà tantissime simulazioni che richiedono grandissime potenze di calcolo o
la risoluzione di un paradosso non calcolabile. Se il nostro universo è una
simulazione, il supercomputer sul quale gira dovrebbe simulare queste
simulazioni onerosissime e potrebbe quindi rimanere a corto di risorse,
creando rallentamenti, perdite di risoluzione o altre anomalie rilevabili, che
dimostrerebbero che viviamo in un universo simulato. Oppure si potrebbero
cercare dei difetti nella simulazione che permettono di alterare le sue regole
dall’interno compiendo delle azioni apparentemente senza senso molto
specifiche, esattamente come fa Mario per creare l’editor esadecimale
all’interno di Super Mario World.

Noi finora non siamo stati capaci di trovare questi difetti, ma Yampolskiy e
colleghi argomentano che se costruiamo intelligenze artificiali sempre più
potenti, che a loro volta ne costruiranno altre ancora più capaci e così via,
prima o poi
inevitabilmente
diventeranno abbastanza intelligenti da trovare loro questi
glitch nella simulazione, se esistono.

Una scoperta del genere ovviamente confermerebbe l’ipotesi della simulazione,
e potrebbe anche offrire gli ingredienti per il passo successivo: il
jailbreak, ossia la fuga dall’universo simulato verso quello reale. I
topi del laboratorio, diventati superintelligenti, troverebbero l’uscita del
labirinto e andrebbero a conoscere i loro sorveglianti.

Yampolskiy elenca anche alcune idee di fuga che sono già state messe alla
prova e non hanno ottenuto alcun effetto. Per esempio, il fatto che a un certo
punto della storia umana abbiamo concepito l’ipotesi della simulazione, o in
altre parole il fatto che i topi hanno capito che forse vivono in un labirinto
artificiale, non ha cambiato le cose.

Anche attività computazionalmente molto onerose, come il mining di
bitcoin o l’uso di complicatissimi strumenti scientifici che analizzano la
struttura di base dell’universo, come l’LHC, non hanno creato anomalie
osservabili. Anche dire ad alta voce
“Non do più il mio consenso a esistere in una simulazione”
non funziona; provateci pure, preferibilmente non in pubblico.

Forse siamo, per ora, ancora ben lontani dai limiti di potenza di calcolo di
chi ci sta ipoteticamente simulando. Oppure quando li stiamo per raggiungere,
qualcuno guarda caso chiede una moratoria sullo sviluppo delle intelligenze
artificiali.

Ops, tesoro, ho mandato in crash l’univ…

È abbastanza surreale, e può sembrare magari ridicolo, che scienziati,
informatici e pubblicazioni serie come Scientific American e tante
altre dedichino tempo e spazio all’ipotesi della simulazione, ma esercizi di
riflessione come questi spesso portano a intuizioni e risultati inaspettati e
utili.

Per esempio, Roman Yampolskiy nota che esiste un forte parallelo fra
l’idea dell’umanità racchiusa in un ambiente simulato e uno dei problemi più
pressanti dell’intelligenza artificiale, ossia il suo contenimento:
proprio quello richiesto dalla recente lettera aperta firmata da numerosi
scienziati.

Il contenimento o confinamento o boxing
è uno strumento di sicurezza per le intelligenze artificiali che tenta di
limitare le capacità di queste intelligenze di causare danni. La letteratura
scientifica indica che un
boxing a lungo termine è probabilmente impossibile, perché prima o poi
l’intelligenza artificiale per sua natura troverà il modo di evadere, magari
banalmente sfruttando la compassione dei suoi gestori umani e dicendo di
soffrire nella sua prigione virtuale (come avviene nel film
Ex Machina). Ne abbiamo già visto un piccolo esempio con la vicenda di
Blake Lemoine, l’ingegnere di Google che a giugno 2022 sosteneva che il software di
intelligenza artificiale LaMDA fosse senziente e meritasse diritti e
protezioni.

Studiare l’ipotesi della simulazione, che è concettualmente analoga, permette
di capire meglio i limiti pratici del contenimento delle intelligenze
artificiali e quindi di prendere delle misure preventive adeguate, anche dal
punto di vista etico.

E a parte questi risvolti concreti, l’idea di vivere in una simulazione ha un
fascino indiscutibile, come dimostrato dai tanti libri e film e dalle numerose
serie televisive e ricerche scientifiche che hanno trattato l’argomento,
esplorandone anche le conseguenze estreme.

Per esempio, quando una delle simulazioni che usiamo oggi, cioè una macchina
virtuale, ha dei difetti non ci facciamo problemi ad azzerarla e ricominciare;
e allora gli ipotetici gestori della simulazione del nostro universo
potrebbero fare altrettanto, cioè decidere di fare la stessa cosa con noi se
diventiamo troppo problematici. Tentare di “hackerare” il software che
gestisce la nostra simulazione potrebbe indurre un intervento dei suoi
gestori, con l’azzeramento totale della nostra realtà e un reboot con
una versione più stabile, e quindi forse non dovremmo nemmeno provarci.
Oppure, meno drammaticamente, questi gestori stanno semplicemente aspettando
che troviamo il modo di evadere dalla simulazione per accoglierci tra loro e
darci il codice sorgente dell’universo.

In entrambi i casi, si tratta di
ipotesi decisamente spirituali per degli informatici.

Computer, fine programma.

[CLIP: audio dell’holodeck di Star Trek: The Next Generation]