Il filosofo della simulazione avverte: l'estinzione umana è un rischio necessario per l'IA

Nick Bostrom, filosofo svedese e direttore del Future of Humanity Institute di Oxford, è diventato celebre nel 2003 con la pubblicazione del saggio "Sei in una simulazione al computer?". La sua teoria, nota come ipotesi della simulazione, suggerisce che civiltà tecnologicamente avanzate potrebbero creare simulazioni così sofisticate da generare a loro volta altre simulazioni, portando a una realtà stratificata in cui è improbabile che gli esseri umani vivano nella "realtà base".

Negli anni, l'ipotesi ha scatenato dibattiti tra sostenitori come Elon Musk e critici di fama mondiale. Tuttavia, Bostrom ha recentemente spostato l'attenzione sull'intelligenza artificiale, un tema che lo ha visto passare da un approccio catastrofico a una visione più articolata, seppur sempre provocatoria.

In un recente paper di lavoro, il filosofo sostiene che lo sviluppo di una superintelligenza potrebbe effettivamente portare all'estinzione dell'umanità. Tuttavia, secondo lui, i benefici potenziali di una tale intelligenza sarebbero così straordinari da rendere il rischio accettabile. "Mi definisco un ottimista preoccupato", ha dichiarato a Wired Steven Levy. "Sono entusiasta delle possibilità di migliorare radicalmente la vita umana e sbloccare nuove frontiere per la nostra civiltà, anche se esiste la concreta possibilità che le cose vadano male."

Bostrom ha criticato le posizioni dei "catastrofisti" dell'IA, come Eliezer Yudkowsky, autore del libro "Se qualcuno la costruisce, tutti muoiono". "Mi irritano gli argomenti di chi dice che costruire l'IA ucciderà me e i miei figli", ha affermato. "Ma se nessuno la costruisce, allora tutti muoiono comunque. È stata questa la realtà negli ultimi centomila anni."

Levy ha obiettato che, nello scenario catastrofico, non ci sarebbe più alcuna nascita futura, una differenza sostanziale. Bostrom ha risposto: "Sono ovviamente molto preoccupato anche per questo. Tuttavia, in questo paper mi concentro su una domanda diversa: cosa sarebbe meglio per la popolazione umana attuale? Sembra che, anche con i rischi, lo sviluppo dell'IA potrebbe aumentare l'aspettativa di vita."