Vai al contenuto

Scenario “mondo in catene”: un futuro governato da uno stato totalitario

Marcello Pamio

Cosa servirebbe per far sì che un governo totalitario globale salisse al potere indefinitamente? Esiste o no il pericolo che una tecnologia schiavizzi il mondo?
Questo scenario da incubo è così vicino che la BBC se ne è occupata con un reportage il 16 ottobre 2020.

Come sarebbero stati i governi totalitari del passato se non fossero mai stati sconfitti? Per esempio, per fermare i nazisti che operavano con la tecnologia del XX secolo è servita una guerra mondiale. Oggi quanto sarebbero stati potenti i gerarchi se avessero sconfitto gli Stati Uniti con la bomba atomica? Il controllo della tecnologia più avanzata dell’epoca avrebbe permesso al potere nazista di cambiare il corso della storia.
Quando pensiamo ai rischi esistenziali vengono in mente eventi come la guerra nucleare o l’impatto di un asteroide. Eppure c’è una minaccia futura che è molto meno nota e, sebbene non implichi una vera e propria estinzione, potrebbe essere anche più grave.

Questo scenario è chiamato “Mondo in catene”: un futuro governato da uno Stato totalitario globale che utilizza una nuova tecnologia per schiavizzare la maggioranza del mondo tenendola in una sofferenza perpetua.
Ricercatori e filosofi stanno riflettendo su come ciò potrebbe accadere e, cosa più importante, cosa possiamo fare per evitarlo.
Toby Ord
, ricercatore senior presso il Future of Humanity Institute (FHI) dell’Università di Oxford ritiene che le probabilità che accada una catastrofe naturale sono inferiori a 1 su 2.000, perché gli esseri umani sono sopravvissuti per 2.000 secoli senza vederne una. Ma la probabilità di un disastro causato dall’uomo è di 1 su 6! Non a caso il dottor Ord si riferisce a questo secolo come “al precipizio” poiché il rischio di perdere il nostro futuro non è mai stato così alto.

I ricercatori del Center on Long-Term Risk, un istituto di ricerca senza scopo di lucro a Londra, hanno ampliato i cosiddetti “rischi X”: pericoli oggettivi per il pianeta.
Questi “rischi” sono definiti come “sofferenza su scala astronomica che supera di gran lunga tutte le sofferenze che sono esistite finora sulla Terra”.
In questi scenari la vita continua per miliardi di persone, ma la qualità è così bassa e le prospettive così cupe che sarebbe preferibile morire. Quindi stanno ipotizzando un futuro così negativo da preferire l’estinzione, ed è proprio qui che entra in gioco lo scenario del “mondo in catene”.

Cosa succederebbe se un gruppo o un governo acquisisse improvvisamente il potere di dominare il mondo attraverso la tecnologia? Potrebbe portare a un lungo periodo di sofferenza e sottomissione.
Un rapporto del 2017 sui rischi esistenziali del Global Priorities Project, in collaborazione con FHI e il Ministero degli Affari Esteri della Finlandia, ha avvertito che “un lungo futuro sotto uno stato totalitario globale particolarmente brutale potrebbe essere probabilmente peggiore della completa estinzione”.

Ipotesi Singleton
I ricercatori nel campo dei rischi esistenziali stanno rivolgendo la loro attenzione alla sua causa più probabile: l’intelligenza artificiale (AI).
Nella sua “Ipotesi Singleton”, Nick Bostrom, direttore dell’FHI di Oxford, ha spiegato come potrebbe formarsi un governo globale con l’intelligenza artificiale o altre potenti tecnologie e perché potrebbe essere impossibile rovesciarlo.
Un mondo con “una singola agenzia decisionale al più alto livello” potrebbe verificarsi se quell’agenzia “ottenesse un vantaggio decisivo attraverso una svolta tecnologica nell’intelligenza artificiale o nella nanotecnologia molecolare”. Una volta in carica controllerebbe i progressi della tecnologia come la sorveglianza e le armi, e grazie a questo monopolio rimarrebbe perennemente al potere.

Anche nei paesi con i regimi totalitari più rigidi le notizie trapelano e le persone possono anche fuggire, ma un governo totalitario globale eliminerebbe queste speranze.
Per essere peggio dell’estinzione significa “che non sentiamo assolutamente nessuna libertà, nessuna privacy, nessuna speranza di fuggire, nessuna agenzia per controllare le nostre vite”, dice Tucker Davey, uno scrittore del Future of Life Institute in Massachusetts.
Potremmo non avere ancora le tecnologie per farlo”, ha detto Ord, “ma sembra che i tipi di tecnologie che stiamo sviluppando lo rendano molto più facile”...

IA e autoritarismo
L’intelligenza artificiale sta già consentendo l’autoritarismo in alcuni paesi e rafforzando le infrastrutture che potrebbero essere usate da un despota opportunista.

Abbiamo assistito a una sorta di resa dei conti con il passaggio da visioni molto utopiche di ciò che la tecnologia potrebbe portare a realtà molto più che fanno riflettere e che sono, per alcuni aspetti, già abbastanza distopiche”, afferma Elsa Kania, senior fellow del Center for New American Security, una no-profit bipartisan che sviluppa politiche di sicurezza e difesa nazionale.
In passato, la sorveglianza richiedeva centinaia di migliaia di persone - un cittadino su 100 nella Germania orientale era un informatore - ma ora può essere attuata tramite la tecnologia. Negli Stati Uniti, la National Security Agency (NSA) ha raccolto centinaia di milioni di registrazioni di chiamate e messaggi di americani prima che interrompessero la sorveglianza domestica nel 2019 e si stima che nel Regno Unito ci siano dai quattro ai sei milioni di telecamere a circuito chiuso.

Diciotto delle 20 città più sorvegliate al mondo si trovano in Cina, ma Londra è la terza.
L’infrastruttura è già pronta per applicarla e l’IA, che l’NSA ha già iniziato a sperimentare, consentirebbe alle agenzie di cercare tra i nostri dati con una velocità mai vista prima.
Oltre a migliorare la sorveglianza, l’IA sostiene anche la crescita della disinformazione online, che è un altro strumento dell’autoritario. I deep fake basati sull’intelligenza artificiale possono diffondere messaggi politici fabbricati ad arte, e il micro-targeting algoritmico sui social sta rendendo la propaganda più persuasiva. Questo mina la nostra capacità di distinguere ciò che è vero da ciò che è falso.

Il rapporto sull’uso dannoso dell’intelligenza artificiale scritto da Belfield e da 25 autori di 14 istituzioni, prevede che tendenze come queste amplieranno le minacce esistenti alla nostra sicurezza politica e ne introdurranno di nuove nei prossimi anni.
Cosa vogliamo fare?

Conclusione
Molto interessante questo approfondimento della BBC. Forse qualcuno ci vuole avvertire sui rischi che stiamo correndo, o ci stanno facendo vedere quello che sarà il nostro inesorabile e distopico futuro?
Comunque sia, è ora il momento per decidere attentamente quali sono gli usi accettabili e inaccettabili della tecnologia in generale, soprattutto dell’IA, perché se permettiamo di controllare tutta la nostra esistenza, domani sarà troppo tardi per tornare indietro. A tal proposito ricordo che il 5G e il 6G risultano fondamentali in questa visione...
Stiamo armando le forze di polizia con il riconoscimento facciale e i vari governi stanno raccogliendo tutti i nostri dati (anche grazie a quello che noi gratuitamente e inconsapevolmente lasciamo nei social), e questo è molto ma molto pericoloso!

https://www.bbc.com/future/article/20201014-totalitarian-world-in-chains-artificial-intelligence

Questo sito o gli strumenti terzi da questo utilizzati si avvalgono di cookie necessari al funzionamento ed utili alle finalità illustrate nella cookie policy. Se vuoi saperne di più o negare il consenso a tutti o ad alcuni cookie, consulta la cookie policy. Chiudendo questo banner, scorrendo questa pagina, cliccando su un link o proseguendo la navigazione in altra maniera, acconsenti all’uso dei cookie. OK Ok