Mentre il governo degli Stati Uniti ha autorizzato Anthropic a rilasciare il suo potente modello di intelligenza artificiale Mythos a un ristretto gruppo di aziende e organizzazioni americane coinvolte nella gestione e difesa di infrastrutture critiche, la facciata "etica" di Anthropic crolla miseramente.
Un nuovo membro assunto dal gruppo afferma che una possibilità su tre di estinzione umana è "ottimale"...
Anthropic ama giocare a essere la coscienza responsabile e "etica" dell'industria dell'IA, usando il rischio dell'estinzione umana come scudo per costruire un monopolio.
Ma il nuovo personaggio assunto ha appena esposto la realtà distopica dietro questo marketing.
Il Financial Times ha riferito che il professore di economia di Stanford Chad Jones si sta unendo al nuovo "Anthropic Institute". Mentre Anthropic si presenta come la controparte cauta di OpenAI, Jones porta il loro "disaster-porn-as-marketing-tool" a un nuovo livello terrificante.
In un articolo del 2023 sul "dilemma dell'IA", il professore appena entrato nel gruppo Jones, ha calcolato esplicitamente il costo accettabile della crescita economica guidata dall'IA. E la sua matematica è terrificante:
"Qual è il prezzo di questo incredibile cambiamento negli standard di vita? Ricordiamo che affronteremmo una probabilità di flusso di rischio esistenziale dell'1% all'anno per 40 anni, quindi la probabilità che sopravviviamo a questa esplosione dell'IA è exp (−.01 × 40) ≈ 0.67.
In altre parole, con un'utilità logaritmica, è ottimale prendere una possibilità su tre di porre fine all'esistenza umana in cambio di una possibilità su due terzi di aumentare drasticamente gli standard di vita di un fattore 55."
Anthropic dà lezioni al mondo sulla sicurezza dell'IA e casualmente ha appena assunto un economista che sostiene l'utilità di spazzare via un terzo dell'umanità.
Non male, direi.
Il co-fondatore di Anthropic Dario Amodei ha precedentemente affermato che le persone stanno "sottovalutando quanto possano essere gravi i rischi". Chiaramente, non intendeva che stessero sottovalutando quanto poco l'élite dell'IA "etica" si preoccupi effettivamente della sopravvivenza umana.
Non stanno cercando di salvare l'umanità dalla macchina. Ma la macchina dall'uomo. Stanno infatti calcolando quali probabilità di sopravvivenza umana sono accettabili per il boom dell'IA.
Avete capito?