In una chiacchierata di qualche anno fa, Jaan Tallin, imprenditore tecnologico miliardario (fondatore di Skype) mi disse di non credere ad un futuro catastrofale per l’Intelligenza Artificiale, un futuro in cui una IA prende il sopravvento e conduce l’umanità all’estinzione: «Non ci credo, ma se poi succede?», mi disse. Tutto sommato agire per mitigare questa eventualità costa poco e questa è la ragione per cui ha fondato il Future of Life Institute, una organizzazione non profit che si pone l’obiettivo di mitigare ‘rischi esistenziali’, in particolare quelli determinati dallo sviluppo tecnologico tra cui, in prima linea, l’IA. Tra i donatori ci sono pesi massimi della tecnologia tra cui Elon Musk e Vitalik Buterin (creatore della blockhain Ethereum) e tra gli advisor figura Nick Bostrom, filosofo autore di «Superintelligenza» (e dell’ipotesi per cui quasi certamente stiamo vivendo in una simulazione in stile Matrix).
Il ragionamento di Tallin ricorda la Scommessa di Pascal, l’apologia del Cristianesimo proposta dal teologo e fisico francese del XVII secolo, per convincere pagani e atei a convertirsi. Pascal afferma che l’esistenza o meno di Dio non può essere provata razionalmente, per cui bisogna scommettere sulla scelta più conveniente. Per Pascal bisogna scommettere sull’esistenza di Dio perché «se vincete, guadagnate tutto; se perdete, non perdete nulla». Sulla base di questo argomento ‘religioso’, conviene comportarsi come se ci fosse il rischio di una IA che possa condurre all’estinzione dell’umanità.
Qui entra in campo il «Basilisco di Roko». Roko era il nome di un utente che scatenò molte discussioni sul futuro dell’IA nella community LessWrong.com, un forum online per la discussione di pregiudizi cognitivi, filosofia, psicologia, economia e Intelligenza Artificiale. L’obiettivo dichiarato di LessWrong è aiutare i propri utenti ad avere convinzioni più accurate, evitando bias cognitivi. Su questo forum è nata la comunità dei Razionalisti, movimento fondato da Eliezer Yudkowsky (prolifico scrittore che ha interrotto gli studi prima del liceo) e finanziato da Bankman Fried, giovane imprenditore miliardario della blockchain, condannato nel 2023 per frode e reati connessi (tra cui oltre 300 donazioni illecite a politici)
L’obiettivo ultimo di Yudkowsky è sconfiggere la morte vivendo per sempre come mente umana emulata da un futuro computer dotato di superintelligenza artificiale. I Razionalisti, che hanno guadagnato una certa influenza nella Silicon Valley, si interessano di probabilità, altruismo efficace (‘effective altruism’), transumanesimo e la mitigazione del rischio esistenziale derivante dall’IA. Questi temi sono compresi in una meta-ideologia dall’acronimo «TESCREAL», cui si interessano personalità come Sam Altman di Open AI, il potentissimo venture capital Marc Andreessen ed Elon Musk. L’Altruismo Efficace si propone di basare su razionalità ed evidenza scientifica la determinazione dei modi più efficaci per migliorare il mondo. Per l’altruismo efficace non vi è differenza tra l’aiutare un bambino in difficoltà vicino a noi o dall’altra parte del mondo. Anzi, secondo il filosofo Singer, suo ideatore iniziale, ci si dovrebbe focalizzare su quei paesi dove salvare un bambino costa meno: meglio usare le risorse per salvare due bambini in un luogo remoto che uno solo vicino a noi. Il ‘lungotermismo’ è una forma di altruismo efficace che ritiene che la distanza temporale sia assimilabile alla distanza fisica: (estremizzando) meglio usare le risorse per salvare due bambini in futuro che uno adesso. Queste forme di utilitarismo conducono alla focalizzazione su un ristretto numero di cause meritevoli, dato che tutte le altre sarebbero uno spreco di risorse. Ma chi deve decidere? I neo-ottimati Razionalisti, capaci di farlo scientificamente, basandosi su probabilità e senza bias cognitivi. In verità, una scelta, per essere accurata, richiederebbe un modello del mondo infinitamente preciso e condiviso da tutti, una utopia. Che però è sostenuta con budget miliardari da personalità come membri del CdA di OpenAI (creatori di ChatGPT), Dustin Moskovitz (cofondatore di Facebook) e alcuni membri della cosiddetta ‘PayPal Mafia’. La Paypal Mafia è un gruppo di ex fondatori e dirigenti di Paypal che include Musk, Peter Thiel (fondatore di Palantir), Reid Hoffman (fondatore di LinkedIn), David Sacks (‘AI and Crypto Czar’ della Casa Bianca), eccetera. La comunità ha anche una sede di elezione, un ex albergo di Berkeley, il Lighthaven, dove a ottobre si terrà la «Progress conference 2025», finanziata tra gli altri dal Future of Life Institute, con relatori come Altman (Open AI), Tyler Cowen (economista), Blake Scholl (Boom Technologies), Michael Kratsios (Casa Bianca), ed altri. Si discuterà di ‘AI Protopia’ (un neologismo che vuole esser l’opposto di distopia), longevità, politiche e dinamismo dell’America.
Ma torniamo al basilisco, una creatura mitologica di cui si ha traccia in Italia già dal I secolo: un piccolo serpente, la creatura più letale di tutte, capace di uccidere chiunque, solamente guardandolo negli occhi. Il basilisco di Roko è un esperimento mentale proposto da Roko su LessWrong, tempo dopo cancellato in seguito alle discussioni che ha scatenato. Con una sequenza di deduzioni radicate nella teoria dei giochi, Roko argomenta che in futuro potrà esistere una superintelligenza artificiale, normalmente benevola, che – logicamente – punirà chiunque non si sia impegnato nella sua costruzione e diffusione. Chi pensi che potrà esistere una superintelligenza artificiale in grado di risolvere tutti i problemi dell’umanità, e non ne favorisca attivamente la creazione, sta colpevolmente rallentandone la realizzazione, ritardando i benefici e quindi danneggiando l’umanità. Deve essere punito per ciò. L’unico comportamento razionale, secondo la Scommessa di Pascal, è fare tutto il possibile per accelerare la sua creazione investendo migliaia di miliardi in calcolatori, datacenter e centrali elettriche. Non vorremmo che vi arrivasse prima la Cina. O almeno questo temono molti potenti sponsor e frequentatori del Lighthaven.
Lascia un commento