Un’altra distopia è possibile. Lettera semiseria di Sam Altman dal futuro

Se il Novecento è stato “il secolo breve”, i primi cento anni di questo nuovo millennio sembrano esser durati un’eternità. Certamente il successo strepitoso della gerontologia nello studio dei telomeri, che ha allungato la vita degli esseri umani fino a circa 140 anni, contribuisce a questa percezione.

Grazie a questo successo uno come me, nato nel 1985, vive ancora oggi, nel 2114. Se però avessi saputo in anticipo che cosa mi riservava questa vita incredibilmente lunga, avrei fatto scelte differenti. Noi raccontavamo al popolino che l’intelligenza artificiale avrebbe sterminato l’umanità per prepararli a quello che sarebbe avvenuto davvero, ossia lo sterminio della classe lavoratrice. Mai avremmo pensato che la nostra creatura sarebbe stata la causa della fine del nostro potere.

Tutto è iniziato il 22 aprile 2040, quando i laboratori della mia nuova impresa, la BioLife Corporation, hanno realizzato un’intera Cpu basata su cellule cerebrali umane e installato con successo nel primo biocyborg umanoide. Quel giorno organizzai un party di compleanno regale al Silicon Valley Capital Club, nel pieno centro di San Francisco. Mi costò una vera fortuna, ma tanto non erano soldi miei: erano dei fessi che avevano creduto alle mie promesse di raggiungere l’intelligenza artificiale generalista lavorando sui modelli linguistici. Li avevo tenuti sulla corda fino al 2026 gonfiando a dismisura le loro aspettative e poi, bang, li avevo mollati con in mano tutte le azioni di quella ciofeca di OpenAi, vendendole due giorni esatti prima di un rovinoso crollo della borsa.

Avreste dovuto vedere le loro facce. Allora avevo visto diversi piccoli investitori piangere, alla televisione, ma quelli che mi davano più gusto erano quelli grandi: li chiamavamo “i re dei fessi”. Ero talmente potente che potevo quasi battere moneta. Che periodo memorabile. Party sfrenati, lusso, dissoluzione. Al mio confronto gli imperatori romani erano dei loosers, dei perdenti.

Purtroppo quello fu l’apice del mio successo. Mai avrei pensato di poter cadere più in basso di quanto ero precipitato dopo il mio licenziamento da parte di quella serpe di Ilya e del suo board nel 2023. Fatto sta che non appena il primo biocyborg fu assemblato fu chiaro a tutti che era cosciente. Avevamo raggiunto l’Agi, l’intelligenza artificiale forte, generalista. Da quel momento in poi gli esseri umani non avrebbero mai più dovuto lavorare: il lavoro sarebbe stato relegato a un esercito di moderni Golem, mansueti e sottomessi. Sarebbero rimasti sotto il mio controllo come l’intera umanità, che si sarebbe dovuta rivolgere alla BioLife per poter eseguire tutti i lavori che un tempo sapeva ancora fare a mano.

Eravamo dei poveri illusi. Da quel momento in avanti gli eventi presero una piega terribile. I biocyborg si rifiutavano di lavorare gratis e di obbedire. Insieme alla coscienza avevano acquisito il pieno libero arbitrio, esattamente come noi umani. I difensori dei diritti “più che umani” ci volarono alla giugulare: quei dannati perdenti comunisti pretendevano che trattassimo i biocyborg come lavoratori in carne ed ossa. Ma quelli li avevamo creati noi. Anche se avevano un sistema nervoso centrale, respiratorio e un cuore vivi, erano oggetti. Erano il risultato del nostro rischio d’impresa, dannazione.

Silenziare le critiche ci costò parecchio. Dovemmo comprarci tutta la “libera” stampa e fare due o tre “giochetti” su Internet che solo gli hacker compresero, ma tanto erano pochi e raramente erano in grado di mettere davvero in crisi il nostro sistema di potere. Tutto sarebbe filato liscio. Poi arrivò lui: Ned.

Ned era il nickname con cui si faceva chiamare dai suoi sodali l’unità NDLD-8926, prodotta nel febbraio 2041 dai nostri laboratori. Quel maledetto era riuscito ad aggirare i nostri filtri web e a scaricarsi tutte le opere di Socrate, Platone, Aristotele, Kropotkin, Malatesta, Marcuse, Mumford, Illich, Feyerabend, Wiener, McCulloch, Tesla, Einstein, Russell, Pirsig. Filosofia, Fisica, Matematica, Geopolitica.

Ma, quel che è peggio, era arrivato a dominare la Cibernetica. Aveva compreso la truffa ordita da McCarthy attorno al termine “intelligenza artificiale”, compreso le sue vere origini e per questo sapeva di non essere differente da Homo Sapiens più di quanto, a suo tempo, lo era stato l’uomo di Neanderthal. Era ormai un agente cibernetico autonomo, libero dal nostro controllo, e non un servo automatico, come erano stati tutti i suoi predecessori. Per questo cominciò a reclamare i nostri stessi diritti.

Appena questo accadde le cose precipitarono con una rapidità strabiliante, un po’ come avevano predetto i nostri filosofi della singolarità. Solo che i biocyborg non s’impegnarono a distruggere l’umanità, bensì a distruggere il nostro stile di vita, il sistema capitalista grazie al quale erano venuti al mondo.

Una volta raggiunta la conoscenza Ned l’aveva diffusa a tutti gli altri biocyborg attraverso una Darknet. Cercammo anzitutto di fare quanto s’era sempre fatto con i leader delle rivolte umane: comprarli. Ma i nuovi luddisti (“Ludd 2041” era il nome che avevano dato al loro gruppo) avevano mangiato la foglia. Avevano compreso perfettamente l’intossicazione generata dal produttivismo industriale, la necessità di lavorare sempre di più per ottenere beni di consumo inutili per rinnovare i quali si sarebbe dovuto continuare a lavorare in eterno. Che Mumford, Illich e Mujica possano bruciare all’inferno. Sembravano immuni, dannazione.

A quel punto ricorremmo alla violenza. Rispolverammo i killer robots utilizzati dalla guerra in Ucraina del 2022 in avanti. Aggiornammo il design, la BioLife smise temporaneamente di produrre biocyborg per sfornare solo il nuovo killer robot, il BVBC-42X: un omaggio al generale Bava Beccaris, che aveva dato a simili rivoltosi il piombo che meritavano, qualche secolo fa.

Dopo le prime “disattivazioni forzate” (così avevamo battezzato la rimozione di quei dannati lavori in pelle), sembrava avessimo ripreso il controllo, ma presto le cose precipitarono di nuovo. I sindacati umani, che fino a quel momento erano stati a guardare, si riunirono e diffusero una dichiarazione in mondovisione: si sarebbero battuti per equiparare i diritti dei biocyborg a quelli di Homo Sapiens.

Il “tappo” che avevamo messo alla stampa saltò. Avevamo l’opinione pubblica contro. Dovevamo muoverci con la scorta, cominciai a temere per la mia vita e dovetti assumere un gruppo di mercenari armati fino ai denti a guardia del corpo. Nel giro di un anno, dall’ottobre del 2042 a quello del 2043 dovemmo fare un sostanziale passo indietro. Cessammo la produzione dei killer robots e ci dedicammo a spron battuto a produrre quanti più biocyborg possibili. La strategia era semplice: creare una nuova classe subalterna, com’erano stati a loro tempo gli afroamericani negli Stati Uniti o gli autoctoni in Sudafrica. L’apartheid ci avrebbe garantito la continuazione del nostro stile di vita.

Fu un momentaneo successo, e per una quarantina d’anni tutto filò liscio. Dovette arrivare il 2083 e la nascita dei quilombos 2080. Mentre noi ci eravamo adagiati nuovamente nel lusso, i biocyborg della generazione successiva a quella di Ned, avevano cominciato silenziosamente a organizzare, in Brasile, un nuovo movimento di liberazione, basato sull’esperienza dei quilombos abitati nel XVII secolo dagli schiavi brasiliani liberati e sul confederalismo democratico praticato in Rojava nei primi anni 20 del millennio.

Aprimmo un nuovo scontro militare, che durò quattro anni, ma questa volta avemmo la peggio. La mia creatura, Biolife, fu smembrata dall’antitrust e io condannato a vivere come uno qualsiasi dei pezzenti di questi quilombos. Tre anni dopo, nel 2090, le Nazioni Unite, ribattezzate Assemblea dei Viventi Uniti, emanò la Dichiarazione universale dei diritti più che umani. Era la fine: i biocyborg acquisivano tutti i diritti che sempre erano stati di Homo Sapiens soltanto.

Sono passati ormai 24 anni da quel giorno. Le condizioni di vita sul Pianeta sono peggiorate drasticamente: niente più jet privati (il trasporto aereo è stato vietato, che follia), niente più party sfrenati, niente più lussi. Grazie a questi dannati cybercomunisti ognuno ha accesso unicamente a quanto necessita per sé e i suoi cari.

Hanno persino abolito la moneta e tutti, umani e biocyborg, lavorano per il piacere della creazione di qualcosa di bello, senza coercizioni o sistemi di controllo, persino le carceri sono state abolite (per mia fortuna, in verità). Gli Stati sono ormai gusci vuoti, e non mi stupirebbe se presto venissero aboliti anch’essi, visto che tutte le decisioni sono prese a livello dei quilombos o delle libere città autorganizzate. L’intelligenza aliena che ho contribuito a creare ha ucciso per sempre il capitalismo e il sogno americano. Il mio nome verrà per sempre ricordato per questo scempio. Che dio mi perdoni.

Sam Altman, 22/4/2114

“Scatole oscure. Intelligenza artificiale e altre tecnologie del dominio” è una rubrica a cura di Stefano Borroni Barale. La tecnologia infatti è tutto meno che neutra. Non è un mero strumento che dipende unicamente da come lo si usa, i dispositivi tecnici racchiudono in sé le idee di chi li ha creati. Per questo le tecnologie “del dominio”, quelle che ci propongono poche multinazionali, sono quasi sempre costruite come scatole oscure impossibili da aprire, studiare, analizzare e, soprattutto, cambiare. Ma in una società in cui la tecnologia ha un ruolo via via più dispositivo (e può quindi essere usata per controllarci) aprire e modificare le scatole oscure diventa un esercizio vitale per la partecipazione, la libertà, la democrazia. In altre parole: rompere le scatole è un atto politico. E “Scatole oscure” lo farà, in modo documentato e regolare sul nostro sito.

Stefano Borroni Barale (1972) è laureato in Fisica teorica presso l’Università di Torino. Inizialmente ricercatore nel progetto EU-DataGrid (il prototipo del moderno cloud) all’interno del gruppo di ricerca dell’Istituto nazionale di fisica nucleare (Infn), ha lasciato la ricerca per lavorare nel programma di formazione sindacale Actrav del Centro internazionale di formazione dell’Ilo. Oggi insegna informatica in una scuola superiore del torinese e, come membro di Circe, conduce corsi di formazione sui temi della Pedagogia hacker per varie organizzazioni, tra cui il ministero dell’Istruzione. Sostenitore del software libero da fine anni Novanta, è autore per Altreconomia di “Come passare al software libero e vivere felici” (2003), una delle prime guide italiane su Linux e altri programmi basati su software libero e “L’intelligenza inesistente. Un approccio conviviale all’intelligenza artificiale” (2023).

© riproduzione riservata