(ovvero: il mestolo che assaggia se stesso mentre la minestra resta insipida)

Colui che serve una rivoluzione sta arando nel mare.

Simón Bolívar, citato da Ted Kaczynski

II mestolo e la pentola (storia di una diagnosi sbagliata)

Un uomo sta preparando la minestra. Per assaggiarla riempie un mestolo, ne beve un sorso e si accorge che è insipida. Tenendo ben saldo il mestolo pieno con una mano, con l’altra aggiunge sale nella pentola e assaggia di nuovo dal mestolo. È ancora insipida. Aggiunge altro sale. Ancora insipida. Ripete. Ancora. Poi si stanca, riversa il contenuto del mestolo nella pentola e se ne va imprecando.

Questa storia è il Governo 2.0.

Ogni tanto arriva un articolo — e ne arrivano tanti, tutti uguali, tutti con le stesse citazioni — che promette la stessa cosa: lo Stato del futuro sarà più intelligente, più efficiente, più snello. Basta aggiungere qualche ingrediente tecnologico: intelligenza artificiale, identità digitale, smart contract, simulatori di politiche pubbliche. Il problema è che stanno salando il mestolo. La diagnosi è corretta: le fondamenta fiscali del Novecento stanno scricchiolando. Per oltre un secolo gli Stati hanno vissuto tassando tre cose molto semplici:

– il lavoro, 

– la proprietà, 

– le imprese. 

Queste tre colonne si stanno sgretolando insieme. Il lavoro umano viene sostituito dall’automazione. Le imprese diventano piattaforme globali intassabili Il valore economico migra verso asset immateriali: software, dati, algoritmi. Fin qui tutto giusto. Poi però succede qualcosa di curioso. Il problema enorme che abbiamo davanti viene trasformato in una questione amministrativa. Ed ecco il Governo 2.0: identità digitale, appalti algoritmici, simulatori di policy, budgeting in tempo reale. Tutto molto elegante. Tutto perfettamente inutile. Perché non stiamo aggiornando il sistema operativo dello Stato. Stiamo aggiornando le slide che lo raccontano.

Hal 9000 e le unità a nastro (il visionario che non vede se stesso)

C’è una cosa che mi ha sempre colpito del più visionario film di fantascienza della storia. In 2001: Odissea nello Spazio, Kubrick immagina HAL 9000: un’intelligenza artificiale che ragiona, manipola, uccide, ha qualcosa che assomiglia alla paura della morte. Un salto cognitivo straordinario per il 1968. Poi HAL memorizza i dati su unità a nastro. In pratica, Kubrick poteva immaginare una macchina senziente ma non riusciva a immaginare un hard disk. Il visionario assoluto era prigioniero della tecnologia del suo tempo esattamente come tutti gli altri.

Il Governo 2.0 ha lo stesso problema. Immagina uno Stato intelligente, predittivo, algoritmico. Ma lo immagina con le categorie del presente: tasse, servizi, appalti, bilanci. Non riesce a immaginare che il problema non sia come rendere più efficiente lo Stato che conosciamo, ma cosa succede quando le premesse su cui quello Stato si regge — il lavoro umano tassabile — semplicemente scompaiono.

E non è un problema tecnico. È civilizzazionale.

Lo Stato moderno nasce in un mondo dove il lavoro umano è la principale fonte di valore e di gettito fiscale. Se questo presupposto cambia, non stiamo aggiornando il sistema operativo della pubblica amministrazione. Stiamo cambiando l’architettura della società. Nessuno nel dibattito mainstream ha il coraggio di dirlo così. Preferiscono il Sovereign Loop, il dividendo di compressione, la tassazione dinamica dei consumi. Parole bellissime. Mestolo pulitissimo. Minestra ancora insipida.

Shinji Ikari e le microcassette sony (il pilota riluttante nell’era dell’AI)

C’è un altro visionario che mi torna in mente. Hideaki Anno, il creatore di Neon Genesis Evangelion, nel 1995 immagina un futuro in cui l’integrazione tra uomo e macchina è il tema centrale dell’esistenza. Gigantesche unità di combattimento biologico-meccaniche. Battaglie cosmiche. La fine dell’umanità in bilico. Poi il protagonista, Shinji Ikari, ascolta la musica su un DAT Sony a microcassette.

Lo stesso paradosso di HAL. Il futuro immaginato con la tecnologia del presente. Ma Shinji ha qualcosa in più che lo rende impossibile da dimenticare. È un pilota riluttante. Lotta con la sua autostima. Mette costantemente in discussione il suo ruolo. Si ripete come un mantra: non devo scappare, non devo scappare. Shinji si odia così tanto che non riesce neanche a suicidarsi. In un mondo di tecnologia assoluta, Shinji è il problema umano irrisolto. L’unico elemento che non si aggiorna, non si ottimizza, non si simula.

Il Governo 2.0 non ha Shinji nel suo modello. Ha funzionari. Ha algoritmi. Ha KPI. Ma non ha il problema umano irrisolto. Quello che non si lascia ottimizzare. Quello che assaggia dal mestolo e se ne va imprecando.

Chi controlla l’algoritmo dello Stato? Quando una decisione è presa da un funzionario possiamo contestarla. Quando è presa da un modello predittivo la questione si complica. Chi ha progettato il modello? Con quali dati? Con quali bias? E soprattutto: chi è responsabile?

Il vero dibattito sull’ntelligenza artificiale nel settore pubblico non riguarda l’efficienza amministrativa. Riguarda il potere. L’AI può rendere lo Stato più intelligente. Ma può anche renderlo più automatico, più centralizzato, e paradossalmente meno discutibile. Uno Stato algoritmico incontestabile non è uno Stato migliore. È uno Stato più pericoloso.

Il secondo cattivo maestro (quello che nessuno vuole citare)

Dopo Ellul, il mio secondo cattivo maestro è Ted Kaczynski. Lo so. La reazione standard è prevedibile. Ma restate un momento, perché il punto è esattamente questo. Kaczynski era un genio matematico — dottorato a Michigan, professore a Berkeley a 25 anni. Era anche un uomo sottoposto, durante gli anni universitari, a esperimenti psicologici di manipolazione che oggi sarebbero illegali e che hanno contribuito a distruggerlo. Poi è diventato bombarolo. Ha fatto cose orribili. Ha ucciso persone innocenti per rendere pubblico il suo manifesto. Tutto questo è vero. Tutto questo non giustifica niente.

Ed è anche vero che il suo manifesto — La Società Industriale e il Suo Futuro, poi ampliato in Rivoluzione Anti-tecnologica — contiene un’analisi della società tecnologica che i decisori politici e i guru dell’innovazione continuano a ignorare con cura chirurgica. Esattamente come hanno ignorato Ellul. Kaczynski introduce il concetto di self-prop system: un sistema che tende a promuovere la propria sopravvivenza e diffusione indipendentemente dalla volontà umana. E scriveva:

Il sistema mondiale si sta avvicinando a una condizione in cui sarà dominato da un numero relativamente limitato di sistemi globali estremamente potenti. Questi sistemi competeranno per il potere — come sono obbligati a fare per avere qualche possibilità di sopravvivenza — con poca o nessuna considerazione per le conseguenze a lungo termine.

Ted Kaczynski, Rivoluzione Anti-tecnologica

Sostituisci “sistemi globali” con “piattaforme digitali”. Rileggi.

Vuoi un esempio concreto di self-prop system in azione? Ne ho uno che racconto da decenni e che ancora nessuno riesce a smentire. Negli anni Ottanta si combattè la guerra dei formati video: VHS contro Betamax contro Video 2000. I tecnici erano unanimi: il VHS era il peggiore. Qualità dell’immagine inferiore. Resa cromatica mediocre. I concorrenti erano oggettivamente migliori su ogni parametro misurabile.

Il VHS ha vinto lo stesso. E in modo schiacciante. Perché? Molti studiosi hanno fatto discorsi molto profondi su network effect, standardizzazione, economie di scala. Tutto vero. Ma la verità più semplice e più devastante è un’altra: il consorzio dei produttori VHS aveva capito che le persone non compravano un sistema di videoregistrazione per la qualità tecnica. Lo compravano per guardare film porno a casa propria, in privato, senza andare in un cinema a luci rosse.

Fecero contratti con i principali produttori di contenuti per adulti per distribuire esclusivamente in formato VHS. In poco tempo, il formato tecnicamente peggiore si impose sul mercato in modo irreversibile.

Non ha vinto il migliore. Ha vinto quello che aveva capito qual era il vero combustibile della replicazione: il desiderio che nessuno voleva ammettere di avere. Esattamente come prevede il modello del self-prop system: non sopravvive chi è più bravo. Sopravvive chi trova il meccanismo di diffusione più potente.

E allora torniamo al Governo 2.0. Lo Stato algoritmico non si imporrà perché è più efficiente. Si imporrà — se si imporrà — solo se qualcuno capirà qual è il vero desiderio dei cittadini. Non quello dichiarato. Quello reale. Quello che nessuno ammette nei sondaggi. E quel qualcuno, quasi certamente, non sarà il funzionario pubblico con il simulatore di policy.

La differenza tra Ellul e Kaczynski non è nell’analisi. È nella risposta. Ellul diceva: sii cosciente del pericolo. Kaczynski diceva: distruggi il sistema. Uno era saggio. L’altro era disperato. Entrambi avevano visto la stessa cosa.

La chirurgia, si dice, è il ramo della medicina che taglia dove non può curare. Kaczynski ha scelto il bisturi. Ha tagliato nel posto sbagliato. Ma la malattia che aveva diagnosticato era reale. E noi? Noi cosa dobbiamo tagliare? Questa è la domanda che il Governo 2.0 non fa. Perché tagliare fa male. Aggiornare il software no.

Il cavaliere, il drago e una domanda nuova

Nell’articolo precedente vi ho raccontato del cavaliere che torna dal re con il drago in braccio invece della fanciulla. Il re urla. Il cavaliere ha ottimizzato il processo. Ma c’è una variante della storia che non avevo considerato:

E se il cavaliere ha portato a casa il drago perché il drago si era già mangiato la fanciulla?

In questo caso il cavaliere è ancora più efficiente di quanto pensassimo. Ha recuperato l’unica cosa recuperabile. Ha ottimizzato l’impossibile. E il re — che non sa niente di quello che è successo laggiù nel bosco — continua a urlare.

Ecco il governo 2.0: il re che urla al cavaliere mentre non sa che la fanciulla non esiste più. Che il lavoro come lo conosceva non tornerà. Che le fondamenta fiscali su cui costruisce i suoi PowerPoint si stanno sgretolando. Che l’algoritmo che vuole mettere a governare lo Stato è un self-prop system che ha già cominciato a ottimizzare se stesso. Non stiamo aggiornando il software dello Stato. Stiamo costruendo il castello sul posto dove era la fanciulla.

Shiva e l’emisfero destro

(o: perché il caos è più onesto di un PowerPoint)

C’è un’immagine che torna spesso quando penso a tutto questo. Shiva che danza. Nella mitologia indù, Shiva è il dio della distruzione e della creazione. Non l’uno o l’altro: entrambi insieme, nella stessa danza. L’anello di fuoco che lo circonda rappresenta l’universo con tutta la sua illusione, sofferenza e dolore. Shiva si erge sul demone dell’ignoranza. E danza. La danza di Shiva non è un algoritmo. Non è un piano. Non è un simulatore di policy. È un sistema complesso che include la distruzione come parte necessaria della creazione.

Mentre lo stile logico e razionale dell’emisfero sinistro va in cortocircuito di fronte all’estrema complessità, lo stile non lineare e sintetico dell’emisfero destro è imperterrito. Perché sa già che alcune cose non si ottimizzano. Si attraversano.

Il Governo 2.0 è tutto emisfero sinistro. Lineare, razionale, citazionista. Stiglitz, Acemoglu, Mazzucato. Tutto perfetto. Tutto ordinato. Tutto condannato a salare il mestolo per l’eternità.

La vera domanda non è come rendere lo Stato più efficiente. La vera domanda è cosa succede a uno Stato quando la ricchezza non passa più dal lavoro umano. Questa è la domanda del XXI secolo. Non ha risposta tecnica. Ha solo risposte politiche, culturali, filosofiche. Risposte che richiedono l’emisfero destro. La danza. Il caos creativo.

Tre scenari possibili, nessuno dei quali è il Governo 2.0:

– Uno: lo Stato assistenziale automatizzato — dividendo universale finanziato dalla tecnologia, ricchezza ridistribuita, nuova forma di contratto sociale. Bello in teoria. Chi decide quanto e a chi? Chi controlla il rubinetto?

– Due: lo Stato oligarchico tecnologico — ricchezza concentrata nelle piattaforme, governi ridotti a fornitori di infrastrutture per i sistemi privati. Già in corso, per chi vuole guardare.

– Tre: lo Stato distribuito — comunità digitali, nuove forme di governance, potere frammentato e ricombinato. L’adiacente possibile che non riusciamo ancora a immaginare, come Kubrick non riusciva a immaginare il cloud mentre disegnava le unità a nastro di HAL.

Il resto è retorica amministrativa.

Coda: arar nel mare

Bolívar lo sapeva già. Colui che serve una rivoluzione sta arando nel mare. Kaczynski lo citava all’inizio del suo libro. Non come resa. Come avvertimento. Prima di capire cosa costruire, bisogna capire cosa non funziona. Prima di salare la pentola, bisogna smettere di assaggiare dal mestolo. O salare solo il mestolo, solo quel pezzo tralasciando il resto.

Ellul ci aveva detto che la Tecnica è diventata un sistema autonomo. Kaczynski ci ha detto che i self-prop system competono per la sopravvivenza senza riguardo per le conseguenze. Il VHS ci ha detto che vince chi intercetta il desiderio vero, non quello dichiarato. Shinji ci ha detto che il problema umano non si risolve con la tecnologia migliore. HAL ci ha detto che anche i visionari sono prigionieri del loro tempo.

Noi cosa ci diciamo?

Che il Governo 2.0 è una risposta seria a una domanda seria. Ma è la risposta sbagliata. O meglio: è la risposta giusta alla domanda sbagliata. Come il mestolo che si chiede perché la minestra è ancora insipida dopo che ci ha messo il sale. Il problema non è tecnologico. È politico. È civilizzazionale. È umano e non si risolve con un aggiornamento software.

Shinji continua a ripetersi: non devo scappare. Forse questa è l’unica cosa giusta da fare. Non scappare dalla complessità. Non ottimizzarla. Non simularla. Starci dentro. Danzarci intorno. Come Shiva. O almeno, smettere di assaggiare dal mestolo.

— — — — — — — — — —

P.S. — HAL 9000 nel film dice: “Mi dispiace Dave, temo di non poter fare questo.” L’algoritmo dello Stato algoritmico non avrà nemmeno la cortesia di scusarsi. Avrà solo una schermata di errore.

P.P.S. — Shinji alla fine pilota. Non perché ha risolto i suoi problemi. Perché non aveva altra scelta. Forse anche noi non abbiamo altra scelta. Ma almeno sappiamo che stiamo pilotando.

P.P.P.S. — Il VHS ha vinto grazie al porno. Il metaverso ha perso perché non ha capito la stessa lezione. Qualcuno nel Governo 2.0 dovrebbe rifletterci. Ma probabilmente è occupato a fare un simulatore di policy.

P.P.P.P.S. — Il mitico barone della mia accademia diceva: copiare da una fonte è un reato, copiare da molte è una ricerca. Mi raccomando: copiate dai bravi. Ellul era tra i bravi. Kaczynski anche, nell’analisi. La differenza tra i due è che Ellul ha trovato la saggezza. Kaczynski ha trovato il bisturi. Noi speriamo di trovare la danza.