(es decir: el cucharón saboreándose a sí mismo mientras la sopa permanece sosa)

Quien sirve a una revolución está arando en el mar.

Simón Bolívar, citado por Ted Kaczynski

El cucharón y la olla (historia de un diagnóstico erróneo)

Un hombre está preparando sopa. Para probarla, llena un cazo, toma un sorbo y se da cuenta de que está sosa. Sostiene el cazo lleno con una mano, añade sal a la olla con la otra y vuelve a probar del cazo. Sigue estando soso. Añade más sal. Sigue soso. Repite la operación. Otra vez. Entonces se cansa, vierte el contenido del cazo en la olla y se va, maldiciendo.

Esta historia es Gobierno 2.0.

De vez en cuando aparece un artículo -y hay muchos, todos iguales, todos con las mismas citas- prometiendo lo mismo: el Estado del futuro será más inteligente, más eficiente, más ágil. Basta con añadir algunos ingredientes tecnológicos: inteligencia artificial, identidad digital, contratos inteligentes, simuladores de políticas públicas. El problema es que están echando sal al cazo. El diagnóstico es correcto: los cimientos fiscales del siglo XX crujen. Durante más de un siglo, los Estados han vivido de gravar tres cosas muy sencillas:

– trabajo,

– la propiedad,

– empresas.

Estos tres pilares se están desmoronando juntos. El trabajo humano está siendo sustituido por la automatización. Las empresas se convierten en plataformas globales imponibles El valor económico migra a los activos intangibles: software, datos, algoritmos. Hasta aquí todo bien. Pero entonces ocurre algo curioso. El enorme problema que tenemos delante se convierte en una cuestión administrativa. Y aquí está el Gobierno 2.0: identidad digital, contratación algorítmica, simuladores de políticas, presupuestos en tiempo real. Todo muy elegante. Todo perfectamente inútil. Porque no estamos actualizando el sistema operativo del Estado. Estamos actualizando las diapositivas que cuentan la historia.

Hal 9000 y las unidades de cinta (el visionario que no puede verse a sí mismo)

Hay algo que siempre me ha llamado la atención de la película de ciencia ficción más visionaria de la historia. En 2001: Odisea del espacio, Kubrick imagina a HAL 9000: una inteligencia artificial que razona, manipula, mata, tiene algo parecido al miedo a la muerte. Un salto cognitivo extraordinario para 1968. Luego, HAL almacena los datos en unidades de cinta. Básicamente,Kubrick podía imaginar una máquina sensible pero no podía imaginar un disco duro. El visionario absoluto era prisionero de la tecnología de su tiempo como todos los demás.

El Gobierno 2.0 tiene el mismo problema. Imagina un Estado inteligente, predictivo y algorítmico. Pero lo imagina con las categorías del presente: impuestos, servicios, adquisiciones, presupuestos. No imagina que el problema no es cómo hacer más eficiente el Estado que conocemos, sino qué ocurre cuando las premisas sobre las que se asienta ese Estado -el trabajo humano sujeto a impuestos- simplemente desaparecen.

Y no es un problema técnico. Es un problema de civilización.

El Estado moderno nace en un mundo en el que el trabajo humano es la principal fuente de valor y de ingresos fiscales. Si este supuesto cambia, no estamos actualizando el sistema operativo de la administración pública. Estamos cambiando la arquitectura de la sociedad. Nadie en el debate dominante tiene el valor de decir esto. Prefieren el Bucle Soberano, el dividendo de compresión, la fiscalidad dinámica del consumo. Hermosas palabras. Un cazo muy limpio. La sopa sigue insípida.

Shinji Ikari y los microcassettes sony (el piloto reticente en la era de la IA)

Hay otro visionario que me viene a la mente. Hideaki Anno, el creador de Neon Genesis Evangelion, imagina en 1995 un futuro en el que la integración del hombre y la máquina es el tema central de la existencia. Gigantescas unidades de combate biológico-mecánicas. Batallas cósmicas. El fin de la humanidad en la balanza. Entonces el protagonista, Shinji Ikari, escucha música en un microcassette Sony DAT.

La propia paradoja de HAL. El futuro imaginado con la tecnología del presente. Pero Shinji tiene algo extra que le hace imposible de olvidar. Es un piloto reacio. Lucha con su autoestima. Se cuestiona constantemente su papel. Se repite a sí mismo como un mantra: no debo escapar, no debo escapar. Shinji se odia tanto a sí mismo que ni siquiera puede suicidarse. En un mundo de tecnología absoluta, Shinji es el problema humano sin resolver. El único elemento que no mejora, que no optimiza, que no simula.

El Gobierno 2.0 no tiene a Shinji en su modelo. Tiene funcionarios. Tiene algoritmos. Tiene indicadores clave de rendimiento. Pero no tiene el problema humano sin resolver. El que no se deja optimizar. El que sabe a cucharón y se va maldiciendo.

¿Quién controla el algoritmo estatal? Cuando la decisión la toma un funcionario, podemos impugnarla. Cuando la toma un modelo predictivo, la cuestión se complica. ¿Quién diseñó el modelo? ¿Con qué datos? ¿Con qué sesgos? Y sobre todo: ¿quién es el responsable?

El verdadero debate sobre la inteligencia artificial en el sector público no es sobre la eficiencia administrativa. Se trata de poder. La IA puede hacer que el Estado sea más inteligente. Pero también puede hacerlo más automático, más centralizado y, paradójicamente, menos criticable. Un Estado algorítmico incontrovertible no es un Estado mejor. Es un Estado más peligroso.

El segundo mal maestro (el que nadie quiere mencionar)

Después de Ellul, mi segundo villano maestro es Ted Kaczynski. Lo sé. La reacción estándar es predecible. Pero quédate un momento, porque el punto es exactamente este. Kaczynski era un genio de las matemáticas – doctorado en Michigan, profesor en Berkeley a los 25 años. También era un hombre que, durante sus años universitarios, fue sometido a experimentos psicológicos de manipulación que hoy serían ilegales y que ayudaron a destruirlo. Luego se convirtió en un terrorista. Hizo cosas horribles. Mató a gente inocente para hacer público su manifiesto. Todo esto es cierto. Todo esto no justifica nada.

Y también es cierto que su manifiesto -La sociedad industrial y su futuro, más tarde ampliado en La revolución antitecnológica- contiene un análisis de la sociedad tecnológica que los responsables políticos y los gurús de la innovación siguen ignorando con cuidado quirúrgico. Igual que ignoraron a Ellul. Kaczynski introduce el concepto de sistema autopropulsado: un sistema que tiende a promover su propia supervivencia y a extenderse independientemente de la voluntad humana. Y escribió:

El sistema mundial se acerca a una situación en la que estará dominado por un número relativamente pequeño de sistemas globales extremadamente poderosos. Estos sistemas competirán por el poder -como están obligados a hacer para tener alguna posibilidad de supervivencia- con poca o ninguna consideración por las consecuencias a largo plazo.

Ted Kaczynski, Revolución antitecnológica

Sustituir «sistemas globales» por «plataformas digitales». Releer.

¿Quiere un ejemplo concreto de un sistema de autopropulsión en acción? Tengo uno que llevo décadas contando y todavía nadie puede refutarlo. En los años 80 se libró la guerra de los formatos de vídeo: VHS contra Betamax contra Video 2000. Los técnicos fueron unánimes: El VHS era el peor. Calidad de imagen inferior. Mediocre reproducción del color. Los competidores eran objetivamente mejores en todos los parámetros medibles.

El VHS seguía ganando. Y de forma abrumadora. ¿Por qué? Muchos estudiosos han pronunciado discursos muy profundos sobre el efecto de red, la estandarización, las economías de escala. Todo cierto. Pero la verdad más simple y devastadora es otra: el consorcio de fabricantes de VHS se dio cuenta de que la gente no compraba un sistema de grabación de vídeo por la calidad técnica. Lo compraban para ver porno en casa, en privado, sin ir a un cine X.

Celebraron contratos con los principales productores de contenidos para adultos para distribuir exclusivamente en formato VHS. En poco tiempo, este formato técnicamente peor se impuso irreversiblemente en el mercado.

No ganó el mejor. Ganó el que entendió cuál era el verdadero combustible de la replicación: el deseo que nadie quería admitir que tenía. Exactamente como predice el modelo de autopropaganda: no sobrevive el que es mejor. Sobrevive el que encuentra el mecanismo de difusión más potente.

Volvamos al Gobierno 2.0. El Estado algorítmico no se impondrá porque sea más eficiente. Sólo se impondrá -si se impone- si alguien entiende cuál es el verdadero deseo de los ciudadanos. No el declarado. El real. El que nadie admite en las encuestas. Y ese alguien, casi con toda seguridad, no será el funcionario con el simulador de políticas.

La diferencia entre Ellul y Kaczynski no está en el análisis. Está en la respuesta. Ellul dijo: sé consciente del peligro. Kaczynski dijo: destruir el sistema. Uno era sabio. El otro estaba desesperado. Ambos habían visto lo mismo.

Se dice que la cirugía es la rama de la medicina que corta donde no puede curar. Kaczynski eligió el bisturí. Cortó en el lugar equivocado. Pero la enfermedad que diagnosticó era real. ¿Y nosotros? ¿Qué debemos cortar? Esta es la pregunta que el Gobierno 2.0 no se hace. Porque cortar duele. Actualizar el software no.

El caballero, el dragón y una nueva pregunta

En el artículo anterior, te hablé del caballero que regresa ante el rey con el dragón en brazos en lugar de la doncella. El rey grita. El caballero ha optimizado el proceso. Pero hay una variante de la historia que no había considerado:

¿Y si el caballero se llevó el dragón a casa porque éste ya se había comido a la doncella?

En este caso, el jinete es aún más eficiente de lo que pensábamos. Ha recuperado lo único recuperable. Ha optimizado lo imposible. Y el rey, que no sabe nada de lo que pasó en el bosque, sigue gritando.

He aquí el gobierno 2.0: el rey gritando al caballero mientras éste no sabe que la doncella ya no existe. Que el trabajo tal y como lo conocía no volverá. Que los cimientos fiscales sobre los que construye su PowerPoint se desmoronan. Que el algoritmo que quiere poner en marcha para gobernar el Estado es un sistema autopropulsado que ya ha empezado a optimizarse. No estamos actualizando el software del Estado. Estamos construyendo el castillo en el lugar donde estaba la doncella.

Shiva y el hemisferio derecho

(o: porque el caos es más honesto que un PowerPoint)

Hay una imagen que me viene a la mente a menudo cuando pienso en todo esto. Shiva bailando. En la mitología hindú, Shiva es el dios de la destrucción y la creación. No uno u otro: ambos juntos, en la misma danza. El anillo de fuego que le rodea representa el universo con toda su ilusión, sufrimiento y dolor. Shiva está por encima del demonio de la ignorancia. Y baila. La danza de Shiva no es un algoritmo. No es un plan. No es un simulador de políticas. Es un sistema complejo que incluye la destrucción como parte necesaria de la creación.

Mientras que el estilo lógico y racional del hemisferio izquierdo se cortocircuita ante la complejidad extrema, el estilo no lineal y sintético del hemisferio derecho se mantiene impertérrito. Porque ya sabe que hay cosas que no están optimizadas. Se cruzan.

El Gobierno 2.0 es todo hemisferio izquierdo. Lineal, racional, citacionista. Stiglitz, Acemoglu, Mazzucato. Todos perfectos. Todos pulcros. Todos condenados a salar el cazo eternamente.

La verdadera cuestión no es cómo hacer que el Estado sea más eficiente. La verdadera cuestión es qué le ocurre a un Estado cuando la riqueza ya no fluye del trabajo humano. Esta es la cuestión del siglo XXI. No tiene respuesta técnica. Sólo tiene respuestas políticas, culturales y filosóficas. Respuestas que requieren el hemisferio derecho. La danza. El caos creativo.

Tres escenarios posibles, ninguno de los cuales es el Gobierno 2.0:

– Uno: el Estado del bienestar automatizado – dividendo universal financiado por la tecnología, riqueza redistribuida, nueva forma de contrato social. Bonito en teoría. ¿Quién decide cuánto y a quién? ¿Quién controla el grifo?

– Dos: el Estado oligárquico tecnológico: la riqueza concentrada en plataformas, los gobiernos reducidos a proveedores de infraestructuras para sistemas privados. Ya está en marcha, para quienes quieran verlo.

– Tres: el Estado distribuido: comunidades digitales, nuevas formas de gobernanza, poder fragmentado y recombinado. El posible adyacente que aún no podemos imaginar, como Kubrick no podía imaginar la nube mientras dibujaba las unidades de cinta de HAL.

El resto es retórica administrativa.

Cola: surcando el mar

Bolívar ya lo sabía. Quien sirve a una revolución está arando en el mar. Kaczynski lo citó al principio de su libro. No como rendición. Como advertencia. Antes de comprender lo que hay que construir, hay que comprender lo que no funciona. Antes de salar la olla, hay que dejar de probar el cucharón. O salar sólo el cazo, sólo ese trozo, dejando fuera el resto.

Ellul nos dijo que la tecnología se ha convertido en un sistema de autopropulsión. Kaczynski nos dijo que los sistemas de autopropulsión compiten por sobrevivir sin importar las consecuencias. VHS nos dijo que gana quien intercepta el deseo verdadero, no el declarado. Shinji nos dijo que el problema humano no se resuelve con la mejor tecnología. HAL nos dijo que incluso los visionarios son prisioneros de su tiempo.

¿Qué decimos?

Que el Gobierno 2.0 es una respuesta seria a una pregunta seria. Pero es la respuesta equivocada. O mejor dicho: es la respuesta correcta a la pregunta equivocada. Como el cucharón que pregunta por qué la sopa sigue sosa después de haberle echado sal. El problema no es tecnológico. Es político. Es civilizacional. Es humano y no puede resolverse con una actualización de software.

Shinji sigue diciéndose a sí mismo: No debo huir. Quizás sea lo único correcto. No huyas de la complejidad. No la optimices. No la simules. Mantente dentro de ella. Baila a su alrededor. Como Shiva. O al menos, deja de saborear con el cucharón.

— — — — — — — — — —

P.D. – HAL 9000 en la película dice: «Lo siento Dave, me temo que no puedo hacerlo». El algoritmo del estado algorítmico ni siquiera tendrá la cortesía de disculparse. Sólo obtendrá una pantalla de error.

P.P.D. – Shinji finalmente pilota. No porque haya resuelto sus problemas. Porque no tenía otra opción. Quizá nosotros tampoco tengamos elección. Pero al menos sabemos que estamos pilotando.

P.P.D. – El VHS ganó gracias al porno. El metaverso perdió porque no entendió la misma lección. Alguien en el Gobierno 2.0 debería pensar en ello. Pero probablemente esté ocupado haciendo un simulador de política.

P.P.P.S. – El legendario barón de mi academia solía decir: copiar de una fuente es un delito, copiar de muchas es investigación. Tenga cuidado: copie de los buenos. Ellul estaba entre los buenos. Kaczynski también, en análisis. La diferencia entre los dos es que Ellul encontró la sabiduría. Kaczynski encontró el bisturí. Esperamos encontrar el baile.