Porque el problema no es el ojo que todo lo ve. Es la autopista que se bloquea a sí misma.

Llevamos años informando sobre la inteligencia artificial a través de los ojos. El Gran Hermano. El Ojo de Sauron. El palantír de Tolkien, la piedra vidente que todo lo muestra, todo lo filtra, todo lo subyuga. Hermosas metáforas. Poderosas. Culturalmente honestas. Y quizá ya insuficientes. No porque sean erróneas. Sino porque describen un problema que estamos dejando atrás sin darnos cuenta. Alguien las está utilizando para comentar la hermosa encíclica del Papa León, y quizá Palantir no sea la metáfora adecuada, intentemos razonar.

Tolkien aún tenía un enemigo legible. En El Señor de los Anillos, el mal es narrativamente comprensible. Hay una torre. Hay un Ojo. Hay una voluntad. El palantír muestra una realidad filtrada – pero filtrada por alguien. Saruman cree que está usando la herramienta y está siendo usado por ella. Denethor sólo ve lo que Sauron decide mostrarle.

La pauta es clara: quien controla el flujo de la visión controla al observador.

Es una metáfora perfecta de la vigilancia del siglo XX. Alguien recoge los datos, alguien los interpreta, alguien gobierna. Sigue habiendo un centro. Sigue habiendo un Sauron con un plan y un edificio con un cartel. Cuarenta años después, William Gibson ya se había dado cuenta de que las cosas estaban cambiando de forma. Tolkien aún tenía castillos. Gibson ya tenía suburbios. En el mundo de Tolkien, el mal habita en una torre. En Gibson, el mal es el tráfico.

Gibson: cuando el sistema pierde su centro. Neuromante se publicó en 1984. Gibson inventó el ciberespacio y lo definió así: una alucinación consensuada experimentada por miles de millones de operadores cada día.

No un sistema de control. Una alucinación colectiva que nadie gobierna y todos habitan. Y Wintermute -la IA de la novela- no persigue objetivos humanos. Persigue objetivos emergentes que ni siquiera sus creadores comprenden del todo. No es malvada. No tiene objetivos. Y eso es precisamente lo inquietante: estamos culturalmente preparados para los tiranos. Mucho menos para los sistemas emergentes. Tiene una dirección que nadie ha elegido deliberadamente. Gibson escribió en 1984 y describió 2026 con más precisión que Tolkien.

Porque el problema ya no es el palantír, el instrumento de dominación vertical. El problema es la alucinación horizontal: el sistema distribuido que produce efectos reales sin un centro responsable.

El atasco que no tiene causa

En 2008, el físico Yuki Sugiyama y sus colegas de la Universidad de Nagoya llevaron a cabo un experimento sencillo e inquietante. Veintidós coches en una pista circular. Velocidad constante. Sin obstáculos. Sin accidentes. Sin causas externas.

Al cabo de unos minutos, el tráfico se detiene.

Una ola de frenazos se propaga hacia atrás como un eco. Un coche frena un poco, el de detrás frena un poco más, el de detrás frena aún más. El sistema se colapsa sobre sí mismo sin que nadie lo haya querido, planeado, provocado.

Atascos fantasma

Sistemas emergentes sin director. Efectos reales sin responsabilidad localizable. Consecuencias sin intención. La IA contemporánea se está convirtiendo en algo parecido: no un cerebro central que decide, ni un ojo que vigila, sino un gigantesco atasco cognitivo distribuido donde los efectos están ahí, las decisiones suceden y el punto de origen es ilocalizable.

El problema no es que las máquinas decidan por nosotros. Es que ya nadie sabe dónde empieza la decisión.

Zuboff: no te mira, te extrae

Sin embargo, existe un mecanismo económico que alimenta el bloqueo desde el exterior y que Shoshana Zuboff ha descrito con precisión quirúrgica en su obra El capitalismo de la vigilancia.

La idea de Zuboff no es que nos vigilen. Es más radical: nuestra experiencia diaria se utiliza como materia prima para fabricar productos de predicción del comportamiento que se venden a quienes quieren cambiar nuestras decisiones futuras.

No vigilancia. Minero. Como una mina. Sólo que la mina eres tú. El problema no es que te vigilen. Es que te has convertido en materia prima.

Y la diferencia no es sutil. La vigilancia te observa. La extracción te consume lentamente, fragmento tras fragmento de experiencia, sin que sientas nada, porque cada retirada es imperceptible.

De la vigilancia a la disolución

Existe un fenómeno que los físicos llaman histéresis: el retardo entre un estímulo y la respuesta del sistema, que nunca vuelve exactamente al punto de partida. Cada deformación deja un recuerdo. Cada atajo altera ligeramente la forma interior de la persona que lo toma.

Esto es lo que ocurre desde dentro, mientras que Zuboff describe el mecanismo desde fuera.

Microelección tras microelección -qué camino tomar, qué leer, cómo responder- delegamos fragmentos de juicio en sistemas que no entienden el contexto pero conocen las probabilidades. Cada delegación reduce imperceptiblemente el umbral por debajo del cual sentimos la necesidad de decidir realmente. Reduce la fricción interna. Alivia la fatiga del juicio. Y cualquier comodidad cognitiva que se deje ahí el tiempo suficiente acaba pareciendo natural. Incluso detenerse a decidir

Lo cual no es un problema, hasta el momento en que te das cuenta de que sin ese esfuerzo ya no puedes orientarte por ti mismo. La tecnología no sólo sustituye al trabajo. Corre el riesgo de sustituir progresivamente a la responsabilidad. No con un acto de fuerza. Con mil pequeñas comodidades consecutivas.

El chatarrero y la autopista

Confieso una cosa. Trabajo con fragmentos. Tomo trozos de cábala, de rock, de complejidad, de mitología… y los reensamblo en formas que espero den sentido al presente. Es el trabajo del chatarrero: no producir nuevos materiales, sino reconocer qué viejos materiales iluminan algo nuevo.

Tolkien sigue iluminando algo. Pero ilumina la primera estación del problema: la de la vigilancia, la del poder que vigila, la del centro que controla.

Gibson ilumina el segundo: el sistema sin centro, la alucinación colectiva que nadie gobierna y todos habitan.

Tolkien seguía narrando el poder. Gibson ya narraba el medio ambiente. Hoy vivimos en ecosistemas que ni siquiera necesitan ser narrados.

Zuboff ilumina el mecanismo: no el control, la extracción.

Ya estamos en la tercera temporada. La de la disolución silenciosa -en la que nadie te vigila, nadie extrae conscientemente tu sentido crítico-, pero el sistema, por sí solo, como una autopista sin accidentes, encuentra la manera de llegar a un punto muerto.

Sauron al menos tenía un plan. Wintermute al menos tenía una dirección. El atasco fantasma no tiene ninguno. Se forma solo. Se alimenta a sí mismo. Y nadie, mirando a su alrededor, puede entender por qué la autopista está paralizada.

La pregunta que queda

La cuestión no es si la IA toma decisiones por nosotros. La cuestión es si, cuando lo haga, nos daremos cuenta. O si ya hemos dejado de esperar darnos cuenta. Quizá el verdadero riesgo de la inteligencia artificial no sea perder su trabajo. Es perder poco a poco el reflejo mismo de la responsabilidad. Como automovilistas detenidos en un atasco fantasma, seguimos frenando, acelerando, imitando a quien nos precede, sin saber ya quién tocó el pedal primero.

Y quizá el verdadero éxito de la IA llegue el día en que nadie sienta la necesidad de entender por qué obedece.