(es decir: la curva S lo sabe todo excepto lo que importa)
…Nota para los que se saltaron números anteriores.
Esta es la tercera entrega de una columna sobre mis malos maestros, aquellos que vieron antes que los demás y a los que la corriente dominante sólo menciona cuando el daño ya está hecho. Ellul nos había dicho que la Tecnología se ha convertido en un sistema autónomo que ya no sirve al hombre: lo utiliza. Kaczynski nos había dicho que estos sistemas compiten por su propia supervivencia sin tener en cuenta las consecuencias -y lo llamaba sistema de autopropulsión, no «ecosistema de innovación», que suena mejor pero dice lo mismo. Hoy llega Virilio. Que añade el detalle que faltaba: el mecanismo. Es decir, la velocidad. Es decir, el naufragio ya incluido en el barco.
El navegante y el lago (historia de un invento que funcionó)
Cada año, decenas de automovilistas de todo el mundo caen en lagos, ríos y zanjas siguiendo las indicaciones de su navegador por satélite. No son estúpidos. No se distraen; bueno, quizá un poco, pero no se trata de eso. Siguen las instrucciones. Realizan correctamente aquello para lo que fue diseñado el navegador. El navegador dice: gire a la derecha. Giran a la derecha. El problema es que a la derecha, donde antes había una carretera, ahora hay agua. La cartografía está desfasada. Pero la confianza en el algoritmo sí. El navegador por satélite se diseñó para eliminar la necesidad de pensar adónde ir. Y funcionó. También inventó una nueva categoría de accidente: aquel en el que dejas de pensar adónde vas.
Hoy en día, ese navegador ya no se limita a decirte dónde tienes que girar. Empieza a decidir hacia dónde tiene sentido ir. Y la diferencia es sólo sutil al principio. Porque cuando se equivoca de camino, podemos corregirle. Cuando se equivoca de destino, no podemos.
Paul Virilio lo había visto antes de que existiera el GPS. Volveremos sobre ello dentro de un momento. Primero, hablemos de la curva en S. Que es correcta, exacta, está bien documentada y describe el problema equivocado con una precisión casi conmovedora.
La curva que tiene razón (y el problema de tener razón)
Hay por ahí un análisis de la curva en S de la inteligencia artificial que merece ser leído con atención, porque es una de las cosas más honestas y documentadas que he visto sobre el tema. El autor ha vivido de primera mano tres auges y tres colapsos -puntocom, biodiésel en Brasil, cannabis en Colorado- y sabe de lo que habla. No se trata de los habituales consejos con diafragmas perfectos y flechas optimistas.
La tesis es simple y correcta: toda industria sigue una curva en S. Surgimiento, crecimiento, compresión, meseta. Los altos márgenes en la fase inicial atraen capital, el capital trae competidores, los competidores comprimen los precios, y al final sólo sobreviven los más eficientes o los más protegidos. Ocurrió con Internet. Con el biodiésel. Con el cannabis. Ocurrirá con la IA, pero más rápido. Mucho más rápido. La conclusión: prepárate sabiamente. Estoy de acuerdo. Prepárate sabiamente.
El problema no es la curva. La curva existe, funciona, es empíricamente verificable. El problema es lo que la curva no dice -ni puede decir-, porque es un instrumento de descripción, no de profecía. La curva te dice dónde estás. No te dice lo que ya has inventado mientras corrías.
La curva en S es perfecta. Como un navegador, te lleva al lago con precisión milimétrica. No comete errores. Simplemente no ve el agua.
El tercer mal maestro (el que diseñaba bunkers y pensaba en la velocidad)
Paul Virilio nació en Asnières en 1932. Arquitecto de formación, estudió con Claude Parent y diseñó iglesias. Entonces empezó a observar los búnkeres de la Segunda Guerra Mundial en la costa atlántica francesa -esas estructuras de hormigón abandonadas, medio enterradas por la arena- y vio en ellas algo que nadie había visto: la arquitectura de la velocidad militar. Las formas que había producido la guerra. El paisaje que la tecnología había esculpido en la tierra. A partir de ahí desarrolló la dromología (ciencia o lógica de la velocidad): el estudio de la velocidad como fuerza estructuradora de la historia. No es la guerra la que da forma al mundo. Es la velocidad de la guerra. No es la tecnología la que transforma la sociedad. Es la velocidad de la tecnología. Y de ahí surge la frase que todo ingeniero, todo tecnólogo, todo consultor que presente una diapositiva sobre disrupción debería tatuarse en la palma de la mano:
«La invención del barco es también la invención del accidente. La invención del avión es también la invención del accidente. La invención de la central nuclear es también la invención de Chernóbil».
Cada tecnología inventa también su propio accidente. No como un efecto secundario, ni como un error, ni como un fallo imprevisto. Como una consecuencia estructural, interna, ya dentro del invento en el momento de su nacimiento. Virilio lo llamó la producción del accidente. El accidente no se produce a pesar de la tecnología. Ocurre a través de la tecnología, y a menudo gracias a su buen funcionamiento.
El airbag mató a los niños funcionando exactamente como fue diseñado. El navegador lleva los coches a los lagos siguiendo exactamente las instrucciones. Chernóbil explotó durante una prueba de seguridad diseñada para hacer la central más segura. El problema no fue el mal funcionamiento. Fue el funcionamiento.
Ellul nos había dicho que la tecnología persigue su propia lógica autónoma. Kaczynski nos había dicho que los sistemas autopropulsados compiten por sobrevivir sin importar las consecuencias. Virilio añade el mecanismo: es la velocidad. La velocidad es la forma en que los sistemas se descontrolan. No porque se vuelvan malos. Porque se vuelven más rápidos que quienes deberían detenerlos.
No porque se vuelvan autónomos. Sino porque se vuelven más rápidos que la responsabilidad. Y cuando la responsabilidad se queda atrás, no desaparece. Se distribuye hasta hacerse irreconocible.
El muro del sonido y el silencio (o: el vidente que escucha la retroalimentación)
En 1974, los Grateful Dead construyeron el Muro del Sonido. Seiscientos altavoces. Veintiséis mil vatios. Un sistema de sonido tan perfecto que podía oírse con claridad cristalina a trescientos metros del escenario. Cada instrumento tenía su propio canal, su propia pila, su propia línea. Sin retroalimentación. Sin distorsión. El sonido más limpio jamás escuchado en un concierto de rock.
Fue un triunfo tecnológico absoluto. También era tan caro de montar, desmontar y transportar – setenta y cinco toneladas de equipo, setenta y cinco personas para manejarlo – que casi llevó a la banda a la bancarrota. Después de un año de gira, Grateful Dead paró. Dejaron de tocar en directo durante dieciocho meses. El Wall of Sound había inventado el concierto perfecto. Y había inventado su propio silencio. Pero si Grateful Dead le parece un ejemplo demasiado nicho para razonar sobre economía, permítame añadir un caso más reconfortante (¡!) para los que creen en los números.
Los dos premios Nobel y el fondo que no podía fallar
En 1994 se fundó Long-Term Capital Management. Entre sus fundadores figuran Myron Scholes y Robert Merton, que ganaron el Premio Nobel de Economía en 1997, en gran parte por los modelos matemáticos utilizados por el propio LTCM. El fondo aplica estrategias de arbitraje cuantitativo de una sofisticación sin precedentes. Los rendimientos en los primeros años son extraordinarios: 40% en 1995, 41% en 1996. Los modelos eran correctos. Las matemáticas eran impecables. Los premios Nobel eran merecidos.
En 1998, tras la crisis rusa, LTCM pierde 4.600 millones de dólares en menos de cuatro meses. La Reserva Federal tiene que organizar un rescate de emergencia porque la quiebra del fondo corre el riesgo de arrastrar consigo a todo el sistema financiero mundial. Finalmente, catorce bancos intervienen. El fondo se liquida. Los modelos tenían un supuesto implícito: que los mercados se comportaban según distribuciones estadísticas normales. Funcionaba perfectamente, hasta que dejó de funcionar. Y cuando dejó de funcionar, lo hizo tan rápido y tan fuerte que no hubo tiempo para corregirlo.
La tecnología -en este caso matemática y computacional- había funcionado exactamente como se había diseñado. También había inventado un accidente que ningún operador podría haber producido por sí solo: un riesgo sistémico global construido pieza a pieza por decisiones racionales e individuales, todas correctas. Dos premios Nobel, un naufragio. Virilio habría dicho: por supuesto. Ya estaba dentro del barco.
Lo que la curva no ve (o: el navegante que se precipita al lago)
La curva en S nos dice que la IA comprimirá los ciclos de innovación de décadas a trimestres. Y es cierto. Eso es exactamente lo que está ocurriendo. Lo que la curva no dice es qué inventa esta aceleración a medida que avanza.
Si la burbuja de las puntocom tardó cuatro años en inflarse y dos en desinflarse, los daños pudieron verse en tiempo real. Había señales. Había trimestrales. Había periodistas que empezaban a hacer preguntas incómodas. El incidente tuvo una duración humana: la suficiente para ser reconocido, al menos en retrospectiva.
Si la IA comprime este ciclo a cuatro meses, el accidente tiene una duración que ya no es humana. No porque los humanos no puedan entenderlo. Sino porque los sistemas burocráticos, normativos, financieros y de toma de decisiones que utilizamos para gestionar los accidentes no están diseñados para esa velocidad. No se trata de que la IA cometa errores. La cuestión es que los cometerá a la velocidad adecuada para que no los veamos. No estamos construyendo sistemas más inteligentes. Estamos construyendo sistemas que cometen errores más rápido de lo que podemos verlos. Y cuando el error se vuelve más rápido que la conciencia, deja de ser error. Se convierte en un sistema.
Cuando el Challenger explotó en 1986, tardamos trece meses en darnos cuenta de lo que había salido mal. Hoy en día, con los ciclos comprimidos por la IA, la siguiente empresa ya está reproduciendo el mismo error mientras tú todavía estás recogiendo los pedazos de la anterior. La velocidad no sólo comprime el crecimiento. Comprime el aprendizaje del incidente. Y un sistema que no puede aprender de sus accidentes lo suficientemente rápido como para evitar el siguiente no es un sistema que mejore. Es un sistema que escala el error. Y por primera vez, el sistema no se limita a escalar el error. Empieza a generar por sí mismo las condiciones para el siguiente. Ya no es sólo velocidad. Es autogénesis.
Virilio lo había escrito en 1977, en Vitesse et Politique: la velocidad no es un instrumento neutro. Es una forma de poder. Quien controla la velocidad controla la realidad. Y cuando la velocidad supera la capacidad humana de procesarla, el poder deja de pertenecer a nadie y empieza a pertenecerse a sí mismo. Kaczynski lo llamó sistema de autopropulsión. Ellul lo llamó autonomía de la tecnología. Virilio lo llama dromología. Tres nombres, tres ángulos, un objeto: algo que se mueve más rápido que la persona que lo construyó. La IA no sólo acelera los procesos. Acelera la distancia entre quien toma las decisiones y lo que sucede. Es el último atasco fantasma: todo parece fluir, pero ya nadie conduce.
Ícaro no era estúpido (conclusión mitológica obligatoria)
Dédalo construye alas. Las construye bien: la mitología no dice que las alas fueran un prototipo defectuoso. Ícaro sabe utilizarlas: su padre se lo explicó. Vuela. Se acerca al sol. La cera se derrite. La interpretación estándar: la arrogancia humana. La hybris que castigan los dioses.
Interpretación viriliana: las alas funcionan exactamente como fueron diseñadas. El problema es que funcionan tan bien que permiten a Ícaro alcanzar una altitud que la cera no puede soportar. El accidente no es una desviación del diseño. Es el diseño llevado a sus consecuencias lógicas.
Dédalo había inventado el vuelo. También había inventado la caída. No porque fuera negligente. Porque no hay tecnología de vuelo que no contenga ya, en su estructura, la categoría del accidente de caída. La curva en S te dice: cuidado, que viene la compresión. Es como decirle a Ícaro: cuidado, hace calor ahí arriba. Cierto. Exacto. Insuficiente. Lo que falta es: las alas ya contienen el sol. No el sol astronómico. El sol como límite estructural de la tecnología – el punto en el que el sistema se encuentra con aquello para lo que no fue diseñado, y la cera empieza a derretirse.
La IA está construyendo las alas más hermosas jamás vistas. La curva en S nos dice que los bordes se comprimirán. Virilio nos dice que el sol ya está dentro de las alas. La cuestión no es si caeremos. La cuestión es si tendremos suficiente altitud para darnos cuenta de la caída antes de aterrizar.
Ellul nos había dicho que miráramos el sistema. Kaczynski nos dijo que el sistema se alimenta a sí mismo. Virilio nos dice que el sistema se acelera. Tres malos maestros. El mismo punto ciego de la corriente dominante. La misma respuesta que nadie quiere oír: no basta con entender la curva. Hay que entender lo que ya se ha inventado mientras no mirabas.
– – – – – – – – – –
P.D. – El navegante que se adentra en el lago nunca deja de recalibrar la ruta. No dice «lo siento, me he equivocado». Dice «en doscientos metros, inmersión».
Posdata: Virilio murió en 2018. No vio ChatGPT. Él ha visto lo suficiente.
P.P.D. – El Wall of Sound de Grateful Dead está expuesto en el Instituto Smithsonian. Es una pieza de museo. Como casi todos los grandes inventos tecnológicos, funciona mejor estacionado. El LTCM, en cambio, no está expuesto en ningún sitio. Pero los modelos matemáticos que lo hicieron saltar por los aires siguen utilizándose.