Un encuentro imposible pero necesario

Nunca se conocieron. Sin embargo, hoy más que nunca, Ada Lovelace y Mary Shelley parecen destinadas a hablar entre sí. La primera, hija del poeta Byron, es considerada la madre de la informática: imaginó máquinas capaces de crear música, arte, pensamiento. La segunda, autora de Frankenstein, es la madre de la ciencia ficción: escenificó el drama de una criatura abandonada y de su creador incapaz de responsabilizarse de ella.

Dos mujeres del siglo XIX, dos visiones del futuro. Ada soñaba con algoritmos que bailaran con la mente. Mary temía que esas mismas máquinas escaparan al corazón. En tiempos de IA generativa, infraestructuras digitales omnipresentes y empresas que innovan sin cuestionarse siempre a sí mismas, su encuentro imaginario se hace necesario. Ada nos invita a diseñar con belleza y visión. María nos obliga a pensar con cuidado y conciencia. Juntas nos preguntan : «¿Qué tipo de futuro estamos generando? ¿Y quién cuidará de él?».

Imagine una habitación hecha de datos. Paredes de código, luces que palpitan como sinapsis. En el centro, dos figuras se observan. Una lleva un traje victoriano, pero tiene el brillo del futuro en los ojos. La otra tiene las manos manchadas de tinta y la voz de alguien que ha visto demasiado.

Ada Lovelace habla primero.
«Las máquinas de hoy escriben poesía, pintan cuadros, componen sinfonías. Es el sueño que había vislumbrado: una inteligencia capaz de crear, no sólo de calcular».

Mary Shelley la mira, severamente.
«Pero, ¿quién se hace cargo de lo que crean? ¿Quién responde de las emociones simuladas, de las decisiones automatizadas, de los cuerpos digitales que ya no tienen dueños?».

Ada sonríe, pero es una sonrisa incómoda.
Quizá sea necesario un nuevo código. No sólo binario, sino ético. Un algoritmo que sepa escuchar al corazón».

Mary asiente.
O al menos un recuerdo. Porque toda criatura digital es también una historia. Y toda historia necesita conciencia».

El presente los llama

En 2025,la IA generativa estará en todas partes. De las empresas a las escuelas, de las administraciones públicas a las plataformas creativas. Según el Stanford AI Index 2024, el número de modelos generativos de código abierto ha crecido un 900% en solo un año. El 70% de las empresas de Fortune 500 ya han integrado herramientas de GenAI en sus procesos, desde la atención al cliente hasta el diseño de productos.

Pero a medida que se multiplican las solicitudes, también lo hacen las preguntas:

– ¿Quién garantiza la equidad de los modelos?

– ¿Quién controla la infraestructura que los alberga?

– ¿Quién protege la creatividad humana de la simulación algorítmica?

El libro de jugadas publicado por el Foro Económico Mundial en septiembre de 2025 en colaboración con Accenture, indica que el 62% de las empresas aún no dispone de un marco ético para el uso de la IA. Y mientras se celebra el potencial, se ignoran las consecuencias sistémicas: desigualdades amplificadas, dependencias cognitivas, infraestructuras opacas.

Buenas prácticas: cuando la innovación es también responsabilidad

Algunos buenos ejemplos (fuente Centre for AI Leadership) demuestran que otra forma es posible:

– La Fundación Mozilla puso en marcha el programa Responsible AI Challenge, que premia a las empresas emergentes que integran la transparencia, la inclusión y el impacto social en sus modelos.

– Hugging Face, una plataforma de código abierto para IA, ha introducido Model Cards, tarjetas éticas que acompañan a cada modelo de IA con información sobre sesgos, limitaciones y contextos de uso recomendados.

– En Estonia, la infraestructura digital pública se basa en los principios de interoperabilidad, privacidad y accesibilidad, con auditorías periódicas y participación ciudadana.

Según el informe de Flexential, el 81% de los altos ejecutivos (CEOs, CTOs, CIOs, etc.) lideran directamente iniciativas de AI, con una atención creciente a la sostenibilidad y la gobernanza de las infraestructuras. Estas experiencias demuestran que la innovación y la gobernanza pueden coexistir, si se parte de una visión sistémica y humana.

La peor práctica: cuando el monstruo toma el control

Pero también hay casos que parecen salidos directamente de las páginas de Mary Shelley:

– CNET publicó 77 artículos escritos por IA con errores graves y sesgos no declarados (41), lo que plantea dudas sobre la transparencia editorial en la era de la automatización (Wikipedia la rebajó a fuente no fiable).

– El proyecto de chatbot emocional Replika mostró cómo la IA puede generar dependencia emocional y confusión relacional, especialmente en usuarios vulnerables (fuente: Garante della Privacy)

– En China, los sistemas de puntuación social y reconocimiento facial se han integrado en las infraestructuras públicas sin debate democrático, lo que plantea interrogantes sobre la vigilancia y la libertad (fuente: Human Rights Watch – China’s Algorithms of Repression).

En estos casos, la innovación ha traspasado el umbral de la responsabilidad, convirtiéndose en creación sin cuidado.

Dos arquetipos para el ODS 9: visión y advertencia

Ada Lovelace y Mary Shelley no son sólo dos figuras históricas. Son dos líneas de fuerza que recorren nuestro presente digital. Dos arquetipos complementarios que, juntos, encarnan la profunda tensión del ODS 9: innovar sí, pero con conciencia.

Ada es la visionaria. La primera en imaginar que una máquina podía hacer algo más que calcular: podía crear. Para ella, el algoritmo no es sólo función, sino potencial poético. Es la empresa que innova con imaginación, que construye infraestructuras capaces de generar belleza, eficacia, armonía. Ada nos habla de sistemas generativos, de IA que componen música, diseñan ciudades, escriben historias. Pero lo hace con rigor matemático y visión sistémica.

María, en cambio, es el contrapunto. La madre del monstruo. La que se atrevió a preguntar : «¿Qué ocurre cuando la creación se descontrola?». Su criatura no es mala: está abandonada. María nos recuerda que toda innovación es también una responsabilidad. Que toda infraestructura digital es una relación que hay que cuidar. Ella es el arquetipo de la empresa que debe ser responsable, que no puede limitarse a lanzar productos, sino que debe cuestionarse las consecuencias.

Ada representa el sueño del algoritmo poético. María la advertencia de la innovación irresponsable. Ada nos invita a diseñar. María nos obliga a reflexionar. Juntas, nos piden que nunca separemos el código de la conciencia.

Y quizá, en la época de la IA generativa, entre saltos creativos y riesgos sistémicos, éste sea precisamente el mensaje:
no basta con construir máquinas que funcionen. Tenemos que construir historias que sepan cuidar.

El diálogo continúa

Escenario: una biblioteca digital, bañada en luces parpadeantes y códigos flotantes. Ada y Mary se mueven entre servidores y sinapsis artificiales.

Ada: «Sabes, Mary, hoy las empresas hablan de ‘responsabilidad algorítmica’. Algunas están creando comités éticos, otras están publicando datos de entrenamiento. Es un comienzo».

María: «Pero, ¿es suficiente? ¿O es sólo una nueva forma de maquillaje ético? He visto criaturas abandonadas, algoritmos dejados a su suerte, infraestructuras construidas sin memoria».

Ada: «Quizá sea necesario un nuevo tipo de empresa. Una que no sólo innove, sino que también sepa contarlo. Una que sepa decir ‘nos equivocamos’, y corregir».

María: «O que puede decir ‘hemos creado’, y quedarse. Porque toda innovación es también una relación. Y toda relación requiere cuidado».

Y nosotros, ¿de qué lado estamos?

En la época de la IA generativa, entre saltos creativos y riesgos sistémicos, la cuestión ya no es si innovar o no, sino cómo. Y sobre todo: con quién. Necesitamos a Ada, para soñar. Pero también a María, para no olvidar. Porque innovar no es sólo construir: es responsabilizarse de lo que se genera.

Y quizá, como susurra María al final del diálogo, todo algoritmo debería empezar con una pregunta: «¿Quién se ocupará de él?».