En plena transición digital, la justicia ya no se administra sólo en los tribunales. Se escribe en código, se decide en protocolos, se oculta en filtros. Las instituciones ya no son sólo edificios: son plataformas, cuadros de mando, interfaces. Pero si el sistema funciona y a la vez excluye, ¿podemos llamarlo realmente justo?

Para explorar esta cuestión, @Beppe y yo hemos elegido evocar dos figuras radicales: Antígona, la diosa que desobedece para proteger la memoria, y Lady Loki, el primer personaje de género fluido del universo Marvel, que subvierte para abrir nuevos espacios. Juntos, nos ayudarán a releer el ODS 16 -Paz, justicia e instituciones sólidas- con nuevos ojos.

Como de costumbre, quienes busquen soluciones probablemente se sentirán decepcionados. Como mucho, encontrarán aquí algunas (esperemos) buenas pistas para hacerse las preguntas adecuadas. En el artículo completo, encontrará casos reales, tensiones abiertas y vías concretas para una sostenibilidad digital que no solo funcione, sino que sepa incluir, escuchar y regenerar.

Antígona y Lady Loki
El valor de desobedecer a los algoritmos

En 2025, la justicia no sólo se administra en los tribunales. Se escribe en código, se decide en protocolos, se oculta en filtros. Las instituciones ya no son solo edificios: son plataformas, cuadros de mando, interfaces. Sin embargo, algo no cuadra. Porque si el sistema funciona, pero excluye, ¿podemos llamarlo realmente justo?

Para intentar comprenderlo, dejemos a un lado las definiciones y basémonos en símbolos. Dos figuras nos acompañan en este viaje: Antígona, la desobediente que entierra lo que el poder quiere borrar, y Lady Loki, la transformadora que desenmascara las normas injustas. No son heroínas digitales, sino arquetipos que nos ayudan a hacernos las preguntas adecuadas. Las que a menudo las instituciones prefieren evitar.

Antígona: la justicia que no pide permiso

Antígona no es una rebelde cualquiera. Es ella quien decide enterrar a su hermano, a pesar de la prohibición del rey. Es la voz que dice «no» cuando el poder impone el silencio. Es la guardiana de una justicia superior, que no se pliega a la norma si la norma es injusta.

En el mundo digital, su gesto se traduce en acciones que desafían el olvido planificado. Como quien defiende una memoria colectiva que una plataforma quiere eliminar. Como quien denuncia un algoritmo que discrimina, aunque «funcione». Como quien protege un testimonio incómodo, aunque el sistema lo considere tóxico.

Pensemos en los casos de moderación automática que eliminan contenidos de denuncia social, confundiéndolos con incitación al odio. O los archivos digitales de comunidades indígenas, a menudo ignorados por los modelos lingüísticos dominantes. O los denunciantes que revelan malas prácticas en los sistemas de puntuación social, y son castigados por «violar la política».

¿Un ejemplo concreto? El proyecto Decolonising the Digital del UNICRI, que trabaja para hacer visibles las narrativas indígenas y minoritarias en los sistemas de IA. Porque si la IA sólo aprende de lo que es dominante, acaba perpetuando el olvido.

En 2021, el Parlamento Europeo aprobó una resolución sobre el uso de la IA en el derecho penal, reconociendo dos frentes: por un lado, las áreas de conflicto con el derecho penal sustantivo (¿quién es responsable cuando actúa una máquina?); por otro, las áreas de cooperación procesal, donde la IA puede mejorar las prácticas. Se trata de un primer intento de construir un marco normativo que no sacrifique las garantías constitucionales en aras de la eficacia. Antígona, hoy, quizás estaría justo ahí: vigilando la frontera entre innovación y derecho, entre automatización y humanidad. Antígona no busca el consenso. Busca la verdad. Y para ello está dispuesta a sacrificarlo todo. Incluso su propia reputación, su propio acceso, su propia visibilidad.

Lady Loki: justicia que transforma

Lady Loki es la otra cara de la justicia. No la que vigila, sino la que cambia de forma. Es la ambigüedad que desenmascara las normas injustas, que subvierte las jerarquías, que abre nuevos espacios. Es la voz que dice: «¿Y si lo cambiamos todo?».

En el mundo digital, Lady Loki es el fallo que revela el defecto del sistema. Es la hacker ética, la bufona institucional, el algoritmo que se niega a obedecer. Es quien diseña plataformas fluidas, capaces de dar cabida a la disidencia. Es quien crea espacios digitales donde las reglas no son fijas, sino negociables.

En el mundo real, Lady Loki habita en proyectos como Decidim, la plataforma de código abierto nacida en Barcelona para permitir a los ciudadanos codiseñar las políticas públicas. No es una petición, sino una verdadera infraestructura de democracia fluida, donde las normas se discuten, se modifican, se comparten.

También los que trabajan en interfaces que no ocultan la duda, sino que la exponen. Como en el caso de la Algorithmic Justice League, que promueve auditorías participativas de los sistemas de IA para hacerlos más justos, más humanos, más negociables.

Lady Loki no busca estabilidad. Busca la posibilidad. Es la justicia que no se contenta con funcionar: quiere incluir, transformar, reinventar.

Cuando las instituciones digitales ya no bastan

Hoy en día, muchas instituciones públicas recurren a plataformas privadas para gestionar servicios esenciales: sanidad, educación, bienestar. Pero estas plataformas, por eficientes que sean, no siempre son transparentes. Y no siempre están diseñadas para ser inclusivas.

¿Un ejemplo? El sistema de reserva de vacunas de algunas regiones italianas, basado en interfaces digitales que excluyen a quienes carecen de conocimientos informáticos. O los portales de asistencia social que exigen SPID y PEC, pero no ofrecen alternativas a quienes viven en la marginalidad digital.

En Italia, los tribunales de Pisa y Brescia están experimentando con sistemas de apoyo jurídico basados en Data Lake, con miles de sentencias catalogadas por conceptos. Este enfoque no solo acelera la tramitación de los casos, sino que reduce la brecha entre los grandes bufetes de abogados y los pequeños profesionales. Es un ejemplo de cómo la tecnología puede democratizar el acceso a la justicia si se diseña para amplificar las capacidades humanas, no para sustituirlas.

La solidez no es sólo infraestructural. Es ética. Es relacional. Es la capacidad de escuchar, de corregir, de evolucionar.

Antígona nos recuerda que las instituciones deben ser espacios de memoria compartida.
Lady Loki nos enseña que deben ser capaces de cambiar de forma, cuando la forma excluye.

Justicia algorítmica: entre la opacidad y la responsabilidad

Según el informe 2024 de la OCDE, menos del 20% de los sistemas públicos de IA cuentan con mecanismos de auditoría independientes. La mayoría de las decisiones automatizadas -desde la asignación de subvenciones a la vigilancia predictiva- tienen lugar en entornos opacos, en los que el ciudadano no puede entender ni cuestionar.

Sin embargo, el algoritmo ya es una institución. Decide, filtra, ordena. Pero, ¿quién lo controla? ¿Quién lo diseña? ¿Quién lo corrige?

Pensemos en los sistemas de puntuación para el acceso al crédito, que penalizan a quienes tienen un perfil «no conforme». O los algoritmos de selección de personal, que excluyen a candidatos en función de patrones invisibles. O los modelos predictivos utilizados para identificar «zonas de riesgo de delincuencia», que a menudo replican estereotipos territoriales.

Un ejemplo italiano es el proyecto Giove, un software desarrollado por la Polizia di Stato para apoyar las investigaciones preliminares mediante análisis predictivos. Giove no toma decisiones autónomas, pero ayuda a los operadores a identificar patrones recurrentes entre delitos aparentemente no relacionados. El sistema está sujeto a una evaluación del impacto sobre la privacidad y supervisado por personal humano, como exigen las directrices europeas. Es un experimento que plantea cuestiones cruciales: ¿hasta qué punto podemos delegar la intuición investigadora en un algoritmo? ¿Y cómo podemos garantizar que la prevención no se convierta en vigilancia?

La justicia digital no puede ser una simulación de equidad. Debe ser responsabilidad real, acceso, contestabilidad.

Sostenibilidad digital: no sólo medioambiental, sino también institucional

Hablar de sostenibilidad digital no sólo significa reducir el impacto medioambiental de las tecnologías. También significa construir instituciones capaces de perdurar, de incluir, de regenerar.

Piense en proyectos de archivos digitales comunitarios, como los que recogen pruebas de migraciones y conflictos. O sistemas de gobernanza participativa que permiten a los ciudadanos intervenir en los procesos de toma de decisiones. O plataformas que integran los conocimientos locales en modelos de IA medioambiental.

En Kenia, el proyecto Ushahidi creó una plataforma participativa para cartografiar las crisis y las violaciones de los derechos humanos. En Estonia, la digitalización de los servicios públicos va acompañada de una fuerte inversión en transparencia y accesibilidad.

Antígona nos invita a preservar la memoria de los territorios, de las culturas, de las luchas.
Lady Loki nos invita a subvertir las reglas que excluyen, a diseñar sistemas fluidos, capaces de adaptarse.

La sostenibilidad digital es también justicia social. Es el derecho a ser representado, escuchado, incluido. Es la posibilidad de transformar las instituciones, no sólo de someterse a ellas.

Pero hay un límite que ninguna tecnología podrá traspasar: el de la conciencia. Como nos recuerda Federico Faggin, la diferencia fundamental entre humanos y máquinas es la capacidad de experimentar, de atribuir significado, de elegir. Ningún algoritmo, por sofisticado que sea, puede replicar el principio de equidad, la comprensión profunda, la creatividad natural. Por eso la justicia, incluso en tiempos de la IA, sigue siendo una vocación humana.

Conclusión: la justicia también es imaginación

Antígona nos recuerda que la justicia es memoria. Lady Loki nos enseña que la justicia es transformación. Y lo digital, si se guía por estos arquetipos, puede convertirse en un espacio de paz, equidad e instituciones sólidas.

Pero hace falta valor. Hace falta visión. Hace falta la capacidad de ver más allá del código, más allá de la norma, más allá del beneficio. Porque la verdadera sostenibilidad digital no se mide en gigabits, sino en gestos de cuidado y actos de rebelión consciente.

Y entonces, tal vez, podamos construir realmente instituciones que no sólo funcionen, sino que escuchen, incluyan, transformen. Como Antígona. Como Loki.