Ayer por la tarde, la Fundación para la Sostenibilidad Digital -la primera fundación de investigación reconocida en Italia dedicada a investigar cuestiones de sostenibilidad digital- anunció el lanzamiento del«Manifiesto para la Sostenibilidad Digital de laInteligencia Artificial», el Documento de Posición sobre Inteligencia Artificial (IA) y Sostenibilidad: el documento pretende ser una guía para abordar la IA de forma consciente, responsable y sostenible.

Lo sucedido a Tom Hanks -que se encontró protagonizando un anuncio en el que se utilizaba su imagen creada con inteligencia artificial, sin su conocimiento- pone de manifiesto una situación que podría ser cada vez más común y que no sólo afectará a personalidades, políticos y figuras públicas, sino también, y cada vez más, al público en general.

La evolución de los sistemas de Inteligencia Artificial dedicados, sencillos y baratos impulsará la difusión de técnicas de deep faking y, por tanto, la creación de vídeos «falsos» que no podrán distinguirse de los originales, en los que lo verdadero y lo falso se solapan. Para hacerle frente se necesitan tres elementos: regulación, y gracias a la ley de IA las Inteligencias Artificiales deben cumplir criterios estrictos; cultura, mediante programas culturales generalizados y extendidos que creen ciudadanos conscientes e informados; y tecnología. Del mismo modo que la IA puede generar falsificaciones profundas, debe ser capaz de generar algoritmos que las desenmascaren y permitan al usuario comprender la naturaleza de las imágenes que aparecen en el vídeo.

El Manifiesto sirve precisamente para analizar los retos y oportunidades de la IA en relación con la sociedad y, en la última parte del documento, para identificar, para cada ODS (Objetivo de Desarrollo Sostenible), aquellas características de la IA que contribuyen más que otras a la realización de los objetivos individuales de los ODS. Partiendo de la base de que la IA ha entrado en una fase de impacto masivo, que implica no sólo a los usuarios sino también a las instituciones públicas y privadas, el Documento de Posición pretende situar la IA en un contexto de sostenibilidad digital, proporcionando una visión clara de los principios y características que deben guiar el desarrollo y la adopción de esta tecnología. No se trata de limitar la IA, sino de maximizar sus beneficios respetando los principios de sostenibilidad.

«Es crucial que cada uno de nosotros profundice en el conocimiento de estas tecnologías para comprender su potencial», afirmó Marzio Bonelli, CIO de MM. «Descubriremos cómo la Inteligencia Artificial actual, incluso la generativa, no es capaz de inventar nada nuevo, sino que es un potente articulador del conocimiento existente capaz de descubrir relaciones débiles que se escapan a nuestra mente. Descubriremos hasta qué punto los algoritmos pueden trastocar modelos de negocio en el mundo laboral, pero también hasta qué punto pueden estar condicionados, consciente o inconscientemente, por quienes los generaron, y lo importante que es reconocer este riesgo para interpretar correctamente los resultados que nos propone la IA, acercándonos a esta tecnología de forma constructiva y consciente, sin prejuicios.»

El Posicionamiento se desarrolla en tres grandes apartados: el primero contiene una descripción del ámbito de la IA y su definición, el segundo hace referencia a los criterios y principios que deben tenerse en cuenta para evaluarla y utilizarla de forma consciente, y el tercero aborda los ODS de la Agenda 2030 como clave para definir las características definitorias para la realización de sistemas y soluciones sostenibles de IA.

«La elaboración del manifiesto contó con la participación activa de un grupo de trabajo diferenciado y multidisciplinar, formado tanto por profesores de las universidades de nuestra red como por expertos de las empresas que apoyan a la Fundación«, explicó Stefano Epifani, presidente de la Fundación para la Sostenibilidad Digital.«En la reflexión sobre el futuro de la IA, la multidisciplinariedad es fundamental: fue emocionante ver a algunas de las mentes más brillantes que están desarrollando reflexiones en este campo hibridando y combinando la visión jurídica (con la contribución de expertos como Giovanni Battista Gallus y Lara Lazzaroni), con los conocimientos técnico-científicos y un enfoque filosófico (con la contribución de estudiosos como Tiziana Catarci y Fabio Ciracì). Este es el modus operandi de la Fundación, que hace del enfoque interdisciplinar de los problemas relacionados con la sostenibilidad digital uno de sus puntos fuertes.

Criterios de evaluación de los sistemas y soluciones de IA

El documento presenta los principios y características necesarios para evaluar cualquier producto elaborado a partir de Inteligencia Artificial.

Parte de la base de que la IA no debe considerarse una mercancía a la que se accede inconscientemente, sino una tecnología que requiere conciencia, experiencia y capacidad crítica. El objetivo es utilizar la IA para construir un mundo más sostenible abordando los problemas reales a los que se enfrenta la sociedad.

Para ello, la Fundación para la Sostenibilidad Digital ha identificado algunos criterios, recogidos en el Manifiesto de la Inteligencia Artificial para la Sostenibilidad Digital, que todas las organizaciones (públicas y privadas) deberían utilizar a la hora de desarrollar y adoptar sistemas de IA:

1. Respeto a los derechos fundamentales: Los sistemas de IA deben diseñarse desde el principio para garantizar el respeto de la dignidad humana y los derechos fundamentales, tal y como se definen en la Carta de los Derechos Fundamentales de la Unión Europea y el Convenio Europeo de Derechos Humanos.
2. Privacidad: la IA debe cumplir los criterios y principios de protección de datos, dando a los usuarios pleno control sobre sus datos.
3. Transparencia: La Inteligencia Artificial debe basarse en criterios de transparencia tanto en lo que respecta a los datos de entrenamiento y las fuentes de referencia, como a las lógicas y algoritmos adoptados.
4. No discriminación: la Inteligencia Artificial no debe crear desigualdades de trato entre sujetos o grupos de sujetos, ya sean generadas por sesgos algorítmicos derivados de los datos de entrenamiento o de elecciones de diseño.
5. Seguridad: los sistemas de IA deben garantizar la confidencialidad, integridad y disponibilidad de la información, tener en cuenta los posibles riesgos derivados de las interacciones con las personas y otros sistemas, y proporcionar mecanismos de seguridad desde la fase de diseño para garantizar que son verificablemente seguros en cada etapa.
6. Interoperabilidad: La IA no debe crear nuevos«jardines amurallados«, sino basarse en normas y protocolos abiertos que puedan garantizar de forma óptima el intercambio y la reutilización de la información.
7. Portabilidad: Los usuarios deben poder exportar sus datos (no sólo los personales) en un formato estructurado y transferirlos, incluso de forma automatizada, de un sistema a otro.
8. Accesibilidad: Los sistemas de Inteligencia Artificial deben garantizar, desde la fase de diseño y en fases posteriores, la accesibilidad a las personas con discapacidad, en igualdad de condiciones y «sin dejar a nadie atrás».
9. Supervisión: Debe garantizarse la posibilidad de una supervisión humana efectiva, que pueda afectar a los procesos y acciones gobernados o realizados por la IA.
10. Reconocibilidad: Los usuarios deben poder saber, de forma sencilla e intuitiva, que están interactuando con un sistema de IA. Los productos de IA también deben estar claramente identificados, con sistemas estándar e interoperables.
11. Proporcionalidaddel riesgo: En el desarrollo de la IA, debe existir una relación de proporcionalidad entre los modelos de implantación, las dinámicas de uso y los procesos de regulación en relación con el alcance de los riesgos que puede generar su adopción.
12. Eficiencia energética: Los sistemas de IA deben diseñarse teniendo en cuenta el impacto medioambiental generado tanto en las fases de formación como durante su funcionamiento y uso por parte de los usuarios.

Los criterios expuestos en el documento de posición sirven para establecer un baremo de evaluación de los sistemas y soluciones de IA, y no pueden obviar el alcance de su uso.

Cómo contribuye la IA a alcanzar los Objetivos de Sostenibilidad (ODS)

Un aspecto crucial de la IA es su creciente importancia en la realización de los objetivos de sostenibilidad establecidos por la Agenda 2030 de las Naciones Unidas. La IA ofrece soluciones innovadoras para abordar retos mundiales como el cambio climático, la pobreza, la salud pública y la igualdad de género.

Agrupando los ODS en 3 macrocategorías, Bienestar y Sostenibilidad Social (ODS 1, 2, 3, 4, 5, 8 y 10), Innovación y Sostenibilidad Medioambiental (ODS 6, 7, 9, 11, 12, 13, 15) y Paz, Justicia e Instituciones Sólidas (ODS 16 y 17), puede verse cómo la IA, en sus características específicas, puede incidir en la consecución de los objetivos de cada ODS:

• Grupo deBienestar y Sostenibilidad Social: este grupo de ODS parece ser el más sensible a las características intrínsecas y a la finalidad de los sistemas y soluciones de IA. El aspecto no discriminatorio de la IA, como la atención a los prejuicios de género en la fase de aprendizaje, fomenta la inclusión y la promoción de la igualdad(ODS 5), al tiempo que reduce las desigualdades(ODS 10). La interoperabilidad y la portabilidad son cruciales para el ODS3 , como la posibilidad de intercambiar datos en tiempo real entre múltiples soluciones de IA. Su facilidad de adopción, por otra parte, puede ser decisiva para salvar vidas. El derecho a revocar la acción y el control humano sobre los algoritmos pueden evitar efectos no deseados que, por su relevancia, son siempre los que más afectan al ODS3. La accesibilidad es una característica que reduce las desigualdades y debe ser un referente para todas las tecnologías digitales que deben tender a favorecer la inclusión. Por último, las características de impacto ambiental hacen especial referencia al ODS3 ya que una IA sostenible, operando de forma optimizada, conteniendo el consumo de recursos computacionales tiene un impacto positivo en el medio ambiente y consecuentemente en la salud y bienestar de las personas.
• GrupoInnovación y sostenibilidad medioambiental: este grupo de ODS es el único que influye de forma generalizada, lo que confirma el papel protagonista de la IA en la senda del desarrollo y la innovación. De hecho, la IA puede contribuir a reducir el impacto medioambiental de las actividades industriales, por ejemplo, optimizando la eficiencia energética en los procesos industriales o proporcionando información sobre las pérdidas de agua. Mediante la supervisión y el análisis de datos, los procesos gestionados por la IA pueden promover un uso más sostenible de los recursos(ODS 6 y 7). Las características técnicas son cruciales para el ODS 9 (Innovación e infraestructuras), ya que son requisitos implícitos. El ODS11 (Ciudades y comunidades sostenibles) puede alcanzarse mediante el desarrollo de la movilidad inteligente, como los sistemas de transporte compartido y la optimización del tráfico. De este modo, se contribuye a reducir las emisiones de gases de efecto invernadero y a mejorar la calidad del aire en las zonas urbanas. Los datos producidos y gestionados por la IA pueden utilizarse para comprender los procesos del cambio climático y, en consecuencia, desarrollar nuevos modelos de predicción climática que contribuyan a mejorar la resiliencia de las comunidades y a hacer frente a los riesgos medioambientales(ODS13).
• Grupo dela paz, la justicia y las instituciones sólidas: este grupo de metas de los ODS está influido por algunas de las características de la AI, en particular las intrínsecas y las intencionales. El ODS 16 pretende promover sociedades pacíficas, justas e inclusivas. Una IA no discriminatoria y éticamente diseñada permite la implementación de sistemas y algoritmos que evitan la discriminación basada en características como la etnia, el género o la religión. La IA puede ayudar a garantizar la imparcialidad y la justicia en la toma de decisiones al promover el trato imparcial de todas las personas, independientemente de sus características personales. El aspecto «inclusivo» de la AI fomenta la cohesión social y la confianza entre los diferentes grupos de la sociedad, ayudando a eliminar prejuicios o estereotipos, reducir las tensiones sociales y promover la cooperación y la construcción pacífica de la comunidad. En cuanto alODS17 (Asociación para los objetivos globales), hemos observado en los últimos años cómo la AI está transformando varios sectores y requiere una alfabetización adecuada para poder afrontar los retos y aprovechar las oportunidades que presenta. La alfabetización permite a las personas desarrollar habilidades para utilizar la IA de manera eficaz y responsable, promoviendo la innovación y la sostenibilidad.