Ante la revolución de la IA (inteligencia artificial), León XIV se propone hacer lo que León XIII hizo con su encíclica Rerum novarum (De las cosas nuevas, de 1891) ante la revolución industrial y sus efectos. Aquella dio pie a la llamada “doctrina social de la Iglesia” católica. ¿Habrá una encíclica de León XIV sobre lo que hacer ante la revolución digital, y muy especialmente la inteligencia artificial (IA)? En sus primeras alocuciones y declaraciones como Papa, sin caer en un neoludismo —ha hablado de las “enormes potencialidades” que conllevan estas tecnologías— ha alertado, sin embargo, de los retos que plantean a la dignidad humana, la justicia social y el empleo, recomendando un enfoque ético ante estos desafíos.
“¿Habrá una encíclica de León XIV sobre lo que hacer ante la revolución digital, y muy especialmente la inteligencia artificial?”
El nuevo Papa se puede inspirar en un texto que conoce, Antiqua et Nova, la “nota sobre la relación entre la inteligencia artificial y la inteligencia humana”, publicada conjuntamente por el Dicasterio para la Doctrina de la Fe y el Dicasterio para la Cultura y la Educación, en enero pasado. Un texto que se basa en “la dignidad y la vocación humana, y el bien común”. No es tan diferente de lo que se proclama desde, por ejemplo, la Unión Europea, salvo por sus dimensiones religiosas.
Robert Francis Prevost, teólogo y graduado en Matemáticas, dirigía antes de llegar al papado el Dicasterio para los Obispos, un cargo, designado por el Papa Francisco, de mucho poder, pues, en él se escrutan y seleccionan los candidatos a obispos. Pero cada dicasterio (especie de consejo pontificio) en la Curia Romana tiene su propia estructura y liderazgo, y aunque pueden colaborar en ciertos asuntos, cada uno opera de manera independiente. El de la Doctrina de la Fe está presidido por el cardenal argentino Víctor Manuel Fernández, y el prefecto del de la Cultura es el cardenal portugués José Tolentino de Mendonça. Pero desde el Dicasterio de los Obispos, Prevost fomentó el debate. Llevó al Vaticano a Paolo Benanti, experto en ética de la IA, para ilustrar a sus pares en la materia.
La nota Antiqua et Nova intenta ser un puente entre un enfoque antropológico y otro ético, más que humanista (término que no aparece). “Con antigua y nueva sabiduría”, empieza, “estamos llamados a considerar los cotidianos desafíos y oportunidades propuestos por el saber científico y tecnológico, en particular los del reciente desarrollo de la inteligencia artificial. La tradición cristiana considera que el don de la inteligencia es un aspecto esencial de la creación de los seres humanos ‘a image of God’.”
Veremos. Estamos al principio de una nueva frontera y está claro que la cuestión le plantea problemas a esta Iglesia, y a muchas otras confesiones.
“Las cuestiones antropológicas y éticas planteadas por la IA”, señala el texto, “son cuestiones que particularmente relevantes en cuanto que uno de los objetivos de esta tecnología es el de imitar la inteligencia humana que la ha diseñado. Por ejemplo, a diferencia de otras muchas creaciones humanas, la IA puede ser entrenada en producciones del ingenio humano. Por tanto, puede generar nuevos artefactos con un nivel de velocidad y habilidad que, con frecuencia, igualan o superan las capacidades humanas, como generar textos o imágenes que resultan indistinguibles de las composiciones humanas, suscitando, por tanto, preocupación por su posible influjo en la creciente crisis de verdad en el debate público. Además, como tal tecnología está diseñada para aprender y adoptar determinadas decisiones de forma autónoma, adecuándose a nuevas situaciones y aportando soluciones no previstas por sus programadores, se derivan problemas sustanciales de responsabilidad ética y de seguridad, con repercusiones más amplias para toda la sociedad. Esta nueva situación lleva a la humanidad a cuestionarse su identidad y su papel en el mundo.” No es nuevo ni original; sí que se diga desde el Vaticano.
Para esta visión, “establecer una equivalencia demasiado fuerte entre la inteligencia humana y la IA conlleva el riesgo de sucumbir a una visión funcionalista“, según la cual las personas son evaluadas en función de las tareas que pueden realizar”. Merma la responsabilidad moral y la idea de libertad humana.
“El hecho de que, actualmente, la mayor parte del poder sobre las principales aplicaciones de la IA esté concentrado en manos de unas pocas y poderosas empresas plantea importantes problemas éticos”
En otros aspectos, se acerca a lo que dice —decimos otros— sobre el peligro de que la IA esté controlada por unas pocas enormes empresas. Tecnofeudalismo, lo ha llamado el economista Yanis Varoufakis, o antes los señores del aire el filósofo Javier Echeverría. “El hecho de que, actualmente, la mayor parte del poder sobre las principales aplicaciones de la IA esté concentrado en manos de unas pocas y poderosas empresas plantea importantes problemas éticos“, señala la citada nota que añade: “Para agravar este problema está también la naturaleza inherente de los sistemas de IA, en los que ningún individuo puede tener una supervisión completa de los vastos y complejos conjuntos de datos utilizados para el cálculo”, con el riesgo de manipulación de diversa índole, con la capacidad de ejercer “formas de control tan sutiles como invasivas, creando mecanismos de manipulación de las conciencias y del proceso democrático”. ¿Ha perdido en esto la Iglesia católica la conciencia de su propio pasado (y presente)?
La nota cita a un intelectual católico francés, Georges Bernanos (1888-1948), que planteó un tema aún más actual que cuando lo escribió: “El peligro no reside en la multiplicación de las máquinas, sino en el número cada vez mayor de hombres acostumbrados desde la infancia a no desear más que lo que las máquinas pueden proporcionarles”. Hoy, dice el Vaticano “la vasta extensión del conocimiento es accesible en formas que habrían maravillado a las generaciones pasadas; sin embargo, para impedir que los avances de la ciencia sigan siendo humana y espiritualmente estériles, hay que ir más allá de la mera acumulación de datos y aspirar a la verdadera sabiduría“.
No olvida los aspectos sociales, y las nuevas desigualdades que se pueden generar. Según el FMI, 40% de los trabajos existentes se van a ver afectados por la IA, aunque surjan nuevas tareas que quizás estos nuevos parados no estén en condiciones de desempeñar.
La Nota del Dicasterio parte de una visión integral de la persona y de la llamada a “cultivar” y “custodiar” la tierra contenida en el Génesis, por lo que pide un “uso responsable de la racionalidad y de la capacidad técnica al servicio del mundo creado”. A este respecto, las IAs, especialmente las generativas, requieren cada vez más energía. Han supuesto un salto en la elaboración de modelos predictivos mucho más complejos del cambio climático. Pero se están convirtiendo en un factor creciente del problema que intentan resolver.
Respondiendo a sus creencias, el Dicasterio concluye que “en un mundo marcado por la IA, necesitamos la gracia del Espíritu Santo, que permite ver las cosas con los ojos de Dios, comprender los vínculos, las situaciones, los acontecimientos y descubrir su sentido”.
Con todo respeto y curiosidad, ¿qué puede decir al respecto una IA como ChatGPT? Mucho. Resumidamente, que, aunque esta IA dice ‘no tener creencias ni espiritualidad’, considera que esa frase “expresses a theologically solid intuition: que, en medio de un mundo cada vez más técnico e intelligent artificialmente, el ser humano sigue necesitando la sabiduría espiritual para discernir el sentido último de las cosas. La IA puede ser herramienta, pero la gracia es guía”. Y “desde una óptica bíblica”, añade, “algunos podrían ver en la construcción del mundo tecnificado una forma moderna de la Torre de Babel: un intento humano de alcanzar el cielo por medios propios, confiando solo en su inteligencia y técnica. La teología no condena la inteligencia ni el progreso, pero recuerda que, sin referencia a Dios, el saber puede volverse confusión, y el poder, arrogancia.“
“La IA ha entrado en las religiones, y las religiones, algunas nuevas, en la IA”
Este Papa matemático y teólogo irá más allá y dará sorpresas. Cabe recordar que en 1990 publicó un estudio (disponible en Amazon a precio elevado) titulado Probability and Theistic Explanation (Probabilidad y Explicación Teística) que, según el resumen, comparaba dos visiones, por lo demás muy diferentes, que estimaban que la creencia religiosa puede justificarse utilizando argumentos inductivos de “mejor explicación”.
La preocupación vaticana indica que estamos ante un tema muy serio, como llevan alertando diversos científicos, technologists y empresarios. Y uno mismo. El caso —se podrían citar numerosos ejemplos— es que la IA ha entrado en las religiones, y las religiones, algunas nuevas, en la IA. Está por ver el resultado.
