(VaticanNews/InfoCatólica) El Papa ha pedido liberar la IA «de lógicas que la transforman en instrumento de dominio, exclusión o muerte» y ha invocado la colaboración universal para que las nuevas tecnologías se pongan al servicio del bien común. Tres cardenales y expertos de primer nivel en inteligencia artificial han acompañado la presentación del documento en el Aula del Sínodo.
«La inteligencia artificial debe ser desarmada». Con esta afirmación, deliberadamente contundente, León XIV ha presentado hoy en el Aula del Sínodo Magnifica humanitas, la primera encíclica de su pontificado, dedicada a la «custodia de la persona humana en la era de la inteligencia artificial». Nunca antes un Papa había estado presente en la sala en la que se presenta al público uno de sus documentos magisteriales, y nunca antes habían participado en un acto semejante, junto a cardenales y profesores, expertos en alta tecnología. Una doble novedad que subraya la gravedad del momento y la voluntad del Pontífice de situar la Iglesia en el centro de un debate que afecta al futuro de la humanidad.
El documento, de aproximadamente 200 páginas, es fruto de una reflexión de diez años dentro de la Santa Sede sobre las nuevas tecnologías y la inteligencia artificial, una herramienta que, como ha señalado el Papa, afecta hoy «muchos ámbitos de nuestra vida», influye en las decisiones y está «cambiando radicalmente la forma en que se libra la guerra». León XIV firmó simbólicamente la encíclica el 15 de mayo, aniversario de la publicación de Rerum Novarum.
Siguiendo los pasos de León XIII
Al igual que su predecesor León XIII, que hace 135 años observó la situación de los obreros y las familias empobrecidas por la revolución industrial y «comprendió que la Iglesia no podía permanecer al margen», el Papa Prevost se ha declarado «llamado a contemplar otra gran transformación con los ojos de la fe, con la lucidez de la razón, con la apertura al misterio y con los gritos de los pobres y de la tierra que resuenan en mi corazón».
El Pontífice ha explicado que la encíclica tiene una única raíz: «la escucha». Escucha de científicos e ingenieros que «trabajan con sincero entusiasmo en tecnologías capaces de aliviar inmensos sufrimientos», de «líderes políticos y funcionarios públicos que han buscado con perseverancia normas justas», de «padres y maestros profundamente preocupados por el futuro de las nuevas generaciones». Pero también le han llegado, ha confesado, «voces muy inquietantes sobre sistemas de armas cada vez más autónomos, prácticamente fuera de todo control humano» y «relatos muy preocupantes sobre algoritmos que pueden impedir el acceso a la atención médica, al trabajo y a la seguridad basándose en datos viciados por prejuicios e injusticias». Junto a esas voces, ha resonado «el silencio de quienes no tienen voz cuando se toman decisiones que corren el riesgo de generar nuevas formas de exclusión y sufrimiento».
«Desarmar y construir»
De todo ello ha surgido la convicción que recorre la encíclica como hilo conductor. «La palabra es fuerte, lo sé», ha admitido el Papa, «pero se eligió deliberadamente porque este momento necesita palabras capaces de llamar la atención, despertar las conciencias e indicar caminos a seguir». La Iglesia se compromete desde hace tiempo a favor del desarme nuclear como servicio a la paz; de modo análogo, ha argumentado León XIV, «la inteligencia artificial requiere hoy ser desarmada» porque, «al igual que la energía nuclear, debe estar al servicio de todos y del bien común».
Pero desarmar no basta: «Debemos construir», ha añadido el Pontífice, evocando un recuerdo personal de sus años de misión en Perú, cuando en 2017 las lluvias torrenciales y las inundaciones provocadas por El Niño azotaron el norte del país. «Muchas familias vieron cómo el lodo se tragaba sus casas», ha recordado. «Allí aprendí que reconstruir no significa simplemente reemplazar lo que ha sido destruido. Significa reparar los lazos, restablecer la confianza y despertar la esperanza en el futuro. Además, nadie reconstruye solo». Solo juntos, ha concluido, «quienes diseñan los sistemas y quienes sufren sus consecuencias, los países más ricos y los más pobres, las instituciones y los individuos, los centros de poder y las periferias», será posible construir un futuro «para toda la familia humana».
Parolin: «Asimetría entre poder técnico y sabiduría moral»
El cardenal Pietro Parolin, secretario de Estado, ha moderado las intervenciones y ha situado Magnifica humanitas en el contexto de la doctrina social de la Iglesia. La transición digital, ha explicado, actúa «como un prisma» que refleja cuestiones cruciales: «la dignidad de la persona, el trabajo, la libertad, la calidad de los lazos sociales, la paz, la justicia, la responsabilidad hacia nuestra casa común».
A diferencia de la época de León XIII, cuando «no siempre era posible para la Iglesia entablar un diálogo directo con los principales actores económicos, políticos e industriales», hoy ese diálogo «ya está en marcha e involucra a instituciones, gobiernos, universidades, empresas y centros de investigación». La presencia de expertos en IA en el Aula del Sínodo es, según Parolin, un signo del deseo de la Iglesia de «encontrarse con quienes trabajan activamente en esta transformación».
El secretario de Estado ha citado a Romano Guardini para subrayar lo que considera el desafío más profundo del documento: «El crecimiento del poder humano exige una madurez correspondiente en su gobierno», pero «la velocidad con la que se acumula este poder corre el riesgo de superar la capacidad de las instituciones, e incluso de la conciencia individual, para dirigirlo». Esta «asimetría entre poder técnico y sabiduría moral» es, a juicio de Parolin, el núcleo de la encíclica.
Czerny: «Ingenio, conciencia y cuidado»
El cardenal Michael Czerny, prefecto del Dicasterio para el Servicio del Desarrollo Humano Integral, ha articulado su intervención en torno a tres palabras clave. «Ingenio», porque la IA «es uno de los grandes logros del ingenio humano» y la humanidad entera puede sentirse «orgullosa» de lo que tantos científicos han conseguido. «Conciencia», entendida según la definición del Concilio Vaticano II como «la parte más íntima de la persona en la que el ser humano es tocado por la voz de Dios, reconoce el bien y escucha la llamada de la verdad». Y «cuidado» de la casa común, sobre la que la IA tiene a veces un impacto violento.
Czerny ha subrayado que la IA «es una obra en construcción» que «puede contribuir a una convivencia más justa» pero también «concentrar el poder, exacerbar las desigualdades y dejar atrás a quienes ya están marginados». El rumbo «depende de nuestras decisiones». En este sentido, Magnifica humanitas «se sitúa en profunda continuidad con Laudato si' y Laudate Deum», textos en los que el Papa Francisco «enseñó que cuando el poder técnico se separa de una sabiduría capaz de salvaguardar las relaciones, puede transformarse en dominación sobre la humanidad y la creación».
Fernández: frente al «falso misticismo» del transhumanismo
El cardenal Víctor Manuel Fernández, prefecto del Dicasterio para la Doctrina de la Fe, ha vinculado la encíclica a la realidad de una humanidad marcada por guerras «que de ninguna manera pueden justificarse», por nuevas formas de esclavitud, por el cinismo y la crueldad. Con esa misma humanidad, «magnífica y herida», dialoga el Papa, invitando a contemplarla en su «terrible capacidad para el mal» pero también en la «chispa» de bondad y belleza que encarna. La encíclica contiene, en este sentido, numerosas referencias al arte (desde la Novena Sinfonía de Beethoven hasta el Guernica de Picasso o la película La lista de Schindler) y a testimonios como los de la Madre Teresa de Calcuta, Martin Luther King, Nelson Mandela o los «mártires de la fraternidad y la justicia» como Kolbe, Romero, Angelelli y Van Thuan.
Fernández ha advertido contra las propuestas del poshumanismo y del transhumanismo, que invitan a creer que la vida será un «paraíso» solo gracias a «sofisticados dispositivos que resuelven problemas y aumentan capacidades». Los recursos tecnológicos, ha señalado, «proporcionan al individuo una alegría inicial», pero «poco después, regresa el vacío». Detrás de la idea de progreso se esconde lo que el cardenal ha denominado «un falso misticismo», en el que «la fe es sustituida por una confianza absoluta en las capacidades tecnológicas, la esperanza se transforma en una esperanza superficial de un nuevo producto que nos quite el aburrimiento y el amor se olvida porque se prefiere el apego a las cosas». Frente a ello, la encíclica reivindica «el valor y la fecundidad» de la experiencia de la limitación humana, porque precisamente en nuestras limitaciones «encontramos espacio para la compasión, para la sincera preocupación por las necesidades de los demás, para la generosidad que sorprende incluso en medio de la oscuridad o el fracaso».
Olah (Anthropic): «Necesitamos voces morales que no se dobleguen»
Entre los expertos en inteligencia artificial que han intervenido destaca Christopher Olah, cofundador de Anthropic y director de investigación sobre la interpretabilidad de la IA. Olah ha reconocido que «puede parecer extraño» que un responsable de una de las empresas de IA más influyentes del mundo se sume al debate abierto por una encíclica papal, pero ha defendido la necesidad de «una voz capaz de resistir los incentivos, de pronunciar palabras incómodas, de recordar lo que las máquinas jamás poseerán: cuerpo, conciencia, sentido moral».
El cofundador de Anthropic ha señalado tres aspectos abordados por la encíclica que considera especialmente relevantes: el deber hacia los pobres del mundo ante la posibilidad de que la IA reemplace mano de obra a gran escala («si esto sucede, apoyar a los desplazados será un imperativo moral de proporciones históricas»); la necesidad de «imaginación moral» para la realización humana; y la urgencia de discernimiento sobre la naturaleza de los modelos de IA. Sobre este último punto, Olah ha sido particularmente directo: «Seguimos encontrando cosas misteriosas, incluso inquietantes. Detectamos estructuras que reflejan los hallazgos de la neurociencia humana. Encontramos evidencia de introspección. No sé qué significa eso, pero creo que requiere un discernimiento constante».
Olah ha concluido pidiendo que «una parte más amplia del mundo» imite las acciones del Papa y ha calificado Magnifica humanitas como «el comienzo de una larga colaboración», un «proyecto global de buena voluntad».
Lushombo: el nuevo «extractivismo colonial» de los datos
Leocadie Lushombo, profesora de Teología Política y Pensamiento Social Católico en la Escuela Jesuita de Teología de la Universidad de Santa Clara (California), ha centrado su intervención en la advertencia de la encíclica sobre la «salvaguarda de la verdad». Si bien las máquinas pueden proporcionar información precisa, no se les debe delegar la «responsabilidad personal de emitir juicios», ya que carecen de experiencias corporales, no maduran a través de las relaciones y no asimilan la distinción entre el bien y el mal.
Lushombo ha subrayado la denuncia que el Papa hace del colonialismo digital: «El colonialismo en nuestros días muestra una nueva cara. No solo domina los cuerpos, sino que también se apropia de los datos, transformando las vidas personales en información explotable». En el Sur global, ha recordado, «adolescentes y niños trabajan en condiciones peligrosas triturando materiales de los que se extraen tierras raras» para que «el flujo de computación no se interrumpa».
Rowlands: entre la desesperación y la tentación prometeica
Anna Rowlands, profesora de Teología Política en la Universidad de Durham (Reino Unido), ha señalado que la reflexión del Papa «no es neutral», porque las visiones que encarnan las tecnologías actuales no son equidistantes. Si Laudato si' advertía contra un paradigma tecnocrático que mide el valor humano en función de la utilidad, Magnifica humanitas aclara que para superar tales patrones es necesario salvaguardar primero a la persona, centrada en Jesucristo. Esta idea, ha argumentado Rowlands, ha alcanzado un punto crítico que genera dos reacciones opuestas pero igualmente dañinas: «por un lado, el dolor y la desesperación; por otro, el deseo de trascender nuestra humanidad buscando convertirnos en nuestras propias divinidades».
El documento advierte contra la visión que considera a la humanidad «salvada» por la IA o sus perspectivas transhumanistas, que presentan «la autonomía total, la automatización radical y la trascendencia de las limitaciones humanas como objetivos salvíficos», pero que acaban generando «nuevas dependencias, exclusiones, manipulaciones y desigualdades». Rowlands ha concluido recordando que Magnifica humanitas nos ayuda a comprender que el deseo de dominar, lo que San Agustín llama libido dominandi, «puede ser alabado por el mundo como una fortaleza, pero es desprecio por Dios y el prójimo y nunca es una virtud cristiana».
El Papa ha cerrado el acto invitando a «todos los miembros de la Iglesia y de la familia humana» a «aprender a escucharnos unos a otros, a afrontar con valentía los desafíos del presente y a cooperar en la construcción de una sociedad más humana y fraterna», con el deseo de que Magnifica humanitas dé inicio a una época de «artesanos de la esperanza».
