Papa León XIII defiende el desarme de la IA y la prevención de la “dominación sobre la humanidad”

En su primera encíclica, el pontífice afirmó que la inteligencia artificial “no es moralmente neutral” y advirtió sobre los riesgos de deshumanización y su impacto en los derechos de los trabajadores.

El Papa León XIV hizo un llamado a la humanidad a luchar contra el “dominio” de la inteligencia artificial (IA) en su primera encíclica, publicada este lunes. Este documento también denuncia la “deshumanización” y el concepto de “guerra justa”.

El texto de 130 páginas, titulado “Magnifica Humanitas” (“Magnífica Humanidad”), aborda diversos temas, como la demora de la Iglesia en condenar la esclavitud y el impacto de la IA en el medio ambiente.

Las encíclicas son documentos dirigidos a todos los fieles que establecen la posición de la Iglesia sobre cuestiones sociales, morales, políticas o teológicas.

Dada la importancia del documento, el pontífice lo presentó personalmente, junto con expertos en IA, entre ellos el cofundador de la empresa Anthropic, Christopher Olah.

“No podemos considerar la IA como moralmente neutral”, afirma el Papa, quien presenta un llamado a “desarmar” esta tecnología y “evitar su dominio sobre la humanidad”.

El Papa León XIV también denuncia que el control de plataformas, infraestructuras y datos “no es prerrogativa de los Estados, sino de los grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso”.

Citando, entre otros, a Platón y J.R.R. Tolkien por su lucha contra la deshumanización, el Papa estadounidense critica las “nuevas formas de esclavitud” utilizadas para extraer los recursos necesarios para la IA y aboga por soluciones tecnológicas más sostenibles “para reducir el impacto ambiental y cuidar nuestra casa común”.

“En algunas regiones del mundo, adolescentes y niños trabajan en condiciones peligrosas moliendo materiales de los que se obtienen las tierras raras”, un grupo de metales esenciales para la tecnología moderna.

“Cuerpos marcados, mutilados, desgastados para que el flujo de cálculos no se interrumpa”, denuncia el Papa.

Contra las “guerras justas”
El Obispo de Roma también aprovecha la encíclica para pedir “perdón” por la histórica demora de la Iglesia en condenar la esclavitud.

Más allá de los desafíos tecnológicos, el Papa advierte sobre el riesgo de la “deshumanización”, alertando sobre una visión del ser humano reducida a su desempeño o a datos explotados por máquinas.

Desde su elección hace un año, el primer Papa estadounidense de la historia ha intensificado sus advertencias sobre los peligros de la IA, en particular su uso en el ámbito militar, y sobre la necesidad de la “alfabetización digital”.

“Ningún algoritmo puede hacer que la guerra sea moralmente aceptable”, escribe León XIII en la encíclica.

Los analistas creen que el impacto de “Magnifica Humanitas” podría ser comparable al de la encíclica de 2015 “Laudato Si'” (“Alabado seas”), en la que el Papa Francisco abordó el tema ecológico y que provocó una ola de reacciones en todo el mundo.

El pontífice reitera la necesidad de “superar la teoría de la “guerra justa” y lamenta que “la humanidad se esté deslizando hacia una cultura violenta del poder”, que normaliza la guerra como “instrumento de política internacional”.

En una rueda de prensa este lunes, el Papa explicó que el texto surgió de la “escucha”, tras dialogar con científicos, ingenieros, líderes políticos, padres y maestros “preocupados” por las generaciones más jóvenes.

“Necesitamos que más actores en el mundo, comunidades religiosas, sociedad civil, investigadores, gobiernos, hagan lo que Su Santidad hizo aquí: tomar esto en serio, examinarlo con detenimiento y orientar los acontecimientos hacia una mejor dirección”, declaró Christopher Olah.

“Magnifica Humanitas” culmina varios años de reflexión en el seno de la Iglesia sobre las tecnologías relacionadas con la IA.

En 2020, la Santa Sede, junto con empresas tecnológicas e instituciones académicas, lanzó el Llamamiento de Roma por la Ética de la IA, en el que abogó por un desarrollo tecnológico que respete la dignidad humana.