El pontífice advierte de que la IA “no puede considerarse moralmente neutra” y reclama marcos jurídicos y supervisión independiente frente a la concentración del poder tecnológico.
El papa León XIV durante la presentación de "Magnifica Humanitas", su primera encíclica, firmada el 15 de mayo en el 135.º aniversario de la Rerum Novarum de León XIII
Foto:
León XIV presentó el lunes su primera encíclica, “Magnifica Humanitas” (“Humanidad magnífica”), un documento de 110 páginas dedicado a los efectos de la inteligencia artificial sobre la dignidad humana. El primer papa estadounidense de la historia, matemático y canonista de formación, advierte en el texto de que la IA “no puede considerarse moralmente neutra” y reclama “desarmarla” para “evitar que domine al ser humano”.
Su tesis es que las innovaciones tecnológicas “pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión”. La IA, escribe, “alimenta la brecha entre los incluidos y los excluidos”.
El núcleo de la crítica es la concentración de poder en el sector privado. Patentes, algoritmos, plataformas digitales, infraestructuras y datos quedan, según el texto, “concentrados en las manos de unos pocos”. Son esas empresas las que definen “condiciones de acceso, reglas de visibilidad, formas de relación e incluso oportunidades económicas”.
“Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público”, advierte el papa, que ve en ello el riesgo de “nuevas dependencias, exclusiones, manipulaciones y desigualdades”.
Frente a eso pide reglas concretas: “No basta con invocar la ética de manera abstracta; se requieren marcos jurídicos sólidos, supervisión independiente, usuarios informados y un sistema político que no abdique de su responsabilidad”. Y resume: "Una IA más moral no es suficiente si esa moralidad es determinada por unos pocos“.
El documento se presentó este lunes en el Vaticano con la presencia del cofundador de Anthropic, Christopher Olah, empresa que mantiene un litigio con la administración de Donald Trump tras negarse a permitir el uso militar irrestricto de su tecnología. La inclusión de Anthropic en el acto fue criticada por quienes la leyeron como un aval pontificio; fuentes vaticanas la equipararon a la audiencia con un jefe de Estado, es decir, un reconocimiento y no un respaldo.
El papa dedica sus advertencias más concretas a dos colectivos, menores y trabajadores. Sobre los menores, alerta de “fenómenos de captación, chantaje y explotación sexual” agravados por “perfiles falsos, algoritmos que amplifican contactos peligrosos y herramientas de IA capaces de manipular imágenes y vídeos”, y pide límites de edad y mayor responsabilidad de los proveedores.
Sobre el trabajo, sostiene que los enfoques tecnológicos actuales pueden “desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas”.
Reclama que toda automatización vaya acompañada de “medidas verificables de protección del empleo y de recualificación”, y que el orden económico permanezca subordinado a la dignidad humana.
“La búsqueda de mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente empleos”, escribe.
En materia de conflicto armado, León XIV llamó a superar el concepto de “guerra justa” —invocado, según el texto, “con demasiada frecuencia para justificar cualquier conflicto”— y declaró que es “no permisible” delegar decisiones letales e irreversibles a sistemas de IA.
Denunció que "la humanidad se está deslizando hacia una cultura violenta del poder" y reclamó una cadena de responsabilidad identificable que alcance a “quienes diseñan, entrenan, autorizan y emplean la tecnología”.
El texto contiene además la primera disculpa formal de un papa por el papel de la propia Santa Sede en la legitimización de la esclavitud, que León XIV califica de “herida en la memoria cristiana”.
“Por esto, en nombre de la Iglesia, pido sinceramente perdón”, escribió el pontífice, cuya historia familiar incluye tanto personas esclavizadas como propietarios de esclavos, según investigaciones genealógicas publicadas por Henry Louis Gates Jr.
Otros papas habían pedido perdón por la participación de cristianos en la trata: Juan Pablo II lo hizo en 1992 y Francisco denunció en repetidas ocasiones sus formas actuales.
León XIV fue más allá al reconocer el papel de los propios pontífices, que en el siglo XV autorizaron a soberanos portugueses y españoles a someter y esclavizar a los “infieles”. La Iglesia, recuerda, poseyó esclavos hasta la Edad Media y tardó diecinueve siglos en articular “una condena formal, absoluta y universal de la esclavitud”.
El papa vinculó ese pasado con el presente al advertir que el incumplimiento de los estándares laborales en la economía digital —incluida la extracción de minerales para chips de IA— constituye “una nueva forma de esclavitud y colonialismo”.