Deshumanización, el actual camino de la Inteligencia Artificial (IA), advierte Papa León XIV

Papa León XIV

“Todo artefacto técnico lleva consigo decisiones y prioridades — lo que mide, lo que ignora, lo que optimiza, cómo clasifica personas. La pregunta ética no es solo si se usa para bien o para mal, sino cómo está diseñada y qué idea de persona queda inscrita en los datos y modelos (…) La pregunta ya no es capital vs. trabajo, sino quién detenta el nuevo poder técnico y hacia qué fines lo orienta”.

Las tecnologias no son neutrales, sino que adquieren las rutas de quienes las crean y controlan; en este caso, se trata de actores privados trasnacionales que están encima de jefes de los Estados Nación. Tienen nombres, se trata, entre otros, de Elon Musk,

Larry Page, Sergey Brin,Jeff Bezos y Mark Zuckerberg, dueños de las principales empresas de IA como Nvidia, Microsoft, Alphabet, Amazon (AWS), OpenAI, Apple, Meta, Anthropic, Palantir y Databricks. No se trata solo del desarrollo del progreso tecnico que sirva a la humanidad, se trata de que estas empresas y sus creadores están concentrando el poder y fomentando las desigualdades sociales.

Lo anterior fue planteado en la presentación de la Encíclica Papal “Magnifica Humanitas. Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial”, presentado hoy por el Papá León XIV.

En la carta, el máximo líder de la Iglesia Católica fija un análisis sobre lo que hasta ahora se sabe de la IA y de cara a ella, los criterios éticos para gobiernos y empresas, y entrega un marco de discernimiento para medios de comunicación, universidades y legisladores deberían considerar, en la defensa de la dignidad humana, la justicia social y el bien de la humanidad.

El Papa retoma la tradición de la Rerum novarum de León XIII (1891) — de quien explícitamente toma el nombre — y la actualiza para los res novae (asuntos nuevos) de hoy: digitalización, IA, robótica, biotecnología. La pregunta ya no es capital vs. trabajo, sino quién detenta el nuevo poder técnico y hacia qué fines lo orienta.

Señala que el poder ya no reside en los Estados sino en actores privados transnacionales con recursos superiores a muchos gobiernos. Ese poder tecnológico es opaco, escapa al control público y concentra datos, infraestructura de cómputo y capacidad normativa en pocas manos.

En cinco capítulos desarrolla la tesis sobre la IA, de que sostiene, su naturaleza no se basa en la inteligencia humana, porque su desarrollo no viene de la experiencia, “no tienen cuerpo, no maduran en relaciones; no tienen conciencia moral: no juzgan bien y mal, no captan sentido último. Cuando «aprenden», no es por experiencia sino por adaptación estadística, no construye una relación, sino una apariencia”.

Plantea riesgos concretos del uso personal de la IA en tres ámbitos: debilitamiento del juicio personal y la creatividad; falsa objetividad porque las respuestas que plantea a los problemas, reflejan sesgos de quien diseñó y entrenó. “Todo artefacto técnico lleva consigo decisiones y prioridades — lo que mide, lo que ignora, lo que optimiza, cómo clasifica personas. La pregunta ética no es solo si se usa para bien o para mal, sino cómo está diseñada y qué idea de persona queda inscrita en los datos y modelos”.

Advierte que algunas versiones llegan a plantear seres humanos «de segunda clase» al servicio de élites que se perciben superiores. Es, dice, una “simulación afectiva peligrosa, porque imitar empatía en contextos pobres de relaciones reales.

Esto sin considerar que su mantenimiento y desarrollo continuo implica un impacto ambiental: gran consumo de energía y agua, emisiones de CO2, infraestructura de centros de datos.

“Los trabajadores se ven obligados a adaptarse a la velocidad y a las exigencias de las máquinas, en lugar de que estas estén diseñadas para ayudar a quienes trabajan”. La IA puede desespecializar, someter a vigilancia automatizada y

relegar a tareas rígidas y repetitivas.

Advierte de una doble fractura: sociedades ricas que se automatizan caóticamente generando desempleo; y vastas regiones del Sur Global atrapadas en economías híbridas con mano de obra barata y tecnologías parciales que provocan reservas de mano de obra precaria, focos de inestabilidad y migraciones forzadas.

“No sólo domina los cuerpos, sino que se apropia de los datos”

En el ambito de los medios de comunicación, “tienen una notable capacidad para influir en el imaginario colectivo y presentar como deseable una determinada visión de la realidad”.

En su carta, el Papa hace un llamado a poner reglas públicas que hagan transparentes los criterios de selección y amplificación de contenidos en plataformas; al fortalecimiento de organismos intermedios, periodismo serio y espacios de debate donde primen la argumentación y la verificación por encima de la reacción inmediata; a plantear una nueva alfabetización digital en escuela y familia; y a la integración de saberes en la universidad y formación en técnicas de verificación de hechos.

«Desarmar la IA antes que sea tarde»

Ante el panorama ya avanzado de la IA, el Papa León XIV propone para empresas, desarrolladores y legisladores realizar las siguientes medidas:

• Transparentar las cadenas de suministro tecnológicas.
• Trazabilidad de todo sistema de IA empleado en ámbito bélico.
• Control humano efectivo sobre cualquier decisión de fuerza letal.
• Reglamentación de la propiedad de los datos: «no pueden ser vendidos o confiados a unos pocos».
• Discutir el código ético de la IA: no basta “alinear” con valores humanos si esos valores los decide quien controla la plataforma.
• Inversión pública en educación digital y formación continua de docentes.
• Nuevos parámetros más allá del PIB para medir desarrollo.