un llamado a regular la IA y reflexionar sobre la esclavitud histórica

En un discurso histórico para presentar la encíclica “Humana Magnificencia” (en latín Magnifica Humanitas), el papa León XIV lanzó un dramático llamado a impedir el riesgo de que la inteligencia artificial, sin una debida regulación, termine por anular las decisiones de los seres humanos.

En un largo encuentro que duró dos horas y media en el Vaticano, en el que previamente hablaron cardenales y especialistas en el tema de la IA, el pontífice ofreció una disculpa histórica por el papel que la Santa Sede desempeñó con respecto a la esclavitud, al no haberla condenado durante siglos, lo que calificó como «una herida en la memoria cristiana».

La encíclica busca salvaguardar a la humanidad en una era de creciente dependencia de la inteligencia artificial. Sin embargo, el papa entendió que no podía afrontar un tema de notable proyección histórica sin hacer las cuentas con los siglos en los que la Iglesia no condenó debidamente el horror y la injusticia de la esclavitud humana.

En el documento, el pontífice denunció la «cultura del poder» que impulsa la carrera por la IA, especialmente en el desarrollo de métodos cada vez más sofisticados de guerra a distancia. Declaró que «no es permisible» confiar decisiones irreversibles y letales a sistemas de inteligencia artificial.

El papa León XIV criticó a las empresas de IA. En el texto, arremetió contra la concentración de poder y datos en manos de tan pocas personas en el sector privado, a la que consideró un peligro, y pidió una regulación externa de su trabajo.

Pidió «desarmar la IA» para «evitar que domine al ser humano», asegurando que «alimenta la brecha entre los incluidos y los excluidos». La encíclica advierte que la IA «no puede considerarse moralmente neutra» e insistió en el papel de la educación para aprender a gestionar sus riesgos.

También pidió superar el concepto de «guerra justa» y dijo que «la humanidad se está deslizando hacia una cultura violenta del poder».

La primera encíclica pontificia del papa, laureado en matemáticas, señala que «las personas que están a la vanguardia de estas herramientas y pueden ver las cosas increíbles que son capaces de hacer, se plantean preguntas como: ¿qué significa ser humano?».

En su encíclica, el papa aborda nueve temas centrales: