El Papa pide «desarmar» la inteligencia artificial
Papa León presenta su primera encíclica, titulada «Magnifica Humanitas», en la que advierte sobre la necesidad de desarmar la inteligencia artificial. El pontífice alertó sobre el riesgo de crear «nuevas esclavitudes digitales» y vinculó la explotación de la IA con la esclavitud histórica.
Advertencia sobre la normalización de la explotación
El Papa incluyó una de las disculpas más contundentes del Vaticano por el papel de la Iglesia en la esclavitud. «Imposible no sentir profundo dolor al contemplar el inmenso sufrimiento», escribió, y vinculó la trata de esclavos con la IA, sugiriendo que el mundo corre el peligro de normalizar la explotación en su producción y aplicaciones. Advirtió sobre los paralelismos entre la esclavitud tradicional y las «nuevas esclavitudes digitales», indicando que la humanidad se encuentra ante una encrucijada moral similar.
Crítica al uso militar y político de la IA
El pontífice condenó el uso de la IA en la guerra, afirmando que ningún algoritmo puede hacer moralmente aceptable un conflicto. Señaló que la IA no elimina la «inhumanidad intrínseca» de la guerra, sino que reduce a las víctimas a datos y baja el umbral para recurrir a la violencia. También denunció cómo la IA impacta en la política mediante la manipulación de imágenes y vídeos, lo que expone a las personas a perspectivas sesgadas.
Llamamiento a los desarrolladores y expertos
El Papa emitió un llamamiento especial a los desarrolladores, afirmando que «cada decisión de diseño refleja una visión de la humanidad». En la presentación de la encíclica, Christopher Olah, cofundador de Anthropic, declaró que todos los laboratorios de IA operan «dentro de un conjunto de incentivos que a veces entran en conflicto con hacer lo correcto». Olah añadió que las cuestiones planteadas por la IA son más amplias que la comunidad investigadora.
Contexto de preocupaciones previas del pontífice
El Papa comparó la necesidad actual de salvaguardias frente a la IA con las que se necesitaron durante la revolución industrial para proteger la dignidad humana. Sugirió que no actuar contra los riesgos de la IA se asemeja al «retraso con el que tanto la sociedad como la Iglesia denunciaron el azote de la esclavitud». También alertó sobre el «colonialismo digital», vinculando los abusos coloniales con las prácticas tecnológicas modernas.
Incertidumbre sobre el impacto real de la encíclica
El Papa ha convocado una comisión para desarrollar su trabajo, pero existen grandes dudas sobre su efectividad frente al avance tecnológico. El texto recuerda que el papa Francisco publicó en 2015 la encíclica Laudato Si sobre el clima, pero en 2023 expresó su decepción por la inacción. Papa León podría tener que emitir una advertencia similar en los próximos años respecto a la IA.
