El papa León XIV cita a Tolkien para advertir sobre la inteligencia artificial

El papa León XIV recurrió a la obra del escritor J.R.R. Tolkien para definir la responsabilidad de la humanidad frente al avance de la inteligencia artificial (IA), según establece su nueva encíclica presentada este lunes en el Vaticano. El documento, titulado Magnifica Humanitas (Magnífica Humanidad), integra fragmentos de El señor de los anillos para exhortar a la sociedad a actuar con ética ante el desarrollo tecnológico.

En el apartado “Todos podemos hacer nuestra parte”, el pontífice cita al autor católico del siglo XX para subrayar que la tarea humana no es dominar todas las mareas del mundo, sino socorrer los años en que vivimos. El objetivo, según el texto, es arrancar el mal de los campos conocidos para que las futuras generaciones encuentren tierra limpia para labrar. La presentación contó con la presencia inusual del propio León XIV, quien estuvo acompañado por teólogos y Christopher Olah, cofundador de la empresa de inteligencia artificial Anthropic.

Riesgos de la concentración de poder

La encíclica, estructurada en cinco capítulos, sostiene que la tecnología no es intrínsecamente malvada, pero advierte que nunca es neutral. El documento señala que la IA adopta las características de quienes la financian y regulan, lo que genera una preocupación central por la acumulación de recursos en pocas manos. Según el texto, esta herramienta tiende a acrecentar el poder de quienes ya poseen capital y acceso a datos masivos.

León XIV explicó que grupos pequeños pero influyentes pueden moldear patrones de consumo e influir en procesos democráticos para su propio beneficio. “Cuando ese poder se concentra en manos de unos pocos, tiende a volverse opaco y a evadir la supervisión pública”, señala el documento, advirtiendo sobre el riesgo de nuevas formas de exclusión y manipulación que socavan la justicia social entre los pueblos.

Dependencia humana y regulación militar

El pontífice también alertó sobre el impacto de la IA en las relaciones interpersonales y la capacidad crítica. El texto advierte que delegar decisiones en máquinas puede fomentar una dependencia excesiva y debilitar el juicio personal. En este sentido, el papa llamó a establecer marcos legales sólidos y una supervisión independiente, argumentando que se requiere una implicación política activa capaz de frenar el ritmo de aceleración tecnológica cuando sea necesario.

En el ámbito de la seguridad, el documento insta a “desarmar” la inteligencia artificial, alejándola de la mentalidad de competencia militar y económica. León XIV fue enfático al señalar que la responsabilidad por acciones letales debe recaer siempre en seres humanos y no en algoritmos. Por ello, reclamó la creación de leyes internacionales que regulen el uso de armas automatizadas.

Finalmente, la encíclica denuncia lo que denomina “nuevas formas de esclavitud”, vinculadas a la explotación humana y ambiental necesaria para el funcionamiento de la IA. Esto incluye desde el entrenamiento de modelos con material protegido hasta la extracción de minerales para hardware. El papa concluyó que pedir prudencia o un ritmo más lento en la adopción de estas tecnologías no es oponerse al progreso, sino ejercer un cuidado responsable hacia la humanidad.