¿Es la IA una torre de Babel moderna que nos deshumaniza? Frente al dopaje tecnológico y la dictadura del promedio, la encíclica Magnifica Humanitas de León XIV propone un límite para garantizar nuestra dignidad. Un manifiesto por el desarme digital.
Este mayo de 2026, en Las Vegas, dio comienzo por primera vez una competencia atlética donde el doping no es una trampa a esconder, sino el espectáculo mismo. En los Enhanced Games, nadadores, corredores y levantadores de peso compiten sin control antidoping alguno, bajo el argumento de que el cuerpo pertenece al atleta y de que el límite que impone la biología es una condición injusta que debemos rechazar. Conviene no interpretar ese triste espectáculo como un escándalo deportivo aislado. Es una es una visión del hombre actual perfectamente escenificada: el cuerpo entendido como un sistema a optimizar, el rendimiento como única medida de la grandeza y la finitud como un error de fábrica que la técnica viene a corregir.
Esa manera de mirar al ser humano (como un producto a mejorar) no nace ni se agota en lo deportivo. Es la idiosincrasia de buena parte de quienes hoy diseñan los sistemas de inteligencia artificial, gente que entiende el progreso como la superación del homo sapiens y que, sin decirlo con todas las letras, trabaja para una humanidad aumentada, hibridada, liberada de sus propias condiciones de existencia. El cuerpo dopado y la máquina que promete pensar por nosotros pertenecen al mismo sueño. Hay una continuidad entre quien quiere nadar más rápido de lo que la carne permite y quien quiere que un modelo de inteligencia artificial escriba, decida y discierna mejor de lo que un humano podría. En ambos casos lo que sobra es el límite, y lo que se persigue es una versión del hombre sin las asperezas que lo vuelven, justamente, humano.
La leo sin ser un católico practicante, como alguien que trabaja en política tecnológica y se encontró con un documento que, desde un marco religioso, nombra con una precisión encomiable algunas cosas que nuestro campo de estudio todavía se pregunta.
El 25 de mayo el Vaticano dio a conocer Magnifica Humanitas, la primera encíclica de León XIV dedicada por entero a la inteligencia artificial. El texto, que como otras encíclicas es un documento religioso y político influyente, parte de la premisa inversa a la de la productivización del ser humano. La leo sin ser un católico practicante, como alguien que trabaja en política tecnológica y se encontró con un documento que, desde un marco religioso, nombra con una precisión encomiable algunas cosas que nuestro campo de estudio todavía se pregunta. Lo que sigue es un ejercicio de traducción: de la antropología que el texto ofrece a los criterios de gobernanza que me interesan. Donde habla el Papa lo marco con el número de párrafo entre paréntesis y con citas entre comillas.
La encíclica abre con dos imágenes bíblicas, y la primera es Babel. La lectura que hace León XIV no es la del castigo a la soberbia. Babel es el proyecto de "una sola lengua, una sola tecnología, una sola dirección" (§7), un esfuerzo que, "en lugar de la comunión, elige la homogeneización" (§7). El pecado no es el hecho material de la torre sino el ideal de uniformidad que la sostiene: la diversidad humana sacrificada en el altar de un único modo de hacer las cosas. Más adelante le pone nombre clínico, el "síndrome de Babel" (§10), la pretensión de un lenguaje único capaz de traducirlo todo, incluso "el misterio de la persona, en datos y rendimientos" (§10).
Vengo dándole vueltas hace tiempo a esa idea, sin tener la palabra exacta, bajo la fórmula “la máquina de mediocridades”, con una intuición más técnica que moral. Un modelo de lenguaje entrenado sobre el corpus de "todo lo escrito, capturado en imágenes, etc." no produce ideas: predice la continuación más probable al pedido o instrucción que se le otorga. Y, lo más probable, en un espacio de posibilidades tan vasto, es el promedio. Es la recurrencia estadística, el centro de gravedad de lo ya dicho, un falso consenso que se presenta con la seguridad (falsa) de los que saben y crean. La encíclica describe ese mecanismo mejor de lo que lo había intentado yo: la máquina aprende mediante una "adaptación estadística a partir de datos" que "no implica un crecimiento interior" (§99).
El pecado no es el hecho material de la torre sino el ideal de uniformidad que la sostiene: la diversidad humana sacrificada en el altar de un único modo de hacer las cosas.
El problema no es la mediocridad en sí. Hay tareas para las que queremos precisamente un resultado promedio. Cuando pido cómo llegar a una dirección no busco originalidad, busco la ruta más corta y más transitada, en el promedio de las rutas posibles, y está perfecto que así sea. El problema aparece cuando confundimos el promedio con lo bueno, con lo correcto, o con lo humano. Porque lo humano que resulta interesante casi nunca vive en el centro de las estadísticas. Vive en los márgenes, en la desviación, en el error fértil. Hace un tiempo trabajé esta misma idea desde otro ángulo (más abajo, el video), el de la imperfección como aquello que conecta: el truco que se deja ver, el espejo deformado que dice algo verdadero justamente porque distorsiona. Lo que nos moviliza a nivel humano no es lo pulido sino lo que tiene una grieta por donde se cuela la posibilidad de completar con nuestra propia imaginación. Una máquina entrenada para no errar, para devolver siempre la respuesta media, está estructuralmente incapacitada para eso.
La homogeneización no se detiene en el resultado de una modelo de IA. Se inmiscuye en el discurso público. Quienes controlan las plataformas y los medios tienen, en palabras de la encíclica, una capacidad notable para "influir en el imaginario colectivo y presentar como deseable una determinada visión de la realidad" (§136). Y el mecanismo más eficaz de ese poder no es la censura abierta ni la manipulación pavloviana sino algo más sutil, lo que el texto llama la "arquitectura de la visibilidad" (§171): lo que se amplifica y lo que se vuelve invisible, lo que se premia y lo que se penaliza, todo eso termina moldeando opiniones y eligiendo por nosotros, "generando conformismo y autocensura" (§171). Una sociedad mediada por máquinas que devuelven el promedio y por arquitecturas que recompensan la conformidad tiende, por diseño, hacia una sola voz. Babel otra vez, pero esta vez edificando una torre interior.
Si el primer eje es lo que está en juego al gobernar esta tecnología, el segundo es la pregunta por qué visión del ser humano vale la pena luchar. Y acá la encíclica dice algo que hay que leer con atención, porque corre en contra de casi todo el sentido común de nuestra época. "El ser humano no florece a pesar del límite, sino a menudo a través del límite" (§118). La frase invierte la operación entera de los Enhanced Games y de la ideología que representan. Donde el transhumanismo lee la incapacidad, la enfermedad, la vejez y la vulnerabilidad como defectos a corregir, el texto las resignifica como el espacio mismo en el que una persona madura y se abre a los demás. No es una resignación piadosa frente al sufrimiento sino un reconocimiento de que la finitud constituye lo humano en vez de mutilarlo.
De ahí continúa hacia un concepto que es la clave conceptual del documento: la dignidad ontológica, esa que pertenece a cada uno "por el hecho de existir" (§52). No se gana, no se acredita y no depende del rendimiento. Y es exactamente lo que la lógica de la optimización no comprende. La encíclica identifica claramente a la ideología adversaria: aquella que atribuye "mayor valía a quienes son más eficientes y productivos" (§51), que convierte a la persona en "un proyecto que debe optimizarse" (§112) más que en alguien llamado a relacionarse. Cuando la eficiencia se vuelve la medida del valor, el ser humano deja de ser un fin y pasa a ser un recurso, evaluado sólo por lo que rinde o produce.
Un mundo organizado alrededor del récord, del rendimiento y de la curva de productividad ya tiene escrita una respuesta sobre qué hacer con los que no rinden: excluirlos.
Lo que sigue en el texto es la parte que más me interesa, porque traza la línea que conecta las discusiones filosóficas con la justicia social. Si tratamos al humano como mera materia perfectible, dice la encíclica, se vuelve más fácil considerar a algunas personas como "menos útiles, menos deseables, menos dignas" (§117). El paso del culto a la eficiencia al lenguaje de los "sacrificios necesarios" (§117) para lograrla es corto, y son siempre los mismos los que terminan pagando el precio de la presunta optimización de la especie. Aquí la antropología va de la teoría a la práctica: la pregunta por si el límite humano es un defecto o una condición de la dignidad decide a quién consideramos prescindible. Un mundo organizado alrededor del récord, del rendimiento y de la curva de productividad ya tiene escrita una respuesta sobre qué hacer con los que no rinden: excluirlos.
Hay una trampa en el modo en que solemos discutir estas cosas en el mundo de la política tecnológica, y la encíclica la desactiva en una sola frase. "La primera elección no es entre un sí o un no a la tecnología" (§9). El binarismo (se está a favor o en contra, se es tecnooptimista o tecnófobo) es cómodo porque ahorra el trabajo de pensar y es estéril por la misma razón. El texto propone, en su lugar, una palabra de la tradición eclesial que resulta sorprendentemente útil para la política pública: el discernimiento. No como introspección privada sino como práctica colectiva, un "discernimiento compartido" (§6) que se nutre de las ciencias, las culturas y las experiencias, y que la encíclica define en contraposición explícita al ejercicio excluyente del poder: la Iglesia hace oír su voz, dice, "no para dominar, sino para servir a la comunión" (§27).
En este sentido, discernir en términos tecnopolíticos es negarse a tratar cada sistema tecnológico y sus implementaciones como bloques indivisibles que se aceptan o se rechazan enteros. Es preguntar para qué se usan, con qué datos, bajo qué control, a beneficio de quién, y con qué reparaciones y responsabilidades si algo sale mal. Es distinguir entre la aplicación que ayuda a un médico a leer una radiografía y la que decide a quién se le concede un crédito sin que nadie pueda apelar. La misma tecnología presenta casi siempre dos cuestiones morales distintas. El sí o el no no alcanzan; hace falta el discernimiento que distinga los casos.
Para que ese discernimiento sea posible, primero hay que identificar lo que se discierne, y ahí entra la palabra que el Papa elige para esto: "desarmar" (§110), en el sentido de “desarme”. Desarmar la IA, dice, no es renunciar a ella sino sustraerla a la lógica de la competencia armamentística (militar, económica, cognitiva) y "romper esta equivalencia entre poder tecnológico y derecho a gobernar". La formulación que ofrece la encíclica es casi un programa de trabajo: se trata de hacer la IA "discutible, refutable, y por tanto habitable" (§110). No basta regularla, advierte; "es necesario desarmarla" (§110). Ese desarme también abre el espacio para discutir el sentido de poder y dominación que acompaña muchas veces a los conceptos tecnológicos. Es necesario “desarmar” los significados. Los impulsores de tecnologías opresivas hablan en un dialecto diseñado para que ciertas lógicas no puedan discutirse. La vigilancia se llama personalización; la extracción de datos, mejora del servicio; el control, seguridad. Quien quiera intervenir en serio sobre estos sistemas tiene que empezar por devolverle a las cosas su nombre.
Discernir en términos tecnopolíticos es negarse a tratar cada sistema tecnológico y sus implementaciones como bloques indivisibles que se aceptan o se rechazan enteros.
El método no es complicado, pero requiere de trabajo y paciencia: tomar cada palabra del aparato discursivo, traducirla a lo que efectivamente designa, y volver a colocar en el centro la experiencia encarnada de los afectados por la tecnología. La encíclica nombra la versión sistémica de esa misma tarea cuando dice que hablar de bien común hoy significa "desenmascarar" la nueva asimetría y "nombrar los nuevos monopolios de la IA" (§109). Nombrar es el primer acto político.
Aquí comenzamos a dilucidar algunas claves para informar decisiones. La encíclica hace un movimiento que no esperaba de un texto pontificio: incluye entre los bienes de destino universal (que pertenecen a la humanidad y no a sus propietarios formales) a "patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos" (§67). Y reformula el viejo principio de subsidiariedad para la era digital. La subsidiariedad clásica protege a las personas, las familias y los cuerpos intermedios de ser absorbidos por el Estado, proponiendo que las acciones y decisiones se tomen en las instancias mas cercanas a los ciudadanos y las comunidades. León XIV observa que en la revolución digital el nivel que absorbe ya no es sólo el del Estado: son las plataformas, los grandes actores que "definen condiciones de acceso, reglas de visibilidad, formas de relación e incluso oportunidades económicas" (§71). De ese diagnóstico se deduce una agenda concreta, una de: "auditorías independientes, transparencia en los algoritmos, acceso equitativo a los datos" (§71), abogando por vías concretas para el ejercicio de los derechos.
Sobre los datos, la encíclica es más radical que buena parte del debate regulatorio dominante. Sostiene que su propiedad "no puede confiarse sólo al sector privado" (§108), porque son fruto del aporte de muchos y deben gestionarse como un bien común. Y cierra con una formulación que ofrece una guía clara para la creación de modelos de IA y otras herramientas técnicas: la justicia social no es algo que se tutela después de adoptada la tecnología, sino "una condición que se debe poner en práctica desde su diseño" (§109).
Ofrece una guía clara para la creación de modelos de IA y otras herramientas técnicas: la justicia social no es algo que se tutela después de adoptada la tecnología, sino una condición que se debe poner en práctica desde su diseño.
Esto se conecta con la idea de soberanía tecnológica: la autonomía de una persona, una comunidad o un país para darse sus propias reglas y asegurar su libertad para el diseño, el uso, la implementación y la relación con la tecnología. Esto tiene dimensiones que van desde lo político, lo jurisdiccional y lo económico hasta dimensiones personales y comunitarias relacionadas a la autonomía psíquica. Para los países que no cuentan con desarrollos propios de IA (la mayoría de los del globo), la cuestión no es caprichosa. Depender por completo de modelos entrenados en otra parte, con otros valores, sobre otros datos, es una forma nueva y elegante de dominación. La respuesta no es el aislamiento sino una política deliberada: código abierto donde sea posible, modelos específicos en vez de la fantasía del modelo único que lo sabe todo, regulaciones estrictas pero progresivas, ajustadas a propósitos concretos en lugar de prohibiciones que solo los poderosos saben sortear. Una IA más justa se construye activamente, sin pedir permiso.
Queda una objeción que merece ser tomada en serio, porque viene de gente que respeto. Cuando una institución como la Iglesia se sienta a dialogar con quienes construyen estos sistemas, hay quienes ven una claudicación: el riesgo de prestarle legitimidad moral a las mismas empresas cuyo poder el documento denuncia, de hacer el juego de los grandes en lugar de escuchar a los que la tecnología daña. Es una crítica honesta y tiene un fondo verdadero. Pero descansa, me parece, en una idea estrecha de cómo se cambia el mundo.
Se hace necesario distinguir entre la estrategia y la táctica. La estrategia es el cálculo de quien tiene un lugar propio, una posición desde dónde organizar el campo y negociar de igual a igual con otros poderes. La táctica es el arte del que no tiene lugar, del débil que opera dentro del terreno del otro, aprovechando las grietas y el momento oportuno. Son dos modos legítimos de actuar sobre un orden que a uno lo excede, y su valor depende de dónde está parado el que actúa. La Iglesia, que lleva siglos haciendo política real frente a reyes, imperios y mercados, juega un juego de estrategia: tiene un lugar desde el cual hablarles a los poderosos sin necesidad de legitimarse. La sociedad civil que presiona desde afuera, que denuncia, que organiza a los afectados, juega un juego de tácticas, y lo hace porque desde ahí es donde puede. La encíclica defiende lo primero con todas las letras cuando reivindica un realismo que "no renuncia a cambiar el mundo" (§218) y empieza por ver con claridad los intereses y las relaciones de poder para calcular qué es posible lograr, y cuando recuerda que la vocación de la diplomacia es dialogar incluso con los “interlocutores más incómodos” (§224), con los que ni siquiera se consideran legítimos para negociar.
El problema con los sistemas de inteligencia artificial no se resuelve eligiendo entre confrontar y conversar; se resuelve haciendo las dos cosas a la vez, desde posiciones distintas, por gente distinta, que se reconoce aliada y no rival.
El juego desde adentro y el juego desde afuera no se anulan: se necesitan. Quien presiona desde la calle vuelve creíble a quién negocia en la mesa, y quien negocia en la mesa abre puertas que la calle por sí sola no derriba. El problema con los sistemas de inteligencia artificial no se resuelve eligiendo entre confrontar y conversar; se resuelve haciendo las dos cosas a la vez, desde posiciones distintas, por gente distinta, que se reconoce aliada y no rival. Que una institución milenaria haya decidido pisar el terreno de los que construyen el futuro, y haya llevado a esa mesa un documento que defiende la dignidad de los descartados, el destino común de los datos y la justicia desde el diseño, no es un costo de la negociación: es el resultado de tomarse en serio que para cambiar algo primero hay que estar dispuesto a hablar con quien tiene el poder de cambiarlo. Lo difícil viene después, en la implementación: en si esos principios se vuelven legislaciones que funcionan, auditorías que tienen fuerza institucional, regulaciones que obligan, modelos que se entrenan y se despliegan de otra manera. Ahí se verá. Pero la mesa, por ahora, está puesta, y haber conseguido que la Iglesia se siente a conversar en los términos de la encíclica Magnifica Humanitas es sin dudas un logro que inspira nuestros objetivos, tácticas y valores.
