León XIV lanzó la advertencia más importante del año. Hay una parte que no podemos seguir al pie de la letra.

Esta mañana, mientras abrías este artículo, un algoritmo ya decidió si eres sujeto de crédito. Otro determinó qué noticias mereces leer. Otro más calculó si tu cara en una cámara de seguridad coincide con el perfil de alguien peligroso.

Ninguno te pidió permiso. Ninguno fue electo. Ninguno rinde cuentas ante nadie.

Esta mañana, el Papa publicó el documento más importante sobre el futuro del poder en el siglo XXI.

Y casi nadie en México lo está leyendo.

El documento

León XIV lleva semanas en el Vaticano, pero ya dejó claro que no viene a administrar la Iglesia sino a interpelar al mundo. Magnifica humanitas —"La magnífica humanidad"— es su primera encíclica: el tipo de documento que el catolicismo reserva para cuando considera que algo en la civilización está en peligro.

La última vez que un Papa usó este instrumento para hablar de tecnología y trabajo fue en 1891. León XIII publicó entonces Rerum novarum ante los horrores de la primera revolución industrial: niños en fábricas, jornadas de 16 horas, obreros tratados como engranajes. León XIV eligió su nombre precisamente por eso —para señalar que estamos ante una ruptura de igual magnitud, pero más silenciosa y más profunda.

El tema de la encíclica es la inteligencia artificial. Y la palabra que eligió para definir su postura es "desarmar".

Las tres lógicas

Cuando el Papa habla de "desarmar" la IA, no habla de prohibirla ni de apagarla. Habla de quitarle tres lógicas que, dice, la convierten en una amenaza para la dignidad humana.

La primera es la lógica de la muerte. Hoy existen drones militares capaces de identificar un objetivo humano y disparar sin que ningún soldado apriete un gatillo. El algoritmo decide. En conflictos actuales en Ucrania y Gaza, sistemas de inteligencia artificial ya participan en decisiones sobre quién vive y quién muere. La encíclica lo dice sin rodeos: no es lícito confiar a una máquina una decisión letal. El juicio moral no puede reducirse a un cálculo.

La segunda es la lógica de la exclusión. Los sistemas de IA aprenden de datos históricos —y la historia humana está llena de discriminación. Un algoritmo entrenado con décadas de información reproduce, sin que nadie se lo proponga, los sesgos acumulados. No hay intención maliciosa: hay un espejo que refleja nuestras peores herencias y las institucionaliza como si fueran matemática objetiva.

La tercera lógica es la del dominio. Y aquí es donde la encíclica abre una conversación que México no puede ignorar —aunque tampoco puede seguir al pie de la letra.

Donde el Papa tiene razón

Los sistemas C5 operan hoy en Ciudad de México y otros estados con reconocimiento facial en tiempo real. El algoritmo puede marcar a una persona como sospechosa —sin orden judicial, sin que un humano haya tomado esa decisión— y desencadenar una intervención policial. No es ciencia ficción: ya opera. Ya ha generado detenciones erróneas documentadas.

En ambos casos, nadie tomó una decisión explícita de discriminar o de arriesgar vidas. Lo hizo el modelo. Y esa es exactamente la denuncia del Papa: cuando la técnica se vuelve criterio absoluto, la persona deja de ser persona y se convierte en un dato.

El punto ciego de la encíclica

Hasta aquí, León XIV tiene razón sin discusión.

Es en la lógica del dominio donde el argumento pierde filo —y donde México debe leer con más cuidado.

"Dominio" carga dos significados que la encíclica funde en uno solo. Uno es el dominio como sometimiento: el poder que aplasta, decide por otros, los reduce a objetos. Ese dominio es lo que el catolicismo lleva dos mil años combatiendo.

Pero hay otro dominio que es maestría: el del médico sobre su oficio, el del Estado sobre su territorio, el de una sociedad sobre las herramientas que usa. Sin ese dominio no hay soberanía. No hay agencia. No hay capacidad de elegir el propio rumbo.

La IA va a ser dominada. Eso ya está decidido. La única pregunta es por quién.

Si los actores con valores —democracias, instituciones públicas, empresas con vocación de bien común— renuncian al dominio técnico para sonar virtuosos, el espacio no queda vacío. Lo ocupan regímenes autoritarios sin ningún freno ético. Monopolios corporativos sin contrapeso democrático. Redes criminales que, en este momento, van años adelante de cualquier policía en el uso de IA para extorsión y fraude.

El Papa quiere desarmar la IA. Pero si solo la desarman quienes están dispuestos a escucharlo, el resultado no es un mundo sin armas. Es un mundo donde las armas las tienen los que nunca lo escucharían.

La trampa para México

Esto nos golpea distinto.

En el siglo XX, México entendió que había recursos estratégicos que no podían quedar en manos extranjeras. Lo hizo con el petróleo. La lógica era simple: quien controla la energía controla la economía.

Hoy hay un nuevo recurso estratégico saliendo de México sin que nadie lo note: nuestros datos. Cada trámite ante el SAT, cada consulta médica en el IMSS, cada búsqueda desde suelo mexicano alimenta modelos de inteligencia artificial que se entrenan y se monetizan fuera del país. Estamos exportando el petróleo cognitivo del siglo XXI a granel, sin refinarlo, sin cobrar regalías, sin soberanía de ningún tipo.

Un llamado a "desarmar" la IA, pronunciado mientras México no ha construido ninguna capacidad propia, no es humildad. Es rendición.

La alternativa no es construir una IA para dominar al mundo. Es democratizarla: poner esa misma tecnología al servicio de los que menos tienen, darle eficiencia a los proyectos que combaten el hambre, la pobreza y la desigualdad. Una IA que entienda a México —su derecho, su historia, sus lenguas, su burocracia— y que responda ante los mexicanos.

La clave no es desarmarla. Es democratizarla.

La pregunta que queda

León XIV eligió bien su palabra. "Desarmar" incomoda, despierta, obliga a pensar.

Pero las armas no desaparecen cuando los pacíficos las sueltan. Cambian de manos.

La pregunta que esta encíclica le lanza a México no es si queremos una IA desarmada. Es si vamos a construir una IA que sea nuestra —o si vamos a seguir usando la de otros y llamando a eso virtud.

Esa elección, a diferencia de las que toma el algoritmo, todavía la tomamos nosotros.

EpicentroMX