La inteligencia artificial moderna, los modelos frontier y la IA agéntica están rediseñando el mundo a una velocidad que ha dejado obsoletas las dos instituciones sobre las que construimos la civilización contemporánea: la democracia y el libre mercado.
En ese vacío de gobernanza, una voz inesperada acaba de romper el silencio. El papa León XIV, con su encíclica Magnifica Humanitas, ha lanzado la primera respuesta institucional global seria al modelo tecnocrático que avanza sin contrapesos.
No es un manifiesto ludita. Es una advertencia precisa, filosóficamente sólida y políticamente urgente: la tecnología no es el problema. El problema es quién la controla, con qué propósito y a costa de quién.
La crítica central de la encíclica no apunta a la IA como herramienta, sino al paradigma tecnocrático que la sostiene: la tendencia a permitir que la eficiencia, el control y el lucro gobiernen decisiones que afectan profundamente la dignidad humana. Los agentes autónomos y los modelos frontier ya no son herramientas pasivas.
Toman decisiones propias, generan soluciones que nadie programó explícitamente y operan a una escala que ningún gobierno puede supervisar plenamente. Eso no es moralmente neutro. Es un nuevo poder sin rostro y sin responsabilidad.
A esto se suma la concentración obscena de ese poder: un puñado de empresas, radicadas en dos o tres epicentros globales completamente ajenos a América Latina, controla las infraestructuras, los datos y los algoritmos que están reconfigurando economías, democracias y culturas enteras. Y ahora vende el sueño del transhumanismo a quienes pueden pagarlo, mientras el resto observa.
Como economista y empresario, reconozco que esta encíclica interpela directamente a quienes diseñamos modelos de desarrollo y a quienes participamos en el juego sin criterio propio.
Durante décadas medimos el progreso con el PIB, como si fuera suficiente. No lo es; nunca lo fue. La encíclica exige formular nuevas preguntas: ¿la tecnología está cerrando brechas o profundizándolas? ¿Está creando valor distribuido o concentrando riqueza en pocas manos? ¿Está ampliando oportunidades o blindando privilegios?
Esas no son preguntas filosóficas. Son preguntas urgentes de política económica. Y quienes gestionan empresas, diseñan políticas públicas o construyen marcos regulatorios tienen una responsabilidad que no pueden seguir delegando al mercado y, mucho menos, a los algoritmos.
El papa ofrece una brújula moral poderosa, pero deja abiertas preguntas que nuestra generación debe responder. ¿Cuál es el límite de lo humano que debe preservarse cuando la tecnología expande nuestras capacidades?
¿Es posible ampliarlas manteniendo la vulnerabilidad que nos hace interdependientes y, por tanto, humanos? Y la más incómoda: ¿cómo construimos gobernanza global cuando la asimetría de poder entre naciones es brutal? ¿Qué puede hacer realmente el Perú, o cualquier país latinoamericano, frente a decisiones que se toman en las billeteras de Silicon Valley o Shanghái?
Este artículo no pretende ser concluyente. La encíclica de León XIV es un punto de partida, no una respuesta final. Se necesitan más voces, especialmente las nuestras.
Desde CDO LATAM, el gremio regional de Chief Data Officers, estamos trabajando para construir precisamente eso: una postura latinoamericana articulada. En noviembre, convocaremos a líderes gubernamentales de la región a una cumbre en Santiago de Chile para alcanzar un consenso sobre cómo aprovechar esta oportunidad y gestionar sus riesgos con criterios propios. Necesitamos un lugar en la mesa en la que se decide el futuro.
Si no levantamos la voz en esta conversación global, otros construirán nuestro destino. Y eso, como bien advierte el papa, no es neutralidad. Es una elección que ya estamos tomando, aunque no nos demos cuenta.
