El costo de inferencia por flujo de trabajo con agentes de inteligencia artificial aumentará más de cinco veces hacia 2028, pese a que procesar cada token será cada vez más barato. La proyección de Gartner expone una nueva dificultad para las organizaciones que buscan llevar la IA agéntica desde proyectos piloto hacia operaciones a mayor escala.
La consultora denomina a este fenómeno la “paradoja de la inferencia”: las mejoras en hardware, infraestructura y modelos reducen el costo unitario del procesamiento, pero al mismo tiempo permiten desarrollar sistemas capaces de ejecutar tareas mucho más complejas y consumir una cantidad considerablemente mayor de recursos. Gartner había proyectado previamente que los costos de los tokens podrían caer hasta 95% hacia 2030.
Para las empresas, por tanto, abaratar el acceso a los modelos no garantiza una reducción equivalente en la factura final. El desafío pasa a ser cuánto cómputo utiliza cada proceso para producir un resultado y si ese gasto genera suficiente valor para justificarlo.
De responder preguntas a ejecutar procesos
La diferencia está en la forma en que opera un agente frente a un chatbot convencional. Mientras este último recibe una solicitud y genera una respuesta, un sistema agéntico puede descomponer un objetivo en varias tareas, razonar sobre los pasos necesarios, consultar herramientas o fuentes externas, revisar sus resultados y modificar su estrategia si encuentra errores.
Ese comportamiento requiere más interacciones con los modelos. Gartner estima que los modelos agénticos pueden utilizar entre cinco y 30 veces más tokens por tarea que un chatbot tradicional de IA generativa. La diferencia puede ampliarse cuando varios agentes colaboran entre sí o cuando intervienen modelos de razonamiento más avanzados.
Según la consultora, enviar una tarea a un modelo de razonamiento agéntico ya incrementa al menos cinco veces el costo de inferencia para el proveedor frente a una interacción básica con un chatbot. A medida que aumenta la complejidad de la tarea, esa brecha puede crecer aún más.
La tendencia plantea una ecuación distinta para los responsables de tecnología: el costo relevante deja de ser únicamente el precio del token y pasa a ser el costo completo del flujo de trabajo.
Más autonomía también significa más consumo
El impacto puede intensificarse a medida que los agentes ganen autonomía. Un sistema puede necesitar validar sus propias respuestas, llamar a otros agentes, recurrir a modelos especializados o procesar información multimodal antes de completar una sola solicitud del usuario. Computerworld, citando el análisis de Gartner, señala que estos mecanismos pueden generar un elevado consumo de inferencia incluso antes de producir el resultado final.
La escala empresarial añade otra variable. Gartner proyecta que una compañía promedio del Fortune 500 podría utilizar más de 150,000 agentes hacia 2028, frente a menos de 15 en 2025. El crecimiento no implica que todos operarán permanentemente ni con el mismo nivel de autonomía, pero ilustra por qué el control del consumo puede convertirse en una nueva disciplina dentro de la gestión tecnológica.
El problema tampoco es exclusivamente financiero. Una mayor cantidad de agentes introduce nuevas necesidades de gobierno, seguimiento y control sobre qué sistemas pueden actuar, a qué información tienen acceso y qué modelos están autorizados a utilizar.
Orquestar antes que sobredimensionar
Para Gartner, una de las respuestas pasa por la orquestación. No todas las tareas requieren utilizar los modelos más avanzados disponibles: consultas rutinarias y de alta frecuencia pueden dirigirse hacia modelos más pequeños o especializados, mientras que la inferencia más costosa debería reservarse para problemas que realmente requieren capacidades superiores de razonamiento.
Esta estrategia, conocida como inference tiering, busca asignar diferentes niveles de capacidad según la complejidad de cada tarea. En la práctica, supone evitar que un agente invoque automáticamente modelos de frontera cuando una alternativa de menor costo puede alcanzar el resultado esperado.
Gartner también recomienda vincular el gasto de las funcionalidades de IA con métricas concretas de resultado, como tareas automatizadas o casos resueltos. Ese seguimiento permite detectar procesos cuyo consumo aumenta sin producir mejoras equivalentes y decidir si deben optimizarse, limitarse o retirarse.
La gobernanza completa la ecuación. Antes de escalar un flujo agéntico, las organizaciones deberían definir umbrales de desempeño, riesgos aceptables y costos, además de someter los escenarios a pruebas frente a posibles variaciones en precios y requerimientos de cumplimiento.
El nuevo cálculo del ROI de la IA
La advertencia de Gartner no supone que los agentes dejarán de ser económicamente viables. La consultora sostiene que es posible obtener retorno de estas tecnologías, pero la reducción del costo unitario de la IA no debería utilizarse como argumento suficiente para justificar su despliegue.
A medida que las organizaciones pasen de asistentes que responden preguntas a agentes capaces de ejecutar procesos completos, medir el consumo por caso de uso será tan importante como medir sus mejoras en productividad, velocidad o calidad.
El abaratamiento de los tokens puede ampliar las posibilidades de la IA. Pero, para las empresas, la ventaja no estará necesariamente en utilizar más inteligencia disponible, sino en asignar el modelo y el nivel de autonomía adecuados a cada tarea.
