Una empresa puede contratar un modelo de inteligencia artificial en la nube sin comprar una sola GPU ni instalar nuevos servidores. Sin embargo, eso no significa que la infraestructura haya desaparecido.
Cada consulta requiere capacidad de procesamiento. Los servidores consumen electricidad y generan calor, que debe disiparse. Además, los datos tienen que viajar hasta los centros donde se ejecutan los modelos y regresar con una respuesta.
Ese es parte del costo físico de la IA: la infraestructura y los recursos necesarios para ejecutar estos sistemas, desde la capacidad de cómputo y el consumo de energía hasta la conectividad y la refrigeración.
Mientras la inteligencia artificial se concentraba principalmente en proyectos piloto y aplicaciones puntuales, esta infraestructura podía permanecer invisible para buena parte de las organizaciones. El problema surge cuando las cargas comienzan a crecer.
La Agencia Internacional de Energía (IEA) proyecta que el consumo eléctrico mundial de los data centers alcanzará alrededor de 945 TWh en 2030, más del doble que en 2022. El organismo identifica a la inteligencia artificial como uno de los principales impulsores de este crecimiento.
Para las empresas, por tanto, adoptar IA ya no implica únicamente decidir qué modelo ofrece mejores resultados. También exige preguntarse dónde se procesarán los datos y si el valor obtenido compensa los recursos necesarios para sostener cada aplicación.
El costo físico de la IA empieza a llegar a la infraestructura
En el Perú, este cambio todavía se refleja más en la adopción de servicios en la nube que en una expansión masiva de infraestructura propia destinada a la inteligencia artificial.
Joel Vilca, docente de Tecnologías de la Información del Instituto de Educación Superior CERTUS, dice que las empresas locales están concentrando primero sus repositorios de información en plataformas como AWS, Azure o Google Cloud antes de desarrollar nuevos casos de uso.
“Preparar los datos es el paso cero ineludible; sin datos accesibles, no hay IA funcional”, declara Vilca a Sectoriales Tech.
La misma necesidad está impulsando arquitecturas híbridas. En aplicaciones que requieren respuestas rápidas, parte del procesamiento puede realizarse más cerca del usuario mediante edge computing, en lugar de enviar constantemente la información a una región de nube ubicada en otro país.
Esta aproximación puede cobrar relevancia en sectores como el retail o las telecomunicaciones, donde determinadas aplicaciones de visión computacional necesitan reducir la latencia.
Al mismo tiempo, empiezan a surgir inversiones locales preparadas para soportar cargas más densas. Cirion, por ejemplo, desarrolla en Lurín su data center LIM2, una instalación con 20 MW de capacidad que incorpora refrigeración líquida y que la compañía presenta como preparada para cargas intensivas de inteligencia artificial.
Este movimiento muestra que la discusión sobre la IA empieza a trascender el software y alcanza una capa menos visible: la infraestructura digital necesaria para sostener su crecimiento.
Más GPU también significan más energía y refrigeración
Una carga de inteligencia artificial no requiere necesariamente la misma infraestructura que una aplicación empresarial tradicional.
Vilca estima que un rack convencional puede operar con una potencia de entre 5 y 10 kW, mientras que las configuraciones densas de GPU pueden demandar 40 kW o más.
Uptime Institute también identifica esta tendencia. La organización indica que los sistemas de IA de alta densidad ya pueden superar los 40 kW por rack, mientras que determinadas configuraciones recientes exceden los 100 kW.
Este aumento modifica otra variable: cómo disipar el calor generado por esos equipos.
Los sistemas de refrigeración por aire continúan siendo suficientes para muchas cargas tradicionales. Sin embargo, a medida que aumenta la densidad de procesamiento, tecnologías como la refrigeración líquida empiezan a cobrar mayor relevancia.
El consumo, además, no se limita a los chips. La IEA calcula que la refrigeración puede representar una proporción relevante del consumo eléctrico de un data center, especialmente en instalaciones menos eficientes.
Por ello, escalar una solución de IA no consiste simplemente en multiplicar el número de consultas. En algún punto, una mayor capacidad de cómputo también implica mayor presión sobre el suministro energético y los sistemas encargados de mantener operativa esa infraestructura.
¿Cuándo la inteligencia artificial cuesta más de lo que genera?
Esta expansión abre una segunda pregunta para las organizaciones: ¿todos los casos de uso justifican utilizar los modelos más grandes disponibles?
Vilca advierte que no necesariamente. “El riesgo es altísimo y es lo que en la industria ya conocemos como el ‘impuesto de la IA’”, afirma. El especialista señala haber observado proyectos en los que se utilizaron modelos de gran tamaño para actividades sencillas que podían resolverse con alternativas considerablemente más pequeñas.
El error consiste en evaluar únicamente si la tecnología funciona, sin considerar cuánto cuesta mantenerla operativa.
Una empresa que consume IA mediante una API puede comenzar con un gasto reducido. Sin embargo, este aumenta a medida que crecen el número de consultas y el volumen de información procesada. Si decide alojar sus propios modelos, también deberá considerar el tiempo durante el cual la infraestructura contratada permanece ociosa.
“Se debe calcular cuánto cuesta, de extremo a extremo, generar una sola respuesta”, explica Vilca.
Una tarea sencilla de clasificación de documentos, por ejemplo, no necesariamente requiere la capacidad de un gran modelo generativo. Un modelo más pequeño o incluso una solución estadística tradicional puede alcanzar el resultado requerido por una fracción del costo.
Por ello, Vilca recomienda comenzar con servicios bajo un esquema de pago por uso para demostrar primero que el caso genera valor. Solo cuando el volumen transaccional justifique asumir costos fijos tendría sentido evaluar infraestructura dedicada o modelos alojados por la propia organización.
En otras palabras, el modelo más potente no necesariamente será el más rentable.
El consumo de IA también genera un costo ambiental
El crecimiento de los data centers incorpora, además, una variable particularmente sensible para Lima: el agua.
El Banco Mundial ha documentado que la capital peruana registra alrededor de 10 milímetros de lluvia al año o menos. Al mismo tiempo, una parte importante de la población y de la actividad económica del país se concentra en la costa, donde la disponibilidad de agua es considerablemente menor que en otras regiones.
Este contexto vuelve especialmente relevante la forma en que se refrigerarán las nuevas cargas de procesamiento.
Vilca cuestiona especialmente la expansión de soluciones que dependan de grandes volúmenes de agua potable para disipar el calor.
“Lima es una ciudad desértica; utilizar el método tradicional de torres de enfriamiento por evaporación para disipar el calor extremo de los clústeres de IA es insostenible”, advierte.
El BID también identifica el consumo de agua como uno de los desafíos asociados a la expansión de la infraestructura para inteligencia artificial en América Latina y el Caribe, particularmente en zonas sometidas a estrés hídrico.
Sin embargo, el impacto físico no termina allí. La expansión de la IA también incrementa la demanda de hardware especializado y puede acelerar los ciclos de renovación de determinados equipos.
PUE y WUE: qué deberían transparentar los data centers
Para Vilca, el crecimiento de esta infraestructura exige empezar a observar métricas que todavía resultan poco familiares fuera de los equipos técnicos.
Una de ellas es el PUE (Power Usage Effectiveness), que relaciona la electricidad total consumida por un data center con la utilizada directamente por su equipamiento tecnológico. Cuanto más se acerca este indicador a 1, menor es la proporción de energía destinada a infraestructura auxiliar.
La segunda es el WUE (Water Usage Effectiveness), una métrica que permite conocer cuánta agua utiliza una instalación en relación con la energía consumida por sus sistemas informáticos.
El Departamento de Energía de Estados Unidos utiliza ambos indicadores para evaluar la eficiencia energética e hídrica de los data centers.
En una ciudad con las condiciones de Lima, esta información puede dejar de ser un dato puramente técnico y convertirse en un criterio para seleccionar proveedores.
Vilca sugiere que las organizaciones soliciten estas métricas a quienes operan la infraestructura donde ejecutarán sus cargas. Para una compañía que terceriza por completo su procesamiento en la nube, el servidor puede ser invisible, pero su consumo de recursos sigue existiendo.
Qué deben calcular las empresas antes de escalar la IA
El crecimiento de la inteligencia artificial no implica que cada empresa peruana deba construir su propio data center ni adquirir GPU.
Tampoco existe una única arquitectura correcta. Una organización puede ejecutar las cargas más intensivas en grandes plataformas de nube y mantener determinadas inferencias de forma local cuando necesita reducir la latencia. Otra puede utilizar modelos pequeños para procesos rutinarios y reservar soluciones más potentes para problemas cuya complejidad realmente las justifique.
La decisión debería partir del caso de negocio. Antes de escalar, la empresa necesita conocer cuánto cuesta producir cada resultado y cuánto valor genera. A partir de ello, puede determinar qué combinación de modelo e infraestructura permite sostener ese proceso de manera eficiente.
Durante los últimos años, la IA se ha presentado como una capa de software que puede incorporarse progresivamente a cualquier organización. Sin embargo, su expansión empieza a demostrar que esa visión es incompleta.
Detrás de cada respuesta siguen existiendo chips que consumen electricidad, redes que transportan información y sistemas encargados de disipar el calor generado durante el procesamiento.
Para las empresas, el siguiente nivel de madurez no consistirá en utilizar IA en más procesos a cualquier costo, sino en identificar qué aplicaciones justifican su costo físico y asignarles únicamente los recursos necesarios para generar más valor del que consumen.
