Por Rodrigo Ochoa, gerente de Consultoría de EY Perú
Hoy, la pregunta ya no es si las empresas deben usar inteligencia artificial, sino cuánto riesgo están dispuestas a asumir al hacerlo. La presión por capturar beneficios rápidos convive con una realidad igual de tangible: a medida que este tipo de tecnología se integra en procesos operativos y decisiones, crece la exposición a fallas y al uso indebido.
En ese terreno, la gobernanza deja de ser un checklist y se convierte en una decisión estratégica: qué controles son mínimos, cuándo aplicarlos y con qué rigor.
Innovar rápido no significa operar sin control
No se trata de elegir entre ser más rápidos o tener todo bajo control, como si fueran polos opuestos. El desafío es gestionar ese balance con disciplina y claridad. Exigir una gobernanza perfecta desde el inicio puede paralizar, sobre todo cuando el aprendizaje depende de experimentar con casos reales.
En el extremo contrario, desplegar IA sin gobierno eleva significativamente el riesgo de decisiones opacas, fuga de información y automatizaciones que, cuando fallan, nadie puede explicar.
El nivel de control depende del riesgo
El punto crítico es aceptar que el umbral de control de la IA dependerá inherentemente del contexto. En ese sentido, no es lo mismo experimentar con productividad interna que automatizar decisiones que afectan a clientes, personas o resultados financieros.
La exigencia crece aún más cuando la IA deja de recomendar y comienza a ejecutar acciones dentro del proceso operativo. Pretender un único estándar rígido puede conducir a decisiones equivocadas en ambos extremos. No se trata de elegir entre gobernanza o innovación, sino de hacerlas compatibles sin quedar expuestos.
Gobernanza adaptativa: experimentar rápido, escalar con rigor
Una fórmula estratégica viable es adoptar una gobernanza adaptativa: rapidez en la experimentación y rigor en la producción.
Imaginemos, por ejemplo, que un equipo de operaciones activa un agente de IA que revisa reclamos y propone reembolsos pequeños. En la práctica, el agente no solo recomienda, sino que también envía autorizaciones a un sistema interno y notifica por correo a un supervisor.
Todo funciona con normalidad hasta que aparece un caso atípico con datos sensibles. Ante un escenario como este, la decisión que antes estaba en manos del equipo pasa a ser gestionada por un sistema. Es precisamente ahí donde se vuelve evidente el valor de definir mínimos claros antes de escalar.
Supervisión humana: quién decide y quién responde
Definir estos mínimos no es un ejercicio teórico; en la práctica, son las condiciones que permiten mantener el control sobre decisiones que ya no se toman directamente.
Este control se sostiene en tres frentes complementarios: quién decide, qué datos se usan y cómo se puede reconstruir lo ocurrido.
Cuando hablamos de supervisión humana, un mínimo indispensable es tener claridad sobre quién decide y quién responde.
Debe existir un dueño del proceso con facultad de aprobación, un revisor con criterio independiente y un canal de escalamiento que se active cuando el riesgo supera un umbral definido. Sin esta claridad, la responsabilidad se diluye y se pierde la capacidad de intervenir a tiempo.
Ese límite no tiene que ser perfecto, pero sí comprensible: qué decisiones abarca, qué impacto tiene, a quién afecta, cuánta autonomía tiene el sistema y qué datos están en juego.
Cuando los sistemas comienzan a ejecutar sobre la base de decisiones tomadas por una IA, es importante que existan mecanismos de intervención que permitan pausar, revertir y trasladar la decisión a un revisor humano.
Privacidad de datos en IA: límites antes de escalar
En relación con la privacidad, clasificar la información que ingresa, minimizar lo que se usa y declarar el propósito de manera concreta son condiciones básicas cuando se trabaja con IA.
Por ejemplo, si el objetivo es atender reclamos, no hay razón para reutilizar esos datos en otro contexto. Sobre esa base, se requiere control de acceso por roles, registros de quién consultó qué y reglas de retención acordes con el riesgo.
También conviene definir límites de uso para evitar que textos sensibles terminen alimentando repositorios de entrenamiento o queden expuestos en historiales donde no deberían estar.
Auditoría de IA: cómo reconstruir una decisión automatizada
Por último, en materia de auditoría, el mínimo de control necesario gira en torno a una trazabilidad suficiente para reconstruir una decisión y corregir desviaciones.
En la práctica, eso implica bitácoras que registren entradas y salidas, la versión del modelo o configuración, las instrucciones relevantes, las fuentes consultadas y las acciones ejecutadas.
Sin esta trazabilidad, no hay forma consistente de entender qué ocurrió ni de corregir errores de manera sistemática. Sobre esa base, debe existir una revisión periódica, con muestreo y criterios claros, junto con mecanismos para registrar hallazgos, ajustar controles y documentar cambios.
IA agéntica: el nuevo reto para la gobernanza empresarial
La IA agéntica ya está sobre la mesa y su autonomía seguirá creciendo en el entorno empresarial. En este escenario, es crítico preguntarnos qué hace falta para que podamos asumir los resultados de las decisiones que hoy empieza a tomar por nosotros.
