Imaginemos un tablero de control en el que el gerente de capital humano presenta los resultados de un nuevo sistema de IA: redujo el tiempo de contratación a la mitad, filtró miles de hojas de vida y hasta sugirió a quiénes desvincular por "bajo potencial de desempeño futuro". Los números lucen impecables.
Pero nadie pregunta cómo llegó la máquina a esas conclusiones. Nadie revisa si el algoritmo descartó sistemáticamente a mujeres o a mayores de cincuenta años. Ese tablero es, en realidad, un piloto automático sin instrumentos de vuelo.
El problema no es la tecnología (que ya usa cerca del 88% de empresas globales, según el World Economic Forum). El problema es delegar decisiones que afectan vidas sin criterio ni supervisión humana.
Y ojo: el contexto regulatorio peruano ya no permite la indiferencia. La Ley de IA (julio 2023) y su reglamento imponen principios de no discriminación, transparencia y supervisión humana.
Los riesgos concretos ya los conocemos: sesgo algorítmico que replica décadas de prácticas discriminatorias a escala (el caso de aquella gran tecnológica que entrenó su sistema con contrataciones pasadas y terminó penalizando hojas de vida de mujeres es el ejemplo clásico); opacidad en decisiones, tipo "caja negra", en las que nadie explica por qué alguien fue rechazado; y un marco sancionador que se endurece, con una SUNAFIL que fiscaliza más y un Poder Judicial cuya predictibilidad sigue siendo limitada.
¿Qué hacer?
Entonces, ¿qué hacer en concreto? Identificar riesgos ya no alcanza. En el último foro AXPEN, realizado en abril del 2026, compartimos un marco de mejores prácticas que las organizaciones más avanzadas ya vienen implementando y que consideramos la hoja de ruta mínima para cualquier empresa que use IA en capital humano.
➡️ Política interna de IA como prioridad número uno. Definir el alcance de las herramientas, los usos permitidos y prohibidos, restringir el ingreso de datos personales en estos sistemas y —esto es innegociable—, establecer revisión humana obligatoria antes de cualquier decisión de contratación, promoción o terminación. La tecnología tiene que ser asistente, nunca juez.
➡️ Gobernanza interfuncional. Se necesita un comité que integre a recursos humanos, legal, tecnología, compliance y estrategia. He visto varios casos en los que esto queda solo en manos del área de sistemas y, francamente, así no funciona.
➡️ Auditorías anuales. A cargo de un auditor independiente que evalúe el impacto diferenciado en clases protegidas —género, edad y discapacidad— y mida la precisión del modelo. Si no lo miden, no lo gestionan.
➡️ Transparencia y notificación. Informar a trabajadores y candidatos cuando la IA intervenga en decisiones laborales. El Reglamento peruano ya lo exige como deber especial, por lo que, más que una buena práctica, es una obligación.
➡️ Due diligence de proveedores. Revisar los acuerdos y confirmar que cumplan con estándares legales y éticos. Hay que decirlo con toda claridad: “compramos esto a un proveedor” no es una defensa legal válida. La responsabilidad sigue siendo de cada empresa.
➡️ Capacitación y diálogo. Entrenar a los líderes en límites éticos y legales, y abrir espacios de consulta con los trabajadores antes de desplegar sistemas con impacto laboral. Esto último muchas empresas lo omiten y después se sorprenden de la resistencia interna.
La IA bien gestionada puede ser parte de la solución en un país con brechas laborales profundas. Pero la eficiencia sin criterio es peligrosa. Los gerentes que integren IA con visión estratégica —innovación, compliance y supervisión humana— no solo evitarán riesgos: construirán organizaciones más competitivas.
