La seguridad de un sistema de inteligencia artificial (IA) no termina en la evaluación del modelo. Su desempeño puede cambiar cuando se despliega en otro idioma, con menos datos disponibles o en entornos institucionales distintos de aquellos donde fue desarrollado. Esa es la preocupación que recoge una reciente investigación de Rest of World y que también aparece, con distintos alcances, en estudios académicos y reportes de Naciones Unidas.
Una de las evidencias más concretas proviene de un estudio presentado en EMNLP 2025 sobre traducción automática en salud. Los investigadores evaluaron Google Translate con 1,000 pares de oraciones en amárico y tigriña, dos lenguas con menos recursos digitales, usando contenidos de información sanitaria y comunicación médico-paciente. En ambos idiomas, más del 17% de las traducciones erróneas en el segundo escenario fueron clasificadas como capaces de generar un riesgo clínico alto.
Los ejemplos muestran la magnitud que puede alcanzar una falla de lenguaje. En tigriña, “gonorrea” fue traducida como “diabetes”, “viruela” como “sífilis” y “antibiótico” como “insecticida”. En una instrucción médica, el sistema llegó a convertir la indicación de haber recibido antibióticos intravenosos en una referencia a insecticidas intravenosos. El estudio académico, sin embargo, no documenta pacientes dañados por esos errores: se trata de resultados obtenidos en una evaluación experimental.
El riesgo cambia con el contexto
El problema de fondo es más amplio que la traducción. El Panel Científico Internacional Independiente sobre IA de Naciones Unidas advirtió en julio que las capacidades de la IA avanzan más rápido que los mecanismos disponibles para evaluarlas y gestionarlas, y que tanto los riesgos como la capacidad para responder a ellos están distribuidos de forma desigual entre países. Su informe también señala la concentración del desarrollo y de las capacidades necesarias para aprovechar esta tecnología.
El PNUD llegó a una conclusión complementaria al analizar la adopción de IA en once países y territorios. Su informe Small States, Big Signals sostiene que muchas decisiones decisivas de gobernanza no ocurren en grandes marcos regulatorios, sino en procesos de compra, contratos con proveedores, actualizaciones de software y decisiones operativas de equipos que utilizan sistemas sin criterios claros de aprobación o rendición de cuentas.
Esa dimensión de implementación es la que enfatiza Rest of World. Especialistas consultados por el medio sostienen que las evaluaciones y salvaguardas diseñadas en países de altos ingresos pueden perder eficacia cuando se aplican a idiomas con pocos recursos digitales o a entornos con menor capacidad institucional.
Incluso los indicadores corporativos requieren cautela. El AI Safety Index del Future of Life Institute ubicó en su edición de verano de 2026 a Anthropic, OpenAI y Google DeepMind en los tres primeros lugares entre nueve compañías evaluadas, aunque ninguna obtuvo una calificación superior a C+. El índice mide marcos de seguridad, gobernanza, daños actuales y otros dominios.
Para las empresas que despliegan IA en Perú y América Latina, la conclusión es principalmente operativa. Validar un sistema solo en su idioma dominante o con pruebas de laboratorio no basta. Los controles deben probarse en los idiomas, procesos, usuarios y condiciones reales donde se utilizará la tecnología, con mecanismos de escalamiento humano, monitoreo posterior al despliegue y responsabilidades claras frente a fallas. La seguridad, en otras palabras, también depende del contexto.
