¿Alguna vez te has cruzado con alguien que desconfíe de la inteligencia artificial dentro de tu organización? Es probable. Sin embargo, esa desconfianza no impide que muchas personas sigan usando distintas herramientas de IA e, incluso, empiecen a delegarles decisiones. Así lo revela el EY AI Sentiment Study, elaborado a partir de una encuesta a más de 18,000 personas en 23 mercados.
Para ser precisos, el 16% de los participantes ha utilizado la IA para que actúe en su nombre en los últimos seis meses, incluso en ámbitos como salud, finanzas y transporte.
“La IA avanza hacia una mayor autonomía en la toma de decisiones, mientras que la confianza de las personas no crece al mismo ritmo. Esta brecha puede traducirse en riesgos relevantes para las organizaciones y sus stakeholders. Por ello, el verdadero desafío no radica únicamente en incorporarla, sino en hacerlo correctamente. La IA autónoma puede ser un potente acelerador de competitividad, siempre que exista claridad sobre dónde avanzar con decisión y dónde priorizar la construcción de confianza, control y transparencia”, indica Francisco Escudero, socio de Consultoría de EY Perú.
¿Por qué a veces la velocidad no acompaña a la confianza?
De hecho, esta tensión también ha sido abordada por otras Big Four. Una investigación global de KPMG y la Universidad de Melbourne, aplicada a más de 48,000 personas en 47 países, halló que el uso de la IA se expande con rapidez, pero que la confianza aún es frágil: el 58% de los participantes la percibe como poco confiable.
Por otro lado, el estudio de EY sostiene que la seguridad sigue siendo una de las principales preocupaciones en torno al uso de la IA: dos tercios de los participantes temen ciberataques o filtraciones de datos. En paralelo, cerca de la mitad confía en que las empresas protejan su información.
El control también aparece como una preocupación relevante: siete de cada diez personas consideran esencial la supervisión humana, ante el temor de que las decisiones de la IA no reflejen sus valores. Por ello, el AI Risk Management Framework del NIST plantea que las organizaciones deben fortalecer sus prácticas de gobierno, medición y documentación para aumentar la transparencia de los sistemas de IA.
Además, las alarmas se encienden ante la posibilidad de que las organizaciones no asuman responsabilidad por el uso de la IA: seis de cada diez personas temen que las empresas no respondan por las consecuencias negativas que esta tecnología pueda generar. En la misma línea, el 55% desconfía de que cumplan tanto sus propias políticas de IA como las regulaciones gubernamentales aplicables.
“A medida que la inteligencia artificial gana autonomía, el foco ya no está solo en su adopción, sino en cómo se gestiona. Las organizaciones deberán responder a nuevas exigencias de las personas en torno a la transparencia, el control y la rendición de cuentas, integrando estos elementos desde el diseño para generar confianza de forma sostenida”, señala Escudero.
El estudio también expone las implicancias de este rápido avance de la IA para los líderes empresariales, en un contexto en el que la dinámica actual del mercado representa tanto una oportunidad como una responsabilidad.
La hoja de ruta del futuro
Así, EY plantea cuatro líneas de acción para los ejecutivos:
➡️ Liderar con experiencia, no con promesas: priorizar aplicaciones de IA que generen valor claro y cotidiano, y que permitan mantener cierto nivel de control por parte de las personas mientras aumenta la confianza.
➡️ Segmentar según el grado de preparación para la IA: adaptar las experiencias y estrategias a distintos niveles de adopción, según las necesidades de los usuarios.
➡️ Hacer visible la confianza: garantizar transparencia, protección de datos, supervisión humana y rendición de cuentas a medida que aumenta la autonomía de la IA.
➡️ Diseñar para el contexto emocional: incorporar empatía, simplicidad y enfoque humano para promover la adopción.
“El diseño se ha convertido en el punto de encuentro entre innovación y confianza, especialmente en el Perú, donde —según el último estudio Madurez Digital de EY Perú— el 74% de las organizaciones avanza en su transformación digital, impulsada por la inteligencia artificial, la gestión de datos y la ciberseguridad. En este contexto, cerrar la brecha de confianza en la IA es clave y solo puede lograrse desde la experiencia real de los usuarios: lo que comprenden, perciben y sienten al interactuar con estos sistemas”, dice Escudero.
El desafío será aún mayor con los agentes de IA. Gartner advierte que hasta el 40% de las empresas podría retirar o degradar este tipo de soluciones hacia 2027 por fallas de gobernanza, especialmente cuando no se diferencia con claridad entre agentes que observan, recomiendan, actúan con aprobación humana o ejecutan tareas de forma autónoma.
