Solo el 5% de los líderes tecnológicos comprende plenamente las decisiones de su inteligencia artificial

La empresa de software analítico FICO presentó los resultados de su estudio Estado de la IA Responsable 2026, elaborado junto con Corinium Global Intelligence. El informe encuestó a 1,004 ejecutivos de alto nivel en las áreas de tecnología, riesgo y datos a escala global. Los hallazgos revelan una brecha crítica de confianza: únicamente el 5.2% de los líderes corporativos se siente muy seguro al explicar las decisiones automatizadas por inteligencia artificial a reguladores o clientes.

A pesar de las inversiones multimillonarias destinadas al desarrollo tecnológico, el 71.5% de las decisiones operativas que afectan a los usuarios se toma sin interacción de la inteligencia artificial. Esta reticencia responde a la falta de transparencia en los modelos algorítmicos.

Scott Zoldi, director de analítica de FICO, enfatizó la urgencia de establecer estándares normativos. El directivo indicó que la mayoría de las organizaciones identifica qué determinó su sistema, pero pocas comprenden el razonamiento lógico detrás del resultado. Por este motivo, la auditabilidad y la explicabilidad resultan indispensables para proteger la reputación empresarial.

Explicabilidad y marcos regulatorios en la toma de decisiones

Las exigencias regulatorias sobre los algoritmos aumentan globalmente. Frente a este escenario, más de un tercio de los ejecutivos (37.3%) admite neutralidad o inseguridad total al justificar el comportamiento de sus plataformas.

Para contrarrestar este riesgo, las organizaciones adoptan medidas preventivas:

• Estándares de desarrollo: El 71.9% de los encuestados considera que definir normas de creación de modelos generará el mayor impacto positivo en la operación.
• Modelos interpretables: El 67.9% prioriza las arquitecturas comprensibles para validar los criterios del sistema.
• Detección de sesgos: El 58.8% aplica herramientas para identificar y corregir desviaciones en los datos.
• Auditorías periódicas: El 53.5% evalúa continuamente el rendimiento y la precisión de sus soluciones de software.

Aunque el 85.1% de los directivos confirma que la tecnología cumplió o superó sus expectativas de retorno de inversión (ROI), la toma de decisiones aún depende de metodologías tradicionales. El 33.3% del volumen operativo descansa en el criterio humano, el 21.4% utiliza sistemas basados en reglas fijas y el 16.8% recurre a analítica estándar.

Barreras operativas y el reto de la capacitación laboral

La falta de infraestructura unificada frena el aprovechamiento total de las herramientas analíticas. Solo el 8.2% de las empresas posee una plataforma compartida de implementación totalmente operativa, mientras que el 71.2% dispone de un sistema parcialmente integrado. Asimismo, el 96.4% de los líderes coincide en que una colaboración estrecha entre los equipos de datos y tecnología optimizaría los resultados.

Entre los obstáculos internos destacan la resistencia al cambio (61.4%) y la ausencia de una visión conceptual unificada sobre la tecnología (58.4%). Respecto a los riesgos a cinco años, el 63.2% señala el rezago en las habilidades de la fuerza laboral como su principal preocupación, superando ampliamente el temor a perder el control de las plataformas (10.4%).

Lariza Carrera, directora de producción en Corinium Global Intelligence, subrayó que el éxito de la implementación corporativa depende del factor humano y de la preparación de los equipos.

La inteligencia artificial agentiva permanece en etapa experimental

El despliegue de la inteligencia artificial agentiva muestra un avance cauto en los sectores productivos. Apenas el 2.4% de los ejecutivos aplica agentes autónomos en procesos de atención al cliente, mientras que el 71.5% mantiene estos proyectos en fase exploratoria o de pruebas piloto. Las barreras principales para su rentabilidad incluyen los riesgos de ciberseguridad (40.1%) y los problemas de integración o calidad de datos (38.3%).

De cara a los próximos 18 meses, los directivos proyectan mayor rentabilidad en soluciones más consolidadas:

• Modelos de lenguaje específicos de dominio: Priorizados por el 49.5% de los encuestados.
• Inteligencia artificial generativa: Respaldada por el 48.7% de las preferencias.
• Arquitecturas interpretables: Seleccionadas por el 46% para asegurar la transparencia.

En contraste, solo el 27.5% prevé retornos inmediatos mediante agentes autónomos. Rachael Hadaway, vicepresidenta de productos de inteligencia artificial en FICO, concluyó que la inversión actual en seguridad y gobernanza de datos sentará las bases para la autonomía operativa futura.

Este contenido fue procesado y optimizado por el equipo editorial de Neurona Magazine a partir de la información proporcionada.