El potencial de la inteligencia artificial se frena por una brecha de confianza en los datos, revela estudio de Veeam

Contar con datos confiables y seguros podría desbloquear un crecimiento de los ingresos superior al 25% para casi la mitad de las empresas globales. Sin embargo, la adopción masiva de esta tecnología avanza con mayor rapidez que los sistemas de control diseñados para gestionarla. Esta es una de las realidades que expone el nuevo informe Data and AI Trust Gap presentado por Veeam Software en el marco del evento VeeamON Londres.

El estudio revela que, aunque el 88% de las organizaciones ya utilizan o prueban agentes de inteligencia artificial (IA), únicamente el 7% de las empresas se consideran verdaderamente preparadas para operar esta tecnología de forma segura. De hecho, el 95% de los altos ejecutivos encuestados admite que los desafíos relacionados con la gestión de la información ya han ralentizado su progreso en este ámbito.

La brecha entre la expectativa de la dirección y la realidad operativa

El informe evidencia una disparidad de percepciones entre los directores generales (CEO) y los responsables técnicos encargados de implementar la tecnología. Mientras el 65% de los directores generales cree que su organización cuenta con un conjunto completo de soluciones de IA, solo el 48% de los líderes tecnológicos comparte esa misma opinión.

La gobernabilidad se aplica de forma inconsistente y los datos se gestionan de manera reactiva. Esto ocurre en un entorno donde el 83% de los directores generales experimenta una fuerte presión externa para acelerar la adopción de capacidades de IA.

“La mayoría de las organizaciones no tienen un problema de adopción de IA, sino un problema de confianza en la IA”, afirma Anand Eswaran, CEO de Veeam. “Con la llegada de agentes autónomos que operan a la velocidad de las máquinas, la pregunta clave es si podemos garantizar que los datos estén seguros, regulados y sean resilientes si algo sale mal”.

La nueva naturaleza de los fallos tecnológicos

A medida que los sistemas de IA ganan autonomía, la naturaleza de las interrupciones tecnológicas está cambiando drásticamente. El riesgo se desplaza de las caídas de sistema tradicionales hacia fallos a nivel de datos, los cuales resultan mucho más difíciles de detectar, explicar y contener a tiempo.

Actualmente, solo una minoría de las empresas que utilizan IA puede determinar en cuestión de minutos aspectos cruciales de sus sistemas autónomos:

• Acceso a sistemas: Solo el 29% identifica de inmediato a qué plataformas accedió la IA.
• Acciones ejecutadas: Únicamente el 25% conoce con precisión las acciones realizadas por el sistema.
• Decisiones influenciadas: Apenas el 24% rastrea el impacto del algoritmo en la toma de decisiones.
• Datos utilizados: Tan solo el 22% sabe qué datos exactos alimentaron el proceso.

Debido a esta falta de visibilidad, únicamente el 40% de los líderes empresariales confía en su capacidad para aislar y revertir con precisión un fallo generado por una IA autónoma. Esto obliga a evolucionar de metodologías de recuperación general hacia sistemas de resiliencia de alta precisión.

Desafíos de gobernabilidad: IA en la sombra y regulaciones

El reto de la gobernabilidad de datos se intensifica por presiones tanto internas como externas. Al interior de las compañías, el uso no autorizado de herramientas digitales es una práctica generalizada. El 95% de los ejecutivos afirma que en su organización se utiliza IA no autorizada, un fenómeno conocido como shadow AI (IA en la sombra), y el 93% lo considera un riesgo operativo importante. El aumento del riesgo cibernético destaca como el principal peligro asociado a esta práctica.

Al mismo tiempo, las normativas internacionales ejercen un fuerte escrutinio. El 61% de las empresas globales señala que la Ley de IA de la Unión Europea ya influyó en sus estrategias de inversión tecnológica durante los últimos doce meses. Para el 47% de las corporaciones, el mayor desafío de cumplimiento radica en mantener registros de auditoría claros sobre las decisiones que toma la IA.

Liderazgo claro frente a la responsabilidad compartida

El informe concluye que la fragmentación de responsabilidades entre los distintos departamentos operativos diluye la rendición de cuentas y frena la ejecución de las estrategias de innovación. Cuando la responsabilidad se comparte de forma ambigua, las políticas se vuelven ineficaces.

Por el contrario, asignar un liderazgo claro genera ventajas operativas tangibles:

• Liderazgo del CISO: Las organizaciones donde el director de Seguridad de la Información (CISO) asume directamente la responsabilidad de los riesgos asociados a los agentes de IA tienen un 24% más de probabilidades de detectar comportamientos anómalos.
• Riesgo de la responsabilidad compartida: Las empresas que diluyen la gestión del riesgo entre múltiples equipos tienen un 47% menos de probabilidades de identificar a tiempo un comportamiento anómalo en sus sistemas de IA.

Hacer operativa la confianza a escala empresarial ofrece un valor comercial directo. El 97% de las empresas completamente preparadas para la IA afirma obtener beneficios cuantificables de sus inversiones en datos, en comparación con solo el 48% del promedio general de las organizaciones encuestadas.