El potencial de la IA se ve frenado por una brecha de confianza en los datos

Veeam® Software, la compañía líder en confianza en datos e IA, ha presentado el nuevo informe Data and AI Trust Gap de Veeam que pone de manifiesto una brecha evidente y cada vez mayor en el núcleo de la IA empresarial. Aunque el 88% de las organizaciones ya utiliza o está probando agentes de IA, solo el 7% puede considerarse verdaderamente preparado para la IA y el 95% afirma que los retos relacionados con los datos ya han ralentizado su progreso en este ámbito. A medida que la IA basada en agentes pasa de la fase piloto a la producción, las organizaciones se enfrentan a un reto urgente: garantizar que los datos que alimentan esos sistemas sean visibles, estén controlados, sean seguros y resistentes.

El estudio, basado en una encuesta mundial realizada a 600 altos ejecutivos de los sectores de los servicios financieros, salud, industria manufacturera, comercio minorista y tecnología, revela que la adopción de la inteligencia artificial está avanzando a un ritmo mucho más rápido que las estructuras de gobernanza diseñadas para gestionarla. A pesar de la fuerte inversión y la firme voluntad de los ejecutivos, la capacidad para controlar, supervisar y recuperarse de los fallos de la IA está muy poco desarrollada.

Las principales conclusiones revelan que la IA se está implantando más rápido que los sistemas de control:

• Solo el 7% de las organizaciones está realmente preparado para la IA.
• El 88% ya utiliza o está probando agentes de IA.
• Solo el 28% confía en su capacidad para detectar sistemas de IA que operen fuera de los parámetros aprobados.
• El 95% afirma que los retos relacionados con los datos ya han ralentizado el avance de la IA.

Las cifras ponen de manifiesto una clara brecha de confianza entre la adopción de la IA y la gobernanza, la transparencia y el control necesarios para respaldarla.

“La mayoría de las organizaciones no tienen un problema de adopción de la IA, sino un problema de confianza en la IA”, afirmó Anand Eswaran, CEO de Veeam. “La primera fase de la IA se caracterizó por la inversión en infraestructura, la experimentación y la aceleración. La siguiente fase vendrá marcada por la confianza. Con la adopción generalizada de agentes de IA autónomos que operan a la velocidad de las máquinas, la pregunta pasa de ser si se puede utilizar la IA a si se puede garantizar que todos los datos estén seguros, regulados, cumplan con la normativa y sean resilientes. Y, si algo saliera mal, ¿se podría recuperar con precisión? Así es como se acelera la IA segura a gran escala sin aumentar el riesgo reputacional y operativo”.

La confianza de los directivos oculta una brecha con la realidad operativa

El estudio pone de manifiesto una importante brecha de percepción entre la dirección y los equipos operativos encargados de generar resultados en materia de IA. A menudo, el progreso se estanca entre la intención y la ejecución: la gobernanza se aplica de forma inconsistente, los datos se gestionan de manera reactiva y la responsabilidad se asigna, pero de forma fragmentada.

• El 65% de los directores generales cree que cuenta con un conjunto completo de soluciones de IA, frente a sólo el 48% de los responsables técnicos.
• El 52% de los directores generales cree que lidera activamente la gestión de datos, pero solo el 41% de los responsables de seguridad de la información (CISO) y el 38% de los directores de sistemas de información (CIO) están de acuerdo.
• El 48% de los directores generales cree que disponer de datos fiables, seguros y que cumplan con la normativa podría generar un crecimiento de los ingresos superior al 25%.
• El 83% de los directores generales siente la presión de acelerar sus capacidades en materia de IA y datos.

Esta combinación de una rápida adopción de la IA, unida a una visibilidad incompleta y una responsabilidad poco clara, crea las condiciones propicias para que se produzcan fallos difíciles de detectar, explicar y controlar.

Cuando la IA falle, no se parecerá a una interrupción del servicio

A medida que los sistemas de IA ganan en autonomía, la naturaleza de los fallos está cambiando. El riesgo se está desplazando de las interrupciones tradicionales del sistema hacia fallos a nivel de datos que son más difíciles de detectar, explicar y contener. El estudio advierte que los errores a velocidad de máquina pueden ir más rápido que la detección, lo que obliga a que la resiliencia evolucione de una recuperación general a una de precisión: restaurar solo lo que se ha visto afectado, en lugar de revertir entornos completos.

Entre las organizaciones que utilizan la IA en la actualidad, sólo una minoría es capaz de determinar en cuestión de minutos:

• A qué sistemas ha accedido (29%).
• Qué acciones ha llevado a cabo (25%).
• En qué decisiones ha influido (24%).
• Qué datos ha utilizado el sistema (22%).

Solo el 40 % de los líderes se muestran muy seguros de poder aislar y revertir con precisión un fallo de una IA autónoma.

De dentro hacia fuera, de fuera hacia dentro: la gobernanza se centra cada vez más en los datos

El reto de la gobernanza se centra cada vez más en los datos desde dos perspectivas: la demanda interna y el escrutinio externo.

Dentro de las organizaciones, el uso no autorizado de la IA es ya una práctica habitual:

• El 95% afirma que se produce un uso no autorizado de la IA dentro de su organización y el 93% lo considera un riesgo importante.
• Sin embargo, solo el 25% ofrece alternativas autorizadas, lo que significa que la mayoría intenta reprimir la demanda en lugar de gestionarla de forma eficaz.
• El 44% señala que el aumento del riesgo cibernético es el principal riesgo asociado a la “Shadow AI” (IA en la sombra).

Al mismo tiempo, la presión normativa externa a la organización se está intensificando. El 61% de las organizaciones afirma que la Ley de IA de la UE ya ha influido en sus estrategias de inversión en IA en los últimos 12 meses, mientras que el 47% señala que el mantenimiento de registros de auditoría para las decisiones de IA es su mayor preocupación en materia de cumplimiento normativo.

La confianza requiere responsabilidad, no ambigüedad compartida

Los nuevos estudios revelan que los principales obstáculos para el progreso son la fragmentación de la responsabilidad y la falta de coordinación entre las disciplinas operativas, ya que las responsabilidades en materia de datos, inteligencia artificial y gobernanza suelen repartirse entre los equipos de tal forma que se diluye la rendición de cuentas y se ralentiza la ejecución. Cuando “todo el mundo es responsable”, nadie puede establecer políticas de forma decidida, aplicar controles ni demostrar los resultados.

Cuando la responsabilidad está claramente definida, los resultados mejoran de forma significativa:

• Hay un 24% más de probabilidades de detectar comportamientos anómalos de la IA en las organizaciones en las que los CISOs asumen la responsabilidad sobre los riesgos de los agentes de IA.
• Hay un 47% menos de probabilidades de detectar comportamientos anómalos de la IA en las organizaciones que recurren a una responsabilidad compartida.

Los datos no necesitan otro defensor, sino un liderazgo responsable lo suficientemente sólido como para armonizar la gobernanza, la seguridad, la privacidad, el cumplimiento normativo y la resiliencia.

La confianza se está convirtiendo en la base operativa de la IA empresarial

Se está perfilando una clara división entre las organizaciones que logran hacer operativa la confianza y aquellas que no pueden. Las organizaciones que logran alinear con éxito la ambición, la visibilidad y la gobernanza obtienen resultados significativamente mejores que sus competidores.

Entre las organizaciones clasificadas como totalmente preparadas para la IA, el 97% afirma obtener beneficios empresariales cuantificables de sus inversiones en datos e IA, frente al 48% del total, lo que demuestra el valor de hacer operativa la confianza a escala empresarial.

Veeam: Creación de la capa de confianza en los datos y la IA

Veeam aborda este reto combinando la resiliencia, la seguridad y la gobernanza de los datos para ayudar a las organizaciones a identificar qué datos utiliza la IA, regular el acceso a los mismos por parte de personas y agentes, y recuperar con precisión datos limpios y fiables cuando se producen incidentes.

“Los resultados no dejan lugar a dudas. Cuando el 95% de los ejecutivos afirma que los retos relacionados con los datos ya están frenando su avance en materia de IA, el cuello de botella no es el modelo, sino la disponibilidad de datos fiables, controlados y recuperables”, añadió Eswaran. “Veeam está desarrollando la capa de confianza en datos e IA para proporcionar a las empresas la visibilidad, el control y la recuperación precisa que necesitan para ampliar la IA de forma segura y generar un valor empresarial real”.