¿Por qué los responsables de datos no confían en la IA? Y otras conclusiones de nuestra encuesta sobre IA de 2026

Desde que la analítica basada en la inteligencia artificial irrumpió en escena, los responsables de producto se han apresurado a adoptarla. Promocionada como una forma de mantenerse a la vanguardia, la analítica basada en la inteligencia artificial promete procesos optimizados, recomendaciones personalizadas y una experiencia de usuario más eficiente. Sin embargo, los avances en inteligencia artificial no están exentos de dificultades, entre las que destacan las imprecisiones causadas por las «alucinaciones» de la IA y los proyectos piloto que no llegan a la fase de producción.

Para evaluar cómo utilizan la IA los responsables de la toma de decisiones basadas en datos en 2026 y conocer su nivel de confianza en los resultados generados por la IA, insightsoftware llevó a cabo una encuesta entre 114 responsables de datos y análisis. ¿Qué opinan realmente los responsables de datos sobre la IA y cuáles son los principales obstáculos para la confianza?

Estas son nuestras principales conclusiones.

Solo la mitad (51 %) de las organizaciones confía en los análisis generados por la IA

En lo que respecta a la confianza en la precisión de los resultados generados por la IA, los responsables de datos no están tan seguros. Según nuestra encuesta, solo la mitad (51 %) confía en los análisis generados por la IA. Esto refleja graves retos relacionados con la IA, como las «alucinaciones» de la IA, que se producen cuando esta proporciona información inexacta.

Este inconveniente de la tecnología de IA generativa está arraigado en su ADN. La IA está diseñada para dar respuestas con seguridad, pero la seguridad no es lo mismo que la precisión. Cuando un sistema de IA no sabe algo, está programado para dar una respuesta en lugar de limitarse a decir que no dispone de toda la información necesaria. ¿A qué se debe esto?

• Sin una conexión de datos en tiempo real, tu modelo tiene que hacer conjeturas.La IA genera respuestas verosímiles a partir de los patrones de entrenamiento, ya que no puede acceder a los sistemas de tu empresa en tiempo real para verificar los datos.

• Las lagunas en la lógica de negocio dan lugar a cálculos erróneos.Los modelos generan resultados que no tienen en cuenta las normas, fórmulas y requisitos de cumplimiento específicos de tu empresa, integrados en los sistemas de producción.

• Las restricciones de gobernanza generan puntos ciegos.Los equipos de seguridad restringen correctamente el acceso a las bases de datos, lo que impide que los modelos puedan contrastar las respuestas con los datos de origen reales.

• La complejidad empresarial supera las posibilidades de la comparación de patrones. Cientosde tablas relacionadas, con uniones personalizadas y dependencias, requieren un contexto profundo del que carecen los modelos si no cuentan con una correspondencia semántica adecuada.

El futuro de la IA en la empresa

Más información

De hecho, nuestro estudio revela que un tercio (33 %) de las organizaciones están preocupadas por las «alucinaciones» de la IA, y que el 26 % ya ha sufrido consecuencias negativas. Solo el 19 % no ha tenido ningún problema.

Obstáculos para la confianza

Cuando se les preguntó por qué la mitad de las organizaciones no confían en los resultados de la IA, los responsables de datos señalaron las preocupaciones en materia de seguridad y gobernanza como la razón principal.

Las organizaciones necesitan datos y análisis precisos para sobrevivir y seguir creciendo. Pero, ¿la solución pasa por renunciar a la IA? No necesariamente, aunque los equipos de datos necesitan algo más que la IA por sí sola para confiar en los datos. Según la encuesta, existen oportunidades para mejorar la confianza en los sistemas de IA.

Para reforzar la confianza, los responsables de datos necesitan una IA que permita rastrear los datos hasta su origen mediante registros de auditoría completos. Gracias a la capacidad de contrastar la información generada por la IA con los datos originales, los equipos de datos pueden verificar que las respuestas no sean «alucinaciones» y demostrar la veracidad de la información a las personas relevantes, como las partes interesadas y los órganos de control.

Esto es especialmente importante en el caso de nuevas normativas como la Ley de IA de la UE, que deben cumplir las organizaciones que operan en la Unión Europea (UE), independientemente de que tengan o no su sede dentro de la UE.

Todas las organizaciones se centran en aplicar buenas prácticas de gobernanza. Además de ser una necesidad, unas prácticas de gobernanza sólidas ahorran tiempo y dinero a las organizaciones a la hora de superar auditorías y evitar multas por incumplimiento normativo. En lo que respecta a la IA, estas son las cinco principales prioridades de gobernanza para los responsables de datos:

«Failure to Launch»

Otro obstáculo muy extendido en el ámbito de la IA es que los proyectos piloto no llegan a la fase de producción. Los responsables de datos a los que hemos encuestado afirman que solo un tercio (31 %) de sus proyectos de IA ha superado la fase piloto.

Esto puede deberse a diversas razones. Al ser preguntados al respecto, los encuestados indicaron que los retos en materia de seguridad y gobernanza son sus principales preocupaciones (58 %), seguidos de los resultados inexactos o incoherentes de la IA (39 %) y la imposibilidad de verificar los resultados (31 %).

Otro reto a la hora de pasar los proyectos de la fase piloto a la de producción es el tiempo que lleva preparar los datos para la inteligencia artificial. De los encuestados, dos tercios (63 %) afirman que la preparación de los datos para su uso en inteligencia artificial provoca retrasos.

El problema de la confianza en la IA: por qué casi el 90 % de los proyectos de IA fracasan antes incluso de empezar

Más información

¿En la nube, en las propias instalaciones o híbrido?

Otra razón por la que las organizaciones se encuentran con problemas a la hora de implementar la IA son las restricciones derivadas del entorno en la nube de sus plataformas de análisis o de inteligencia empresarial. Mientras que una parte de las organizaciones trabaja en la nube, otras se ven obligadas a hacerlo en un entorno local o híbrido. A algunas les funciona mejor un modelo híbrido, ya que algunos departamentos trabajan en la nube mientras que otros permanecen en el entorno local; otras, en cambio, deben permanecer en el entorno local debido a que pertenecen a sectores altamente regulados, como la sanidad o las finanzas.

Las organizaciones necesitan flexibilidad en lo que respecta al análisis basado en la inteligencia artificial. Sin embargo, surgen problemas cuando los proveedores te obligan a integrarte en su ecosistema. Si eliges su solución de BI, te obligan a utilizar su nube, independientemente de si es la opción más adecuada para tu estrategia.

Ante retos como las alucinaciones y las imprecisiones, la necesidad de subsanar las deficiencias en la gobernanza de la IA y el hecho de que los proveedores te obliguen a utilizar su modelo de nube, ¿cómo puedes sacar partido a los análisis de IA y confiar realmente en los datos que te proporcionan?

Añadir una capa semántica puede ayudarte a superar estas frustraciones relacionadas con la IA. Simba Intelligence reducelas «alucinaciones» de la IAal conectarse directamente a los datos de la empresa. Sus respuestas están vinculadas a datos en tiempo real y muestran el rastro de la información, de modo que tus usuarios puedan realizar fácilmente un seguimiento de los resultados, verificarlos y respaldarlos. Mientras que las herramientas tradicionales de BI muestran paneles de control y las herramientas de integración de datos se encargan de trasladar los datos, Simba Intelligence conecta la IA directamente a los datos corporativos regulados sin copiarlos ni perder el control sobre ellos.

Gracias a los datos analíticos de Simba Intelligence, podrás:

• Obtén respuestas deterministas y auditables en las quepuedas confiar a la hora de tomar decisiones críticas para tu empresa.

• Subsane las deficiencias en materia de seguridad y gobernanza mediantela consulta segura de los datos in situ en diversas fuentes, lo que elimina la necesidad de realizar copias y garantiza que la gobernanza se aplique de forma coherente en el origen.

• Alivia la sobrecarga de los equipos de ingeniería de datos proporcionándolesdatos controlados y listos para usar directamente en su entorno, lo que permite a tu equipo centrarse en tareas de mayor valor.

• Proteja los sistemas operativos mediantemedidas de seguridad relacionadas con el rendimiento y el acceso, proporcionando un acceso controlado y regulado sin ralentizar las operaciones críticas.

• Acompaña a los usuarios en cada etapa de su transición a la nube, sindependencia de un único proveedor, al admitir implementaciones en la nube pública, la nube privada, en las propias instalaciones y híbridas. Esto proporciona a las empresas un control total sobre la residencia de los datos y el cumplimiento normativo.

¿Estás listo para saber más? Lee nuestra infografía con los resultados completos de la encuesta.