Cómo contener la IA oculta, que adopta múltiples formas y se extiende por todo tu entorno

La IA oculta solía limitarse a unos pocos escenarios sencillos, como los chatbots con IA y las extensiones de navegador con IA. Hoy en día, abarca un amplio abanico de vectores complejos, lo que dificulta su detección y control. En la última entrega de nuestra serie de entradas de blog sobre el Mes de la Concienciación sobre la Ciberseguridad, descubre cómo la formación en seguridad de los empleados, el gobierno del uso de la IA y la gestión de exposición pueden ayudarte a hacer frente con éxito a la IA oculta.

Puntos importantes

1. La integración de la «IA oculta» en la formación en concienciación sobre seguridad ayuda a los empleados a reconocer sus riesgos y a aprender a utilizar las herramientas de IA de forma segura. Los equipos de seguridad deberían fomentar una comunicación abierta con los empleados e intentar comprender por qué utilizan productos de IA no autorizada.
2. IA oculta abarca ahora modelos locales, asistentes de programación de IA, agentes autónomos y muchos otros tipos de activos en todo tu entorno, lo que lo convierte en un problema generalizado y complejo.
3. Puede reducir la incidencia de la IA oculta aplicando una política de uso aceptable de la IA que establezca directrices claras y una lista de herramientas de IA autorizadas, y abordando la IA oculta como parte de su programa unificado de gestión de exposición.

Es un día laborable cualquiera en una empresa típica de tamaño mediano o grande, y lo siguiente está ocurriendo sin que los departamentos de TI y de seguridad se den cuenta:

• Un responsable de marketing instala un servidor de código abierto del Protocolo de Contexto de Modelos (MCP), sin haberlo comprobado previamente, para conectar en secreto su asistente de IA de escritorio con la base de datos interna de clientes de la empresa.
• Una ejecutiva de ventas se descarga una extensión gratuita de IA para el navegador con el fin de resumir una página web y, sin saberlo, concede a un tercero acceso de lectura a sus tableros de control confidenciales del CRM.
• Un supervisor contable crea habilidades personalizadas para un chatbot de IA con el fin de automatizar la elaboración de sus informes, introduciendo proyecciones financieras sin censurar en una herramienta pública de IA generativa.
• Un ingeniero elude las restricciones del software para descargar y ejecutar un modelo de IA no verificado y alojado localmente, lo que genera un enorme punto ciego para la seguridad de los puntos de conexión.
• Una analista de negocios cede sus amplios privilegios administrativos a un agente de IA destinado al público general para que este pueda explorar de forma autónoma el almacén de datos privado de la empresa.
• Un desarrollador pega código fuente propio y aún no publicado en un asistente de IA gratuito y basado en la web para depurarlo rápidamente, con lo que, sin darse cuenta, cede la propiedad intelectual de la empresa al conjunto de datos de entrenamiento de un modelo público.

Yes, we’ve come a long way from the days when instances of shadow AI consisted mostly of employees oversharing work information with their personal AI chatbot. With AI now permeating enterprises’ operations, shadow AI has spread and morphed accordingly across the attack surface. It has become riskier and harder to detect, especially as autonomous AI agents proliferate. 

Por ejemplo, los incidentes de seguridad relacionados con los activos de IA ocultos de las organizaciones se han más que duplicado hasta alcanzar el 43 %, en comparación con el 20 % del año pasado, según el«Informe sobre el coste de una filtración de datos en 2026» de IBM. Por otra parte, el coste medio de las filtraciones de datos relacionadas con la IA oculta alcanzó los 5,39 millones de dólares, unos 400 000 dólares por encima de la media mundial.

El informe de IBM puso de manifiesto un impacto directo en la privacidad de los datos, las operaciones y el cumplimiento normativo:

• Casi la mitad de los incidentes de seguridad relacionados con la IA oculta provocaron la pérdida o la filtración de datos
• El 42 % provocó interrupciones operativas
• El 21 % dio lugar a multas reglamentarias

Durante un periodo de 30 días a principios de este año, la plataforma de gestión de exposición Tenable One detectó 457 millones de problemas de seguridad en 7.000 entornos de clientes utilizando 274 plug-ins de detección diseñados específicamente para la inteligencia artificial. Esto supuso una media de unas 62 000 exposiciones relacionadas con la IA por cliente.

«El panorama de la IA empresarial en 2026 se parece muy poco al de hace tan solo tres años», señalaba la Cloud Security Alliance (CSA) en su informe de abril, «: The Invisible Enterprise»: «IA oculta y la frontera sin gobernar ».

Dado que la adopción de la IA ha «superado con creces» el gobierno de la IA en las organizaciones, muchas empresas cuentan ahora con una peligrosa «capa invisible de infraestructura de IA» que no se ha inventariado y que, por lo tanto, no está sujeta a la aplicación de políticas, controles de acceso ni auditorías, según el informe de la CSA.

En esta tercera entrega de la serie semanal de entradas de blog de Tenable con motivo del Mes de la Concienciación sobre la Ciberseguridad, analizaremos las mejores prácticas que las organizaciones pueden adoptar para hacer frente a la IA oculta en sus múltiples formas —asistentes de código de IA, modelos, aplicaciones, API, funciones integradas, agentes, servidores MCP, datos de entrenamiento, extensiones de navegador y mucho más— y la mitigación de riesgos, como incumplimientos normativos, brechas de seguridad en los sistemas y fuga de datos.

Tres pasos para ayudarte en la mitigación de riesgos relacionados con la IA oculta

1. Fomentar la sensibilización y la formación de los empleados y los directivos

Un buen punto de partida para tu campaña contra la IA oculta es enseñar a los empleados y a los directivos a reconocer y prevenir este problema.

Empleados

El mes pasado, el Gobierno del Reino Unido destacó la importancia de que las organizaciones aborden el factor humano en la «IA oculta», concretamente la desconexión entre la rápida adopción por parte de los empleados y el retraso de las organizaciones a la hora de aprobar herramientas de IA y establecer políticas de uso de la misma.

Por ejemplo, el 34 % de los empleados encuestados en el informe«El futuro de los profesionales en 2026»de Thomson Reuters admitió haber utilizado, a sabiendas y de forma deliberada, herramientas de inteligencia artificial que su organización no había autorizado. 

¿Por qué? «Les frustra la calidad de las herramientas autorizadas o la falta de una estrategia clara en materia de inteligencia artificial», se lee en un artículo de Thomson Reuters sobre el informe, publicado en junio. 

El « » del Reino Unido. El Centro Nacional de Ciberseguridad (NCSC) recomienda centrarse en tres elementos clave: 

1. Comprender por qué los empleados utilizan herramientas de IA no autorizadas.
2. Establecer una«cultura positiva de ciberseguridad»caracterizada por una comunicación abierta entre los empleados y el equipo de seguridad.
3. Integrar de forma segura los sistemas de inteligencia artificial en el lugar de trabajo.

«Al concienciar sobre los riesgos que conlleva el uso de la IA oculta dentro de tu organización y comprender las necesidades de los empleados, puedes ayudarles a aprovechar las ventajas de las nuevas tecnologías y, al mismo tiempo, a utilizarlas de forma segura», escribió un investigador del NCSC especializado en la nube en el blog«Los riesgos ocultos de la IA oculta». 

En otras palabras, céntrate en la formación de los empleados, no en el castigo, e incluye la IA oculta en la formación de tu programa de concienciación sobre seguridad. 

Responsables de las unidades de negocio

Ponte en contacto de forma proactiva con los responsables de las unidades de negocio para conocer las herramientas de IA que utilizan, los motivos por los que las utilizan y los beneficios que aportan. Realizar este ejercicio de evaluación de necesidades puede ayudarte a decidir qué herramientas de IA permitir y cuáles prohibir.

2. Establecer una política clara de gobierno de la IA

Evita que te vean como un enemigo de la implantación de la IA. Los enfoques extremadamente restrictivos, como las políticas de «bloqueo por defecto», suelen resultar contraproducentes, ya que empujan a los empleados y a los equipos a ocultar aún más su uso de la IA, sobre todo si estas herramientas aumentan su productividad.

En su lugar, deberías adoptar una política de uso aceptable de la IA que establezca normas claras sobre quién puede utilizar la IA, qué herramientas puede emplear y qué datos puede introducir, de manera que no se ponga en peligro la seguridad ni el cumplimiento normativo. 

Tu política de IA también debería aclarar los niveles de responsabilidad, definiendo las funciones de los empleados, los directivos y el equipo de gobierno de la IA. Por ejemplo, debería hacer hincapié en que los empleados deben verificar la exactitud del contenido generado por la IA, ya que cada persona es, en última instancia, responsable de la calidad de su trabajo.

La política integral debe definir claramente los límites del uso de la IA, como las normas para el tratamiento de datos; detallar el proceso formal y los criterios que seguirán los equipos de seguridad y de TI para aprobar y adoptar herramientas de IA; y proporcionar una lista seleccionada de herramientas autorizadas.

Además, esto debería ayudarte a valorar si debes bloquear directamente una herramienta de IA oculta que hayas detectado o si puedes permitir su uso con los controles adecuados. 

Algunas preguntas que puedes plantearte:

• ¿Reivindica el proveedor de IA la propiedad de lo que tus usuarios introducen en su herramienta?
• ¿La herramienta cifra los datos tanto en tránsito como en reposo?
• ¿Cuáles son los procesos del proveedor para la divulgación de vulnerabilidades e incidentes?
• ¿Cumple el producto con la normativa aplicable a tu organización, como la HIPAA?
• ¿Utiliza el proveedor tus datos para entrenar modelos públicos de inteligencia artificial?
• ¿En qué región geográfica almacena el proveedor sus datos?
• ¿Qué tipos de conformidad industrial cumple el proveedor de IA?

Por último, la política de uso de la IA debe ser un documento en constante evolución que tu organización revise continuamente, a medida que avanza la tecnología de IA y evoluciona su uso dentro de la organización.

«Los líderes deben centrarse en crear un marco de gobierno que concilie la innovación con la gestión de riesgo, garantizando que los empleados se sientan capacitados para utilizar la IA generativa de forma responsable», rezael informe «GenAI Workforce Survey» de Deloitte, publicado en septiembre. El informe reveló que el 31 % de los empleados del Reino Unido utiliza herramientas de inteligencia artificial sin el permiso de sus empresas.

3. Aborda la «IA oculta» como parte de tu programa general de gestión de exposición

Ahora que la IA está muy extendida en la mayoría de las empresas, la «IA oculta» está presente en todo tu entorno informático de muy diversas formas. Este es precisamente el tipo de problema de seguridad complejo y multidimensional que una plataforma unificada de gestión de exposición ayuda a resolver. 

En Tenable, creemos que intentar detectar y controlar la IA oculta como un problema aislado, utilizando herramientas puntuales y aisladas, es un enfoque erróneo.

Para mitigar con éxito los riesgos de seguridad relacionados con la IA, incluida la «IA oculta», es necesario recopilar datos de seguridad sobre la IA con abundante información contextual, de modo que puedas correlacionarlos y analizarlos junto con el resto de tus datos sobre exposición. De este modo, podrás ver cómo tus problemas de seguridad se combinan para crear rutas de ataque que conducen a tus sistemas y datos más críticos.

Estas son algunas de las formas principales en las que una plataforma de gestión de exposición puede ayudarte a hacer frente a los riesgos de IA oculta.

• Consigue una visibilidad completa de tu entorno de IA a través de un inventario actualizado continuamente de tus activos de IA —qué son, quién y qué puede acceder a ellos, y a qué datos pueden acceder—, independientemente de dónde se encuentren en tu entorno, incluyendo:
  • Centros de datos
  • Puntos de conexión
  • Aplicaciones web
  • Cargas de trabajo en la nube.
  • Network traffic
  • Procesos de desarrollo de aplicaciones
  • Plataformas de IA para empresas
  • Sistemas de tecnología operativa (OT)
  • Infraestructura del IoT
• Detectar fallos de seguridad en los activos de IA ocultos, entre los que se incluyen vulnerabilidades, errores de configuración, permisos excesivos, gestión insegura de los resultados y datos de entrenamiento expuestos. 
• Identifica y prioriza, en su contexto, los problemas de seguridad que requieren atención inmediata en toda tu superficie de ataque, basándote en factores como la criticidad de los activos de IA y el impacto en el negocio. 
• Toma medidas y automatiza la corrección de fallos, entre otras cosas aprovechando las capacidades de la IA agéntica, para llevar a cabo las correcciones necesarias que te permitan eliminar tus exposiciones de IA oculta.
• Reduce el riesgo de que los datos se compartan de forma inadecuada a través de las indicaciones de IA y las subidas de archivos de la siguiente manera: 
  • Detección y clasificación de datos sensibles
  • Auditar los permisos de los activos de IA y aplicar políticas de privilegios mínimos
  • Monitoreo de los flujos de datos en tiempo real
  • Detectar y bloquear la propiedad intelectual sensible, el código fuente privado y la información de identificación personal (PII) de los clientes antes de la exposición o el compromiso

Vuelve la semana que viene, cuando concluiremos nuestra serie dedicada al Mes de la Concienciación sobre la Ciberseguridad con una entrada de blog sobre los retos en materia de ciberseguridad a los que se enfrentan las administraciones estatales y locales. Lee las dos primeras entradas del blog de esta serie:

• Cómo realizar la mitigación de riesgos en relación con las aplicaciones generadas por IA creadas por tus empleados «programadores aficionados»
• Las organizaciones de infraestructuras críticas se enfrentan a un mayor riesgo cibernético por parte de grupos estatales y amenazas relacionadas con la inteligencia artificial

Para obtener más información sobre la IA oculta y sobre cómo Tenable puede ayudarte a abordar este problema, consulta los siguientes recursos:

• ¿Qué es la IA oculta? (guía)
• Presentamos Tenable One AI Exposure: Un nuevo estándar para garantizar la seguridad en el uso de la IA a gran escala (blog)
• Seguridad para la IA: Un marco estratégico para reducir la brecha de exposición de la IA (blog)
• Cómo gestionar los riesgos de seguridad de la IA mediante una gestión unificada de la exposición (seminario web bajo demanda)
• Tenable Hexa AI: Automatización de la corrección de exposiciones mediante rutinas agenticas (blog)
• ¿Qué es la gestión de postura de seguridad de IA (AI-SPM)? (guía)
• ¿Qué es una política de uso aceptable (AUP) de la IA? (guía)