Gestión de postura de seguridad de IA (AI-SPM)

• AI-SPM detecta de forma continua modelos de IA, servicios, pipelines y datos de entrenamiento en entornos multinube, incluida la IA oculta. 
• Muestra qué identidades, tanto humanas como no humanas, pueden acceder a sus modelos de IA y a sus datos de entrenamiento, señala los accesos con permisos excesivos e identifica los errores de configuración que pueden convertirse en rutas de ataque. 
• AI-SPM relaciona la exposición con la sensibilidad de los recursos de IA, su explotabilidad y el impacto en el negocio, para que sus equipos puedan centrar la corrección en el riesgo real. 
• Cuando se utilizan conjuntamente, AI-SPM y DSPM vinculan una exposición de datos con el recurso de IA al que alimenta y con la identidad que podría explotarse.

La gestión de postura de seguridad de IA (AI-SPM) identifica y reduce los riesgos para los recursos y datos de IA que se ejecutan en tus entornos en la nube.

Una solución AI-SPM: 

• Descubre modelos de IA, servicios, pipelines y datos de entrenamiento.
• Clasifica lo que encuentra.
• Muestra cómo se relacionan los recursos de IA con las identidades y la infraestructura
• Detecta los errores de configuración, los permisos excesivos y los datos expuestos que ponen en riesgo dichos recursos

AI-SPM se centra en los riesgos específicos de la IA en entornos nativos en la nube. Tiene en cuenta la complejidad de los entornos modernos: entornos multinube, identidades múltiples, identidades no humanas a gran escala y la rápida expansión de la adopción de la inteligencia artificial.

Las plataformas AI-SPM ayudan a sus equipos de seguridad a responder a cuatro preguntas fundamentales:

1. ¿Dónde están nuestros modelos de IA, servicios y datos de entrenamiento?
2. ¿Qué identidades humanas y no humanas pueden acceder a ellas?
3. ¿Es necesario o excesivo ese acceso?
4. ¿Los errores de configuración o los datos de entrenamiento expuestos crean una ruta de ataque?

Si se aplica correctamente, AI-SPM te ofrece una visión continua del riesgo de la IA en su contexto, y no solo snapshots puntuales. Comparte los mismos fundamentos que la gestión de postura de seguridad de datos (DSPM), ampliando la detección de datos confidenciales a los recursos de IA que, cada vez más, consumen y generan dichos datos.

La implantación de la inteligencia artificial se ha convertido en la norma y es un elemento imprescindible en el ámbito laboral de muchos sectores. La rápida adopción de la IA agiliza las operaciones, pero amplía la superficie de ataque y aumenta el riesgo cibernético. Los equipos pueden habilitar un punto de conexión de modelos, conectar un pipeline de entrenamiento o integrar un servicio de IA de terceros en cuestión de minutos. Esa flexibilidad hace que sea fácil perder el rastro de dónde se encuentran los recursos de IA, con qué datos tienen contacto y quién puede acceder a ellos.

AI-SPM cubre esta carencia al ofrecer visibilidad sobre los recursos de IA, sus configuraciones, sus rutas de acceso y las identidades que hay detrás de ellos. 

Tenable One Cloud Exposure, por ejemplo, detecta recursos y software de IA de distintos proveedores, entre ellos AWS Bedrock, Amazon SageMaker, Foundry Tools (antes conocido como servicios de Azure AI) y Gemini Enterprise Agent Platform (antes conocido como Vertex AI), de modo que la IA oculta y los modelos no gestionados no pasen desapercibidos.

AI-SPM también fortalece el gobierno y el cumplimiento al correlacionar los controles de configuración y las autorizaciones de IA con los datos confidenciales de entrenamiento. A medida que evoluciona la madurez de la seguridad en la nube, AI-SPM integra los riesgos específicos de la IA en programas más amplios de gestión de exposición, al mismo tiempo que incorpora controles específicos de la IA directamente en las plataformas de protección de aplicaciones nativas en la nube (CNAPP).

1. Detectar y clasificar automáticamente los recursos de IA

AI-SPM detecta continuamente modelos, servicios, cargas de trabajo y componentes de software de IA en AWS, Azure y GCP. La detección y el etiquetado automáticos identifican todos los recursos de IA, de modo que nada se ejecute sin supervisión.

2. Identificar y proteger los datos confidenciales relacionados con la capacitación

AI-SPM clasifica los datos de entrenamiento confidenciales, como los secretos empresariales y la información de identificación personal (PII), y aplica políticas de configuración de IA integradas para protegerlos. Esto funciona en conjunto con DSPM, que detecta y clasifica los datos confidenciales dondequiera que se encuentren.

3. Aplicar derechos de acceso a la IA basados en los privilegios mínimos

Al ampliar la gestión de derechos de infraestructura en la nube (CIEM) a la IA, AI-SPM garantiza que solo las identidades con las políticas de acceso adecuadas puedan acceder a los modelos de IA propios. Las visualizaciones intuitivas de acceso detectan a los usuarios con permisos excesivos y a las identidades no humanas, lo que le permite aplicar privilegios mínimos.

4. Dar prioridad a los riesgos de la IA en su contexto

En lugar de saturarle con alertas, AI-SPM relaciona la exposición con la confidencialidad de los recursos de IA, su explotabilidad y el impacto en el negocio, de modo que los equipos se centren en los riesgos que realmente importan.

5. Realizar la corrección con confianza

AI-SPM proporciona orientación de corrección basada en el contexto: revocar el exceso de acceso, reforzar la configuración de un modelo o proteger los datos de entrenamiento expuestos. La integración con la gestión de la postura de seguridad en la nube (CSPM) y CIEM agiliza la aplicación de las políticas en toda la pila de la nube.

El AI-SPM sigue un ciclo continuo de seis fases:

1. Detección

Escanea los entornos en la nube en busca de modelos de IA, servicios gestionados de IA, procesos de entrenamiento y las cargas de trabajo que los sustentan, incluida la IA oculta que se ejecuta fuera del gobierno de IA aprobado.

2. Clasificación

Etiqueta automáticamente los recursos de IA y los datos de entrenamiento confidenciales que consumen, basándose en los marcos normativos y la lógica de negocios, y permite la clasificación personalizada de modelos propios y propiedad intelectual.

3. Análisis de acceso

Evalúa quién y qué puede acceder a los recursos de IA, incluidos los usuarios humanos, las identidades de máquina, las cuentas de servicio y las integraciones de terceros, y se coordina con las capacidades de CIEM para detectar derechos de IA con permisos excesivos.

4. Evaluación de la postura

Comprueba que las configuraciones de IA y aprendizaje automático se ajusten a las políticas de prácticas recomendadas; señala los valores predeterminados inseguros, el registro desactivado, la exposición pública y los datos de entrenamiento sin cifrar; y vincula los riesgos directamente con los recursos de IA afectados.

5. Modelado de riesgos

Utiliza gráficos de exposición para identificar combinaciones peligrosas entre recursos con errores de configuración, identidades no humanas con permisos excesivos y datos confidenciales de IA, lo que ayuda a los equipos a visualizar las rutas de ataque y a priorizar los riesgos de mayor impacto.

6. Corrección y respuesta

Prioriza y repara las vulnerabilidades más importantes mediante la corrección guiada y la automatización de políticas en toda su plataforma CNAPP.

AI-SPM aporta valor a través de casos de uso prácticos y de gran impacto que abordan los principales riesgos emergentes relacionados con la inteligencia artificial. A continuación, presentamos seis formas en las que su organización puede utilizarla para reducir el riesgo:

1. Detectar todos los modelos y servicios de IA, incluida la IA oculta que queda fuera del ámbito del gobierno de la IA.
2. Proteger los datos de entrenamiento confidenciales contra la exposición, el uso indebido o la contaminación.
3. Aplicar los privilegios mínimos en el acceso a los modelos de IA propios, tanto para identidades humanas como no humanas.
4. Elimina las rutas de ataque en las que los recursos con errores de configuración y las identidades privilegiadas dejan expuestas las cargas de trabajo de IA.
5. Mostrar las mejores prácticas de configuración de la IA para los marcos de gobierno y cumplimiento normativo de la IA.
6. Detectar paquetes y componentes de IA que supongan un riesgo en las primeras fases del pipeline.

AI-SPM aporta información sobre los recursos de IA al ciclo de vida de DevSecOps, de modo que sus equipos puedan acelerar la detección (Shift Left) y detectar los riesgos en el manejo de la IA antes de que lleguen a producción. Integrada en pipelines de CI/CD, AI-SPM señala problemas como puntos de conexión de modelos no protegidos, datos de entrenamiento expuestos en entornos de prueba o acceso excesivo de cuentas de servicio a los recursos de IA.

Con esta visibilidad, los desarrolladores pueden reforzar las configuraciones, restringir las autorizaciones de IA y proteger los datos de entrenamiento antes de que los problemas se propaguen entre los entornos. AI-SPM detecta combinaciones peligrosas, como el acceso público a un modelo con credenciales con privilegios excesivos, y ofrece pasos claros para la corrección, con el fin de mantener en equilibrio la seguridad, el cumplimiento normativo y la velocidad de desarrollo.

La IA oculta trata de cualquier modelo, servicio o herramienta impulsada por IA que se haya creado fuera de su marco de gobierno de IA, desde aplicaciones SaaS de IA no autorizadas hasta trabajos de entrenamiento olvidados. Se trata de una superficie sin vigilancia que los atacantes están deseosos de explotar. Para profundizar en estos riesgos, consulte los que plantea la seguridad para la IA.

AI-SPM aborda el problema de la IA oculta ampliando la cobertura de los escaneos más allá de los entornos autorizados. El escaneo de las cuentas y los servicios conectados busca los recursos de IA dondequiera que se encuentren, los relaciona con los datos de entrenamiento y las identidades con las que interactúan, y señala las exposiciones confidenciales.

La corrección guiada le ayuda a volver a tener bajo control la IA oculta: proteger las configuraciones, revocar accesos riesgosos o retirar modelos no gestionados. Al recuperar la visibilidad de estos elementos desconocidos, AI-SPM reduce su superficie de ataque y elimina una fuente de riesgo de IA sin supervisión en rápido crecimiento.

Las nuevas normativas sobre IA y el gobierno interno exigen un control riguroso sobre cómo configura su organización los recursos de IA y quién puede acceder a ellos, con evidencia que lo respalden. AI-SPM automatiza los flujos de trabajo que permiten gestionar todo esto. 

La gestión de la postura de seguridad de IA detecta y clasifica de forma continua los recursos de IA y sus datos de entrenamiento, comprueba que las configuraciones y los derechos de acceso se ajusten a las políticas, y señala las desviaciones en tableros de control con puntuación del riesgo. Cuando llegan los auditores o las revisiones de gobierno, cuenta con evidencia que asigna los recursos de IA a controles y pasos de corrección, de modo que su postura de IA esté lista para auditorías, incluso a medida que evolucionan los entornos.

En esencia, AI-SPM reduce el riesgo asociado a la nube de una forma específica y cuantificable: 

• Aporta contexto basado en la inteligencia artificial a la visibilidad de su infraestructura y de las identidades.
• Crea gráficos de exposición que muestran cómo interactúan las identidades, las configuraciones, las rutas de red y los recursos de IA.
• Revela las rutas de ataque reales.

La puntuación del riesgo da prioridad al riesgo real: un modelo de entorno de pruebas con datos sintéticos obtiene una puntuación inferior a la de un modelo de producción que expone datos de entrenamiento propios. Dado que el monitoreo es continuo, la reducción de riesgos no es un esfuerzo único. Para obtener una visión más amplia de cómo encaja la IA en un programa de seguridad, consulte los principios de ciberseguridad basados en la IA.

AI-SPM y DSPM se complementan:

• DSPM detecta, clasifica y protege los datos confidenciales en entornos en la nube y SaaS. Responde: "¿Dónde están nuestros datos confidenciales y quién tiene acceso a ellos?"
• AI-SPM amplía esa perspectiva a los recursos de IA que consumen y generan datos: modelos, pipelines y servicios de IA. Responde: 
  • "¿Qué recursos de IA acceden a esos datos?» 
  • "¿Están configurados los recursos de forma segura?" 
  • "¿Quién o qué puede acceder al modelo?" 

Si se utilizan conjuntamente dentro de Tenable One Cloud Exposure, DSPM y AI-SPM le brindan visibilidad por capas, conectando la exposición de datos con el recurso de IA al que alimenta y la identidad que puede explotar ambos.

Fortalezca su postura de seguridad al integrar AI-SPM en su estrategia de gestión de exposición. La combinación de AI-SPM con DSPM, CSPM y CIEM en una plataforma unificada de gestión de exposición le ofrece una visión global del riesgo en los ámbitos de los datos, la infraestructura, la identidad y la inteligencia artificial.

• CSPM detecta el recurso con error de configuración.
• CIEM pone de relieve la identidad excesivamente privilegiada.
• DSPM relaciona los hallazgos con los datos confidenciales que están en riesgo.
• AI-SPM vincula todo ello con el modelo o servicio de IA que podría verse en riesgo.

Juntas, revelan combinaciones tóxicas, como una identidad no humana con privilegios excesivos que accede a un modelo expuesto públicamente entrenado con datos confidenciales. De forma individual, esos problemas pueden parecer menores; combinados, forman una ruta de ataque explotable. Para los equipos que gestionan un uso más amplio de la IA, esto se combina con Tenable AI Exposure en Tenable One.

Para reducir el riesgo de IA, busque una solución de AI-SPM que vaya más allá de la detección básica y ofrezca inteligencia accionable y contextualizada. Priorice una plataforma de AI-SPM que:

• Admita entornos multinube con visibilidad uniforme en los servicios de IA de AWS, Azure y GCP.
• Use escaneo sin agente basado en API para evitar puntos ciegos y reducir los gastos operativos.
• Detecte y etiquete automáticamente los recursos de IA, incluida la IA oculta.
• Clasifique y proteja los datos confidenciales de formación mediante políticas de configuración de IA integradas.
• Amplíe CIEM para aplicar los derechos de acceso de la IA basados en los privilegios mínimos a todas las identidades, tanto humanas como no humanas.
• Correlacione los errores de configuración, las identidades y los datos en rutas de ataque reales, no en alertas aisladas.
• Se integre con DSPM, CSPM, CIEM y CNAPP para ofrecer una visión unificada del riesgo.
• Ofrezca una puntuación del riesgo y correcciones guiadas para resolver primero las exposiciones de mayor impacto.

Las funcionalidades de AI-SPM de Tenable forman parte de Tenable One Cloud Exposure, una plataforma unificada de seguridad en la nube que integra AI-SPM, DSPM, CSPM, CIEM y gestión de vulnerabilidades. Con Tenable, usted obtiene una visibilidad detallada de lo siguiente:

• Todos los modelos, servicios y flujos de trabajo de IA en su entorno multinube.
• Los datos de entrenamiento confidenciales que consumen esos recursos.
• Qué identidades, tanto humanas como no humanas, pueden acceder a ellos.
• Qué vías de exposición plantean un riesgo real con potencial de explotación.

Al relacionar los recursos de IA con los errores de configuración en la nube, los permisos excesivos y los datos expuestos, Tenable le ayuda a encontrar y solucionar las brechas más importantes. Además, con Tenable Hexa AI en Tenable One, puede realizar búsquedas, obtener explicaciones y tomar medidas sobre los riesgos relacionados con la IA de forma conversacional.

Descubra cómo Tenable One Cloud Exposure brinda soporte a la gestión de la postura de seguridad de IA.