Seguridad para la IA frente a IA para la seguridad

La IA para la seguridad utiliza la inteligencia artificial para reforzar la ciberdefensa. Se trata de integrar el aprendizaje automático, el aprendizaje profundo y la IA generativa en las tecnologías de seguridad para aumentar su eficiencia y eficacia. 

Por ejemplo, un índice de riesgo basado en el aprendizaje automático en una solución de gestión de vulnerabilidades ayuda a priorizar las vulnerabilidades que afectan al negocio, de modo que sus profesionales solo tendrían que gestionar un número menor de exposiciones en lugar de mitigar todos los casos de gravedad critical (crítica) y high (alta), lo que representa una lucha constante para muchas organizaciones. 

La IA generativa también contribuyó al auge de los asistentes de seguridad, que demostraron aumentar la productividad general de los equipos de seguridad de TI y a mejorar el nivel de los miembros del equipo con menos experiencia. 

Hace que las operaciones de seguridad sean más rápidas, más adaptables y más capaces de manejar datos a una escala superior a la capacidad humana.

La seguridad para la IA ofrece protección contra las exposiciones a la IA empresarial y la IA oculta. A medida que desarrolla sus propios modelos de IA o adopta herramientas de terceros como ChatGPT y Gemini, estos amplían su superficie de ataque. La seguridad para la IA protege los modelos de IA, los datos de capacitación y la infraestructura subyacente frente a una nueva clase de amenazas, como los ataques de adversarios, el envenenamiento de datos y el robo de modelos.

La protección de las herramientas de IA es una prioridad creciente a medida que los equipos de toda la organización adoptan lo siguiente:

Herramientas de productividad como las siguientes:

• ChatGPT
• Gemini
• Microsoft Copilot

Modelos de IA de código abierto como los siguientes:

• Llama
• Mistral
• Bloom

Bibliotecas de IA como las siguientes:

• PyTorch
• TensorFlow
• Scikit-learn

Almacenamiento de datos como los siguientes:

• S3 bucket (AWS)
• Azure Blob Storage
• Google Cloud Storage

Modelos de lenguaje grandes (LLM) como los siguientes:

• GPT-4
• Claude 3
• PaLM 2

Sin embargo, cuanto más se integran estas herramientas en la seguridad, el desarrollo de software, las finanzas, el marketing y otros flujos de trabajo de su organización, más se exponen a nuevos riesgos.

Aquí, la seguridad para la IA se refiere a las personas, los procesos, las políticas y las herramientas que se necesitan para proteger la infraestructura, los patrones de uso y los resultados de la IA. 

En muchos entornos, esto comienza con el desarrollo de una política para el uso seguro, ético y apropiado de la IA, junto con la identificación de la IA oculta, que son herramientas de IA que su organización no aprobó o protegió oficialmente.

Pregunte lo siguiente:

• ¿Nuestros desarrolladores pegan el código fuente en herramientas públicas de IA?
• ¿Los usuarios de negocios cargan datos confidenciales en ChatGPT?

La seguridad para la IA comienza con el inventario.

Pregunte lo siguiente:

• ¿Qué modelos utilizamos?
• ¿Dónde los implementamos?
• ¿Quién puede acceder a ellos?

Esto incluye lo siguiente:

• IA sancionada
• Uso no autorizado de la IA
• Residencia de datos
• Retención de datos
• Políticas de capacitación de modelos
• Uso de API entre los LLM
• IA en sistemas en la nube
• Gobierno del modelo optimizado

La seguridad para la IA es importante, ya sea que se construya con modelos de código abierto o que se utilicen herramientas de IA de terceros o se integre la IA en aplicaciones internas. 

Una vez que sepa dónde residen los modelos, puede aplicar los siguientes controles:

• Acceso basados en roles.
• Clasificación y protección de datos.
• Monitoreo del comportamiento de inferencia.
• Aplicación de políticas para detener accesos no autorizados o fugas de datos.

Para la infraestructura de IA hospedada en la nube, sus controles deben proteger lo siguiente:

• Pesos del modelo y datos de capacitación.
• Implementaciones de Infrastructure as Code (IaC).
• API que exponen la inferencia de modelos.
• Servicios asociados como bases de datos vectoriales.

Proteja el uso de la IA y evite fugas de datos

Uno de los mayores riesgos de la IA es cómo la utilizan las personas. 

Los empleados que pegan información confidencial en herramientas de IA sin protecciones pueden exponer propiedad intelectual sin saberlo. 
 

¿Qué puede salir mal?

• Los desarrolladores podrían volcar el código fuente en herramientas públicas de IA.
• Los equipos de marketing podrían cargar listas de clientes.
• Los usuarios de negocios podrían compartir documentos confidenciales con un chatbot. 

Si alguien introduce alguno de estos datos en la capacitación de un modelo ajeno, incluso las acciones bienintencionadas pueden dar lugar a violaciones de la privacidad o fugas de propiedad intelectual.
 

¿Cómo reducir el riesgo?

• Establezca reglas claras
  • Cree y aplique políticas de uso aceptable en las que se defina dónde, cuándo y qué datos pueden utilizar sus empleados en las herramientas públicas de IA.
• Detecte el uso de la IA a lo largo de su organización
  • Empiece por identificar quién utiliza qué mediante herramientas de monitoreo de IA. Esto incluye los plug-ins del navegador, las aplicaciones y los servicios de IA basados en la nube, aprobados o no.
• Impida la salida de datos confidenciales
  • Utilice políticas de DLP adaptadas a las interacciones de IA para marcar el código fuente, la información de identificación personal (PII) o la documentación interna antes de habilitar el uso compartido externo. También puede utilizar firewalls para bloquear el acceso a direcciones IP de IA no autorizadas; solo tenga en cuenta que los empleados encontrarán una solución y que siempre podrá ponerse al día con los nuevos servicios. 
     

Bloquee su entorno de desarrollo de IA

El desarrollo de la IA utiliza una pila compleja como servicios en la nube, API, datos de capacitación, bases de datos vectoriales y plataformas de operaciones de aprendizaje automático (MLOps). Cada nivel introduce una exposición potencial. 

Aquí, AI-SPM es clave.
 

¿Qué puede salir mal?

• Las configuraciones deficientes pueden exponer los puntos de conexión del modelo, los datos de capacitación o los permisos.
  • Un atacante que encuentre una API abierta o un rol IAM débil puede robar pesos de modelos, acceder a datos confidenciales o incluso manipular el comportamiento de la IA en producción.
     

¿Cómo proteger sus modelos y bibliotecas de IA contra vulnerabilidades?

• Elabore un inventario de su ecosistema de IA
  • Dé seguimiento a todo, no solo a los modelos, sino también a servicios como SageMaker, Bedrock, Azure AI, Vertex AI y la infraestructura de apoyo.
• Escanee en busca de errores de configuración
  • Detecte los buckets públicos, los roles con demasiados permisos o las exposiciones de API antes de que generen riesgos.
• Controle el acceso
  • Aplique un RBAC estricto e imponga el privilegio mínimo para que solo las identidades aprobadas puedan acceder a sus recursos de IA.
• Proteja su cadena de suministro
  • Utilice herramientas como una lista de materiales de IA (AIBOM) para monitorear las dependencias de terceros y los riesgos de los modelos capacitados previamente.

Proteja los modelos de IA en tiempo de ejecución

Los modelos de IA responden a las entradas del usuario, y los atacantes saben cómo explotar eso. Las defensas en tiempo de ejecución le ayudan a detectar y detener los ataques de los adversarios antes de que ocasionen daños reales.
 

¿Qué puede salir mal?

• Envenenamiento de datos, en el que los atacantes contaminan los datos de capacitación para introducir vulnerabilidades ocultas.
• Ataques de evasión, en los que los agentes maliciosos crean entradas para engañar a su modelo para que clasifique mal o se comporte mal.
• Extracción de modelos, en la que los patrones de consulta pueden revertir la lógica o filtrar datos de capacitación confidenciales.
• Inyección de indicaciones, en la que los agentes maliciosos utilizan indicaciones engañosas para manipular a los LLM y generar resultados dañinos o revelar instrucciones ocultas.
   

¿Cómo defenderla?

• Capacite para la resiliencia frente a la adversidad. Utilice muestras de adversidad durante la capacitación del modelo para construir defensas más fuertes.
• Filtre y confirme entradas. Depure las consultas antes de que lleguen a su modelo para bloquear los ataques de inyección.
• Monitoree el comportamiento del modelo. Preste atención a anomalías de resultados, picos de rechazo o patrones que sugieran un uso indebido.

Una estrategia completa de seguridad para la IA abarca los tres niveles. Necesita visibilidad hacia la manera en que interactúan los usuarios con la IA, protecciones para la infraestructura y los derechos, y defensas para los modelos en producción. Estas protecciones permiten que sus equipos innoven sin facilitar el ingreso de riesgos evitables.

¿Cómo beneficia la IA a las tecnologías de ciberseguridad?

La IA para la seguridad aumenta las herramientas de seguridad de su pila, por lo que puede identificar las exposiciones y amenazas con mayor rapidez y precisión, priorizarlas y responder a ellas. 

La IA analiza volúmenes masivos de telemetría en tiempo real para descubrir patrones, correlacionar riesgos y sugerir las mejores acciones para cerrar exposiciones y corregir amenazas.

Análisis predictivo de amenazas

Los modelos de IA analizan los ataques anteriores y la inteligencia de amenazas para predecir lo que ocurrirá a continuación, de modo que pueda reforzar los sistemas antes de que un agente malicioso los explote.

Por ejemplo, la IA puede identificar las vulnerabilidades que los atacantes tienen más probabilidades de atacar en función del comportamiento de los agentes maliciosos, la disponibilidad de los exploits y la exposición de los activos. 

Las soluciones con herramientas de priorización de vulnerabilidades utilizan el aprendizaje automático para sacar a la luz los riesgos reales a partir de miles de hallazgos, ya que eliminan el ruido de fondo de las puntuaciones CVSS y le dirigen hacia los fallos que importan.

 

¿Cómo ayuda la IA a las operaciones de seguridad proactivas?

Las plataformas de IA combinan el contexto de múltiples fuentes sobre anomalías de comportamiento, amenazas, vulnerabilidades y otras exposiciones, incluyendo las configuraciones de la nube y los permisos de identidad, para indicarle qué está en riesgo y por qué es importante.

A continuación, se detallan algunas de las formas en que la IA puede mejorar sus ciberdefensas:

Sepa cómo la puntuación del riesgo de Tenable ayuda a optimizar la priorización de vulnerabilidades con mayor precisión. 

Detección de amenazas y anomalías

La IA construye una línea de base dinámica de lo que es típico en su entorno. Esto incluye inicios de sesión, comportamientos de servicio, actividad de API y operaciones de carga de trabajo en la nube.

Una herramienta de IA en su solución de ciberseguridad puede detectar automáticamente actividades inusuales, como intentos de inicio de sesión desde ubicaciones sospechosas o contenedores que husmean donde no deben.

Dado que este tipo de detección de anomalías no se basa en firmas predefinidas, es especialmente eficaz para detectar nuevas amenazas, días cero y amenazas internas que las herramientas tradicionales basadas en firmas y reglas probablemente pasen por alto.

Correlación inteligente de rutas de ataque

La IA le ayuda a ver el panorama general. Al procesar los datos de exposición a lo largo de su superficie de ataque en tiempo real, puede ver qué vulnerabilidades, errores de configuración y permisos excesivos a lo largo de sus entornos en la nube y locales se combinan para crear rutas de ataque de alto riesgo que conducen a sus activos más valiosos.

Puede utilizar esa información para descomponer de forma proactiva las rutas de ataque, ya sea mediante la revocación de un permiso, la corrección de un error de configuración o el aislamiento de un activo de riesgo.

Analítica aumentada con IA generativa

La IA generativa facilita la comprensión de datos complejos porque puede resumir las rutas de exposición, explicar lo que hace una vulnerabilidad e ilustrar cómo repararla, todo ello en un lenguaje sencillo.

En lugar de hurgar en tableros de control o bases de conocimientos, sus analistas de SOC y de exposición pueden hacer preguntas en lenguaje natural, y obtener respuestas inmediatas y ricas en contexto. La IA generativa aumenta la eficacia y brinda tiempo a los analistas para que se enfoquen en tareas de mayor valor.

¿El truco? Si no se aplica el mismo nivel de escrutinio y control de acceso a las herramientas de IA generativa, se corre el riesgo de introducir nuevas exposiciones y poner en riesgo datos confidenciales, modelos patentados y la confianza de los usuarios.

La IA para la seguridad no elimina la supervisión humana, sino que aliviana tareas manuales y repetitivas que consumen el tiempo de su equipo y generan agotamiento.

Puede automatizar el triaje de alertas, la correlación y el resumen de datos para que sus analistas de SOC puedan enfocarse en comprender mejor la intención de los atacantes, investigar los incidentes y crear ciberdefensas más maduras. 

La combinación de la velocidad y la escala de la IA con la experiencia humana le proporciona una poderosa ventaja. 
 

Vea cómo las capacidades de IA de Tenable pueden ayudarle a gestionar las exposiciones que introducen los nuevos ataques impulsados por la IA e identificar el uso no autorizado de la IA a lo largo de su entorno.

Las personas utilizan el término seguridad impulsada por IA en términos generales, pero, cuando se investigan a fondo las plataformas de seguridad de IA que mejor funcionan en la práctica, todas comparten un aspecto: la especialización.

• Algunos modelos son excelentes en la predicción.
• Otros buscan el reconocimiento de patrones o la interpretación del lenguaje natural. 

Cuanto más eficazmente una solución correlacione cada modelo con un caso de uso de seguridad, más sólidos y eficientes serán sus resultados.

A continuación, se presentan algunos de los principales tipos de modelos de IA que sus equipos pueden utilizar para reforzar la seguridad y sus principales destrezas:

Aprendizaje automático supervisado para la predicción basada en patrones

• ¿Para qué sirve? Aprende de datos históricos etiquetados para predecir resultados o clasificar nuevas entradas.
• ¿Cómo se relaciona con la seguridad? Debe saber qué vulnerabilidades representan un riesgo real. Los modelos supervisados de aprendizaje automático pueden aprender de billones de puntos de datos, tendencias de explotación anteriores, comportamiento de los atacantes y criticidad de los activos para predecir qué vulnerabilidades nuevas es más probable que exploten los atacantes.
• ¿Cómo se ve en acción? Las plataformas que utilizan este modelo pueden asignar una puntuación del riesgo predictiva a cada vulnerabilidad con base en la actividad real de las amenazas. Es una alternativa basada en datos a las puntuaciones CVSS estáticas y le ayuda a reducir la fatiga por alertas.

Aprendizaje profundo para detectar amenazas complejas

• ¿Para qué sirve? Las redes neuronales, como las redes de memoria a corto plazo (LSTM) y las redes neuronales convolucionales (CNN), analizan los patrones de tráfico de la red, el comportamiento de los usuarios y los registros de acceso a archivos para encontrar conexiones que los analistas humanos tardarían horas en descubrir.
• ¿Cómo se relaciona con la seguridad? El aprendizaje profundo es esencial para hacer frente a amenazas sofisticadas que no siguen los manuales de estrategias de ataques típicos. Estos modelos detectan cosas que los sistemas tradicionales basados en reglas pasan totalmente por alto, especialmente cuando los atacantes intentan pasar desapercibidos o utilizan técnicas nuevas o desconocidas.
• ¿Cómo se ve en acción? Piense en el malware diseñado para eludir la detección tradicional mediante la alteración de su apariencia. El aprendizaje profundo detecta los patrones de comportamiento subyacentes, incluso cuando los atacantes modifican intencionadamente el código para que parezca nuevo. O considere un escenario en el que alguien con acceso legítimo empieza a hacer cosas que técnicamente no van en contra de la política, pero que parecen incorrectas, como acceder a archivos en un orden inusual o a horas extrañas. El sistema detecta estos sutiles cambios de comportamiento.

Gráficos de conocimiento para determinar cómo se propagan las amenazas

• ¿Para qué sirve? Conecta entidades, usuarios, activos, permisos y vulnerabilidades en una red de relaciones visual y con capacidad de búsqueda.
• ¿Cómo se relaciona con la seguridad? Estos modelos potencian el Attack Path Analysis (Análisis de ruta de ataque). En lugar de tratar el riesgo como hallazgos aislados, muestran cómo los atacantes pueden conectar múltiples exposiciones para alcanzar activos de gran valor.
• ¿Cómo se ve en acción? Un gráfico de conocimientos podría sacar a la luz una combinación tóxica, como un servidor público con un fallo conocido que se conecta (a través de cuentas de servicio con exceso de permisos) a su base de datos de producción. Le indica dónde intervenir para bloquear una ruta de ataque.

IA generativa y NLP para la habilitación de analistas

• ¿Para qué sirve? Analiza y genera el lenguaje natural para que los datos de seguridad complejos sean claros, se puedan buscar y sean procesables.
• ¿Cómo se relaciona con la seguridad? En lugar de hurgar en los tableros de control, su equipo puede hacer preguntas en lenguaje sencillo y obtener resúmenes legibles por humanos de las exposiciones, amenazas y pasos de respuesta.
• ¿Cómo se ve en acción? Un analista puede plantear lo siguiente: "¿Cómo reparo esta exposición?" o "¿Qué vulnerabilidades afectan a nuestros activos accesibles desde Internet con acceso de administrador?", y obtener respuestas contextuales y precisas de inmediato. Reduce el tiempo de investigación y hace que los flujos de trabajo de seguridad sean más accesibles para quienes no son especialistas.

¿Por qué es importante la elección de un modelo?

Cuando un proveedor dice que utiliza la "IA", usted debe preguntar lo siguiente:

• ¿De qué tipo?
• ¿Para qué problemas?
• ¿Cuántos datos utilizó el proveedor para entrenar el modelo de IA?
• ¿Con qué frecuencia el proveedor actualiza el modelo?
• ¿Cómo se compara el modelo de puntuación del riesgo de la solución con CVSS, KEV de CISA o EPSS?

Hay una gran diferencia entre una plataforma que aplica un algoritmo genérico y otra que combina estratégicamente múltiples modelos, cada uno adaptado a una tarea específica. 

Las plataformas más avanzadas de IA para la seguridad integran todo lo anterior y utilizan el aprendizaje automático para la predicción de vulnerabilidades, los gráficos de conocimiento para la correlación de rutas de ataque y la IA generativa para la orientación de la respuesta.

Estas distinciones determinarán la rapidez con la que su equipo puede moverse, la precisión con la que puede responder y la eficacia con la que usted reduce el riesgo real.

En Estados Unidos, la principal norma que rige el gobierno de la IA es el Marco de gestión de riesgo de IA del NIST (AI RMF), que es un marco voluntario diseñado para ayudarle a gestionar los riesgos de la IA, y apoyar el desarrollo de sistemas de IA fiables y responsables.

El marco tiene cuatro funciones básicas: gobernar, correlacionar, medir y gestionar. 

El AI RMF del NIST ofrece un plan de acción para el gobierno responsable de la IA y la gestión de riesgo, para que sus equipos puedan crear sistemas de IA en los que pueda confiar.

Poner en práctica ese marco implica algo más que buenas intenciones. Se requieren herramientas prácticas que proporcionen una visibilidad profunda e información utilizable. 

Las plataformas con funcionalidades sólidas de detección y seguridad de la IA, por ejemplo, las que marcan el uso, los modelos y la infraestructura de la IA aprobados y no aprobados, desempeñan un papel directo en los pasos de correlación y medición del marco, ya que crean un inventario completo de los riesgos relacionados y los sacan a la luz. 

Mediante el monitoreo continuo de las exposiciones de la IA y la detección de vulnerabilidades, estas herramientas también le ayudan a gestionar los riesgos a través de una corrección enfocada. 

En definitiva, las soluciones de seguridad modernas pueden ayudarle a implementar un gobierno de IA responsable y adoptar la IA de forma más segura.

Sin embargo, recuerde que los marcos no son una lista de comprobación lineal. Son una guía de procesos constantes para gestionar el riesgo a lo largo de todo el ciclo de vida de la IA. 
 

Gobierno

La función de gobierno es la piedra angular del AI RMF, ya que establece y cultiva una cultura de gestión de riesgo. Crea políticas, define responsabilidades y garantiza que se disponga de los procesos adecuados para apoyar las otras tres funciones. 

Mientras que las personas y la política impulsan el gobierno, la tecnología lo respalda y refuerza. Un gobierno eficaz es imposible sin la visibilidad y los datos completos que proporcionan las herramientas de seguridad.

Actividades clave de gobierno

• Elabore directrices para la implementación de la IA y establezca su tolerancia al riesgo por adelantado.
• Defina y asigne funciones y responsabilidades para el gobierno de la IA.
• Fomente una cultura en la que se priorice la comunicación abierta sobre los riesgos de la IA.
• Cree procesos para gestionar los riesgos de los componentes de IA de terceros.
  

Correlación, medición y gestión

Una vez que se disponga de una base sólida de gobierno de la IA, se debe participar en un ciclo constante de correlación, medición y gestión de los riesgos de la IA.

Correlación

La correlación se enfoca en el contexto y la detección. Antes de proteger un sistema de IA, debe comprender su finalidad, componentes e impacto potencial.

La correlación implica lo siguiente:

• Creación de un inventario completo de sistemas de IA, incluyendo modelos y fuentes de datos, servicios de IA de AWS, Azure y GCP, software de IA oculta no autorizado y detección de plug-ins de navegador.
• Documentación del contexto del sistema, incluyendo los objetivos y las capacidades previstos.
• Identificación de los riesgos potenciales de todos los componentes, incluyendo los elementos de terceros.

Medición

En la fase de medición, se evalúan los riesgos de la correlación para saber hasta qué punto se puede confiar en la infraestructura que ejecuta los sistemas de IA.

La medición implica lo siguiente:

• Análisis de pipelines de datos e infraestructura en la nube para detectar posibles exposiciones de seguridad, como buckets de datos de acceso público, configuraciones inseguras en servicios de IA como Amazon SageMaker, o roles de gestión de identidades y acceso (IAM) que otorgan a las personas más acceso del que necesitan.
• Pruebas y evaluaciones constantes de los activos de IA para detectar vulnerabilidades y errores de configuración.
• Establecimiento y seguimiento de métricas relacionadas con la seguridad y el cumplimiento de la IA a lo largo del tiempo.

Gestión

La fase de gestión se ocupa de los riesgos que se correlacionaron y midieron. Debe asignar recursos para abordar los riesgos más importantes en función de su tolerancia al riesgo definida.

La gestión consiste en lo siguiente:

• Aplicación de controles de seguridad para reducir el riesgo, como acciones técnicas de mitigación; por ejemplo, corregir errores de configuración de la nube, revocar permisos excesivos y cifrar datos.
• Consejo: Utilice una plataforma de seguridad para guiar las acciones con instrucciones de corrección paso a paso.
• Traslado del riesgo a otra parte; por ejemplo, mediante un seguro cibernético.
• Decisión de no implementar un sistema de IA si sus riesgos son inaceptablemente altos.
• Aceptación formal de un riesgo que se ubica dentro del nivel de tolerancia definido por la organización.

En un marco como el Marco de gestión de riesgo de IA (AI RMF) del NIST, se proporciona un plan de acción fundamental para la IA responsable, pero es un ejercicio teórico si no se adopta el abordaje adecuado para ponerlo en práctica.

Aquí es donde adquiere relevancia AI Aware, que proporciona datos para que el gobierno de la IA ayude a crear y aplicar políticas.

AI Aware consiste en tener la visibilidad, la comprensión y el control que necesita para gestionar eficazmente los riesgos de la IA en su organización. Se trata de pasar de directrices conceptuales a la aplicación práctica.

Una plataforma como Tenable Cloud Security ofrece la base técnica que se necesita para cultivar una postura de AI Aware. Proporciona un inventario completo para identificar su entorno de IA, análisis constantes para medir su postura de seguridad, orientación práctica para mitigar los riesgos y la visibilidad necesaria en toda la organización para un gobierno eficaz de la IA.

¿Está preparado para ir más allá de los marcos teóricos, y comprender y gestionar realmente sus riesgos de IA? Descubra cómo Tenable Cloud Security puede ayudarle.

Como CISO, los proveedores de gestión de exposición probablemente le bombardeen con afirmaciones audaces sobre sus soluciones potenciadas por IA, pero muchas de ellas se limitan a automatizar tareas. 

Su inversión en seguridad de IA debe hacer mucho más que eso. También debe reducir el riesgo para el negocio y reforzar su programa de seguridad. 

Estas son algunas de las preguntas clave que todo CISO debe plantearse para obtener información sobre cómo evaluar una solución de seguridad de IA.
 

¿La solución relaciona claramente su IA con resultados reales en materia de seguridad, o se limita a enumerar características técnicas?

Considere lo siguiente:

• ¿El proveedor explica por qué utiliza técnicas específicas de IA, más allá de limitarse a enumerar modelos o palabras de moda?
• ¿El proveedor puede vincular su arquitectura de IA a resultados como una corrección más rápida, una mejora del MTTD/MTTR o una reducción de la exposición?
• ¿La IA está optimizada para su caso de uso (p. ej., priorización de vulnerabilidades, riesgo de derechos), o es un complemento?
• ¿Proporciona el proveedor pruebas o métricas que demuestren el impacto de la IA en la seguridad en el mundo real?

Un proveedor que lidera con resultados, no con algoritmos, tiene más probabilidades de aportar valor estratégico.
 

¿Puede la IA comunicarse claramente con los humanos, en lugar de solo generar datos?

Considere lo siguiente:

• ¿La plataforma explica los hallazgos en un lenguaje común que los analistas puedan utilizar sin tener que decodificarlos?
• ¿Puede traducir las alertas técnicas en contexto para los responsables del negocio, los equipos de riesgo o los auditores?
• ¿Apoya una selección más rápida al mostrar lo que está en juego y por qué es importante?
• ¿Pueden utilizar los resultados todos los equipos, no solo los de TI o seguridad?

La IA que mejora la comunicación genera confianza y acelera la acción. Si la plataforma no logra una comunicación eficaz con su equipo, no facilitará la colaboración ni la respuesta.
 

¿La IA se adapta a sus necesidades de negocios o le obliga a adaptarse a ella?

Considere lo siguiente:

• ¿La IA puede aprender de su entorno, incluyendo cómo se comportan sus usuarios y qué activos son los más importantes?
• ¿Adapta la puntuación del riesgo a su sector y entorno específicos, y no a un marco de referencia genérico?
• ¿Se adapta el resultado a su superficie de ataque real o se tratan a todas las organizaciones por igual?
• ¿Puede evolucionar a medida que cambia el entorno o está bloqueada en supuestos estáticos?

Si la IA no puede adaptarse a su negocio, no le ayudará a gestionar el riesgo real. Omitirá lo que es importante o le distraerá con lo que no importa.
 

¿La IA apoya la toma de decisiones basada en el riesgo, y fundamentada en la exposición y el impacto?

Considere lo siguiente:

• ¿La IA prioriza los hallazgos con base en el riesgo real, no solo en la puntuación de gravedad?
• ¿Puede distinguir las vulnerabilidades teóricas de las que tienen rutas de exposición reales?
• ¿Tiene en cuenta la explotabilidad, la criticidad de los activos y el comportamiento de los adversarios, y no solo las puntuaciones CVSS estáticas?
• ¿Ayuda a su equipo a enfocarse en lo que reduce el riesgo con mayor rapidez, o lo dispersa a lo largo de ruidos de fondo de baja prioridad?

La IA que permite la seguridad basada en el riesgo le permite actuar con intención para que pueda enfocar sus recursos limitados en las exposiciones que más importan.

Las herramientas de IA de Tenable respaldan ambos lados de la ecuación de seguridad de la IA: el uso de la IA para fortalecer la ciberseguridad y la protección de los sistemas de IA que su negocio crea o adopta. 

Este doble enfoque ayuda a reducir el riesgo en dos frentes críticos: la protección de su infraestructura y de su huella de IA.

Lo verá en tres ofertas básicas:

• ExposureAI potencia la detección de amenazas, el análisis de la exposición y la corrección priorizada.
• La gestión de vulnerabilidades de AI Aware ayuda a tomar decisiones de colocación de parches más inteligentes con base en el contexto de riesgo real.
• AI-SPM protege sus modelos, infraestructura y derechos de IA.
   

Uso de la IA para reforzar la ciberdefensa con ExposureAI

ExposureAI es el motor generativo de la plataforma de gestión de exposición Tenable One. Procesa más de un billón de puntos de datos para ayudarle a detectar, comprender y reducir el riesgo con precisión.

ExposureAI correlaciona las relaciones entre sus activos, usuarios, servicios en la nube, identidades y vulnerabilidades. Se creó a partir de Exposure Data Fabric de Tenable y extrae, normaliza y conecta datos de seguridad dispersos a lo largo de toda la superficie de ataque. Ese tejido de datos convierte hallazgos inconexos en una red rica y profundamente enlazada de información.

Y esa visión conectada es importante. 

En lugar de limitarse a señalar problemas aislados, ExposureAI puede detectar complejas cadenas de ataques de varios pasos y agregar precisión a cada alerta. Piénsela como un gráfico de conocimientos. Al estructurar los datos de forma relacional, es posible dar seguimiento de las rutas de ataque desde el punto de entrada inicial hasta el tesoro más valioso.

Con esa imagen completa, su equipo no solo ve dónde existen riesgos, sino cómo todo se relaciona para crear una exposición real. Acelera la forma de priorizar los problemas y repararlos. 

Esto proporciona a los modelos de ExposureAI el contexto profundo que necesitan para ofrecer información precisa y pasos claros, ya que cambia la forma de descubrir, comprender y eliminar el riesgo a lo largo de su entorno.

Sepa cómo ExposureAI puede ayudarle a eliminar todo el ruido de fondo de las vulnerabilidades para concentrarse en el riesgo real para su negocio. 
 

Priorización de vulnerabilidades con AI Aware

AI Aware mejora los flujos de trabajo tradicionales de gestión de vulnerabilidades mediante el uso del aprendizaje automático que su equipo se enfoque en las deficiencias que representan sus mayores amenazas en este momento.

En lugar de basarse en índices CVSS estáticos, el sistema tiene en cuenta la explotabilidad, las rutas de exposición, la inteligencia de amenazas y el contexto de negocios para priorizar las vulnerabilidades con base en el riesgo en el mundo real.

AI Aware reduce el ruido de fondo y acelera la colocación de parches al resaltar los fallos que los atacantes tienen más probabilidades de explotar en su entorno. Le ayuda a pasar de una gestión de vulnerabilidades reactiva a una estrategia basada en el riesgo.

Sepa cómo AI Aware mejora la priorización basada en el riesgo.
 

Protección de su pila de IA con AI-SPM

A medida que aumenta la adopción de la IA, también lo hace su superficie de ataque. AI-SPM le ayuda a detectar, reforzar y controlar los servicios, modelos y derechos en la nube que impulsan sus iniciativas de IA.

AI-SPM detecta la infraestructura relacionada con la IA en AWS, Azure y Google Cloud. Localiza cómo interactúan los usuarios con las plataformas y señala las extensiones de navegador no autorizadas, los paquetes o los servicios de IA oculta a los que acceden los usuarios de negocios.

Se integra con la infraestructura en la nube y las herramientas de gestión de derechos (CIEM) para aplicar el privilegio mínimo. Da seguimiento de quién accede a sus modelos, API y datos confidenciales para que pueda detectar a tiempo los usos indebidos y mantener el cumplimiento.

El Índice de Priorización de Vulnerabilidades (Vulnerability Priority Rating, VPR) de Tenable utiliza el aprendizaje automático para asignar puntuaciones de riesgo dinámicas con base en múltiples factores del mundo real, no solo una puntuación CVSS estática, para ayudar a su equipo a priorizar el riesgo real, en lugar de ahogarse en alertas.

El VPR incorpora lo siguiente:

• Disponibilidad de exploits e instrumentalización.
• Inteligencia de amenazas activas procedente de fuentes públicas y de dark web.
• Exposición de activos y contexto de la red.
• Tendencias temporales y comportamiento de los atacantes.

Ejemplo:

• CVSS puede calificar dos vulnerabilidades con 9,8, pero los agentes maliciosos solo explotan activamente una en la realidad.
• En lugar de apresurarse a reparar ambas con base en esa puntuación, el VPR aplica otras métricas de puntuación del riesgo para asignar un mayor riesgo a la que presenta una actividad de amenaza real. El VPR le proporciona la información que necesita para saber en cuál colocar un parche primero.

¿Desea saber cómo ExposureAI y AI-SPM trabajan juntas para proteger su entorno y sus iniciativas de IA? Explore las soluciones de ciberseguridad de Tenable potenciadas por la IA.