noticias

Cisco anuncia AI Defense



Dirección copiada

Se trata de una solución que protege tanto el desarrollo como el uso de aplicaciones de IA, ayudando a controlar el empleo indebido de las mismas, la fuga de datos y las amenazas de seguridad

Publicado el 20 ene 2025



Cisco anuncia AI Defense.
Cisco anuncia AI Defense.

Según el último estudio AI Readiness Index de Cisco, sólo el 29% de las empresas consultadas a escala global se sienten completamente preparadas para detectar y prevenir la manipulación no autorizada de la IA. Los desafíos de seguridad también se tornan nuevos y complejos, ya que las vulnerabilidades pueden ocurrir a nivel de modelo o de aplicación, mientras que la responsabilidad recae en diferentes actores, incluyendo desarrolladores, proveedores y usuarios finales. A medida que las empresas van más allá de los datos públicos y comienzan a entrenar modelos con datos privados, los riesgos sólo aumentan.

Ante esta situación, las empresas necesitan una capa común de seguridad que proteja a todos los usuarios y aplicaciones. De ahí el reciente lanzamiento de la compañía: AI Defense, una solución diseñada para ayudar a las organizaciones a implementar, desarrollar y proteger aplicaciones de IA con confianza.

Características de Cisco AI Defense

Disponible en febrero, esta nueva propuesta viene a resolver dos grandes retos en las empresas:

Desarrollo e implementación de aplicaciones de IA seguras

El crecimiento exponencial de la IA supondrá que las empresas utilicen y desarrollen cientos, si no miles, de aplicaciones basadas en esta tecnología. AI Defense ayuda a los desarrolladores a actuar con rapidez y a generar un mayor valor al proteger los sistemas de IA de los ataques y salvaguardar el comportamiento de los modelos en todas las plataformas.

En este sentido, las capacidades de AI Defense incluyen:

1. Descubrimiento de la IA: los equipos de seguridad deben comprender quién crea las aplicaciones y las fuentes de capacitación que utilizan. AI Defense detecta aplicaciones de IA autorizadas y ocultas en nubes públicas y privadas.

2. Validación de modelos: el ajuste de modelos puede generar resultados inesperados. Las pruebas automatizadas verifican los modelos de IA en busca de cientos de posibles problemas de seguridad. Esta capacidad algorítmica impulsada por IA identifica posibles vulnerabilidades y recomienda medidas de protección para que las utilicen los equipos de seguridad.

3. Seguridad en tiempo de ejecución: la validación continua protege contra posibles amenazas a la seguridad, incluyendo ataques de inyección rápida, denegación de servicio y fuga de datos confidenciales.

Protección del acceso a las aplicaciones de IA

A medida que los usuarios finales adoptan aplicaciones de IA como herramientas para mejorar su productividad, los equipos de seguridad deben evitar la fuga de datos confidenciales. AI Defense aporta a los equipos de seguridad:

1. Visibilidad: proporcionando una vista integral de las aplicaciones habilitadas para IA autorizadas y no autorizadas que utilizan los empleados.

2. Control de acceso: implementando políticas que restringen el acceso de los empleados a herramientas de IA no autorizadas.

3. Protección de datos: protegiendo de manera continua frente a amenazas y pérdida de datos confidenciales y reforzando el cumplimiento con las políticas.

Seguridad de IA a nivel de red

A diferencia de la seguridad integrada en los modelos de IA individuales, Cisco ofrece controles consistentes para un mundo de múltiples modelos. AI Defense se optimiza automáticamente y aprovecha los modelos de aprendizaje automático patentados por la multinacional para detectar problemas de seguridad y protección de IA en constante evolución basados en datos de Splunk y Cisco Talos Threat Intelligence.

Integrándose perfectamente con los flujos de datos existentes para obtener mayor visibilidad y control y parte de Cisco Security Cloud, AI Defense optimiza la seguridad de IA a nivel de red de forma única. La precisión y la confiabilidad también resultan esenciales para proteger las aplicaciones de IA empresariales, por lo que Cisco ha participado activamente en el desarrollo de estándares de la industria como MITRE, OWASP y NIST.

“Al adoptar la IA, los líderes empresariales y tecnológicos no pueden permitirse sacrificar la seguridad en favor de la velocidad”, afirma Jeetu Patel, vicepresidente ejecutivo y director de Productos en Cisco. “Integrada en la estructura de la red, Cisco AI Defense combina una capacidad única para detectar y proteger a las empresas frente a amenazas al desarrollar y acceder a aplicaciones de IA, y sin perder celeridad”.

Artículos relacionados

Artículo 1 de 5