El de la Inteligencia Artificial (IA) es un tema candente. ¿Estamos asistiendo a una edad de oro para la investigación y el desarrollo de esta tecnología?
Realmente, todas las innovaciones que en la actualidad están surgiendo en torno a la IA nos están dirigiendo hacia una verdadera revolución, con avances significativos en el procesamiento del lenguaje natural, la visión artificial y las capacidades de toma de decisiones. Los sistemas IA se están volviendo más generales y competitivos en una amplia gama de tareas, por ejemplo, los recientes avances de los grandes modelos de lenguaje (LLM) y la IA generativa, como ChatGPT y GPT-4, y cada vez está más claro que dichos avances tendrán un profundo impacto en la sociedad, incluido el potencial de revolucionar el mundo de la ciberseguridad.
¿Qué puede aportar la IA en el ámbito de la ciberseguridad?
La IA es claramente una aliada en materia de ciberseguridad, por su capacidad para la identificación de patrones y la realización de análisis de datos a gran escala. Con su uso, es posible adoptar un enfoque más proactivo y eficiente en ciberseguridad y reducir la carga de trabajo de los profesionales de esta área, gracias a sus capacidades para la detección de amenazas desconocidas de día cero y patrones de comportamiento anómalos, la clasificación y descubrimiento automáticos de datos sensibles y activos digitales corporativos, o la simplificación de complejas configuraciones de políticas y tareas de gestión. Además, proporciona inteligencia adicional en torno a los incidentes de seguridad y recomienda formas eficaces de respuesta.
Con el uso de la IA es posible adoptar un enfoque más proactivo y eficiente en ciberseguridad
¿Cómo utilizáis la IA en Netskope para resolver diferentes problemas de ciberseguridad?
En Netskope utilizamos la tecnología de IA y aprendizaje automático (ML) para desarrollar soluciones de IA a gran escala para nuestra plataforma de seguridad Netskope Intelligent Security Service Edge (SSE), por ejemplo:
Mediante la aplicación de técnicas de procesamiento del lenguaje natural y visión artificial basadas en el aprendizaje profundo, somos capaces de detectar datos sensibles y personales en el tráfico de red de nuestros clientes, como documentos financieros y legales, código fuente, e imágenes de pasaportes y tarjetas de crédito, lo que ayuda a nuestros clientes a cumplir la normativa sobre privacidad y proteger sus activos digitales.
También a través del uso de análisis integrados de comportamiento de usuarios y entidades (UEBA), hemos entrenado modelos para discernir patrones de comportamiento normales frente a los que proceden de amenazas internas malintencionadas, cuentas comprometidas, ataques de filtración de datos y ataques de ransomware.
Además, utilizamos la IA para potenciar varios motores de detección de malware en el análisis rápido en línea, así como en el análisis en profundidad basado en análisis estáticos y dinámicos del sistema de protección frente a amenazas de Netskope, mejorando su eficacia de detección de malware para varios tipos de archivos.
No debemos olvidar la tarea de entrenar modelos lingüísticos para clasificar URL y contenidos web, lo que permite a los clientes de Netskope aplicar su política de seguridad web y realizar un filtrado eficaz del tráfico web de información sensible o dañina. De forma similar al pre-entrenamiento generativo de grandes modelos lingüísticos, como los modelos GPT, utilizamos un gran número de páginas web para entrenar el codificador HTML y luego lo usamos para construir el clasificador de phishing. El clasificador de phishing nos permite detectar y bloquear páginas web de phishing en el tráfico web que pasa por la plataforma Netskope SSE en tiempo real.
En los últimos tres años, Netskope ha obtenido 15 patentes estadounidenses por nuestra innovadora aplicación de la IA para abordar los retos de la ciberseguridad. A diferencia de la IA de propósito general, nuestros modelos de IA están diseñados específicamente para resolver problemas de seguridad, al tiempo que priorizan la eficiencia y la precisión. Están optimizados para el procesamiento en tiempo real, lo que permite obtener resultados rápidos y precisos, manteniendo al mismo tiempo una pequeña huella de memoria.
¿Cuáles son los principales retos y riesgos del uso de la IA y cómo puede resolverlos Netskope?
La ciberseguridad tiene sus propios retos cuando se trata de la adopción de la IA y la tecnología de aprendizaje automático, como puedan ser falsos positivos y negativos, preocupaciones por la privacidad y la protección de los datos, o dificultad para interpretar los datos y vulnerabilidad a ataques adversarios.
Netskope adopta un enfoque multicapa que incorpora componentes de IA, heurísticos y basados en firmas. De este modo se garantiza que la plataforma SSE de Netskope satisfaga los elevados requisitos de precisión necesarios para una seguridad de datos y una protección frente a amenazas eficaces. Asimismo, nos tomamos muy en serio la privacidad de los datos y damos prioridad al uso responsable de estos datos en todas nuestras aplicaciones de IA. No utilizamos los datos de los clientes para el entrenamiento de IA a menos que nos den permiso explícito.
¿Están utilizando los hackers la IA en su beneficio?
Efectivamente. Como se ilustra en este artículo de blog, pueden utilizar las tecnologías de IA para mejorar sus estrategias de ataque y desarrollar malware más sofisticado. Esto incluye el uso de IA para acelerar la explotación de vulnerabilidades, crear malware auto-propagable y automatizar la extracción de información valiosa. Además, los atacantes pueden utilizar una herramienta como ChatGPT para mejorar sus habilidades de ingeniería social.
Los hackers pueden utilizar las tecnologías de IA para mejorar sus estrategias de ataque y desarrollar malware más sofisticado
Por lo tanto, las organizaciones deben mantenerse vigilantes y adoptar soluciones avanzadas basadas en IA para adelantarse al panorama de las ciberamenazas, en constante evolución.
Últimamente se ha debatido mucho sobre los posibles riesgos para la humanidad derivados de la IA. ¿Cómo es posible solventarlos?
Para garantizar la seguridad, necesitamos trabajar juntos como sociedad—desarrolladores de IA, empresas, gobiernos y particulares—para hacer que los sistemas de IA sean más precisos, transparentes, interpretables y fiables, minimizando al mismo tiempo los riesgos para la privacidad y la seguridad.
“Para garantizar la seguridad, necesitamos trabajar juntos como sociedad”
Nuestro equipo de expertos en Netskope AI Labs está comprometido con el uso responsable de la inteligencia artificial y el aprendizaje automático. Trabajaremos con colegas, académicos, líderes de opinión y gobiernos para dirigir de forma segura los esfuerzos de IA de manera que beneficien y no perjudiquen a nuestros clientes, partner, empleados y sus familias. Tomaremos precauciones y mantendremos una postura de transparencia en nuestros esfuerzos.
Recientemente han presentado SkopeAI, ¿qué ventajas presenta para el futuro de la protección de datos y la defensa frente a ciberamenazas?
SkopeAI es el conjunto de innovaciones de AI/ML de Netskope que ofrece a las empresas una protección de datos moderna y defensa frente a ciberamenazas.
Las innovaciones de SkopeAI en la plataforma unificada SASE de Netskope utilizan IA/ML para adelantarse a la seguridad tradicional, proteger a las empresas de las amenazas generadas por IA y de la pérdida de datos por el mal uso de ChatGPT y otras herramientas populares de IA generativa, y llevar las técnicas de protección de datos y defensa contra amenazas a la era moderna con una velocidad y simplicidad sin precedentes.
En definitiva, SkopeAI libera el poder de la IA/ML para proteger los datos estructurados y no estructurados y defender a las empresas de las amenazas en constante evolución.
