Amalia Beatriz Orúe, Decana de la Facultad de Ciencias y Tecnología y Directora del Máster de Ciberseguridad de la Universidad Isabel I
¿Cómo está transformando la Inteligencia Artificial el campo de la ciberseguridad?
La Inteligencia Artificial está transformando enormemente el mundo en que vivimos, en el caso de la Ciberseguridad de la IA, es muy importante que en el ciclo de desarrollo e implementación de la IA se incluya la seguridad desde el diseño (security by design) siendo un aspecto de máxima relevancia.
También es esencial el uso de IA como soporte y ayuda a la ciberseguridad, lo que empodera a los equipos de trabajo en ciberseguridad. Además, hay que destacar el uso de IA con fines maliciosos, que explora el uso potencial de la IA por los ciberatacantes para crear nuevas amenazas.
En cuanto a la seguridad desde el diseño, es crucial que los modelos y algoritmos de IA sean fiables, seguros y resistentes, por lo que se debe prestar una especial atención a la protección de dichos modelos, la calidad de los datos y la gestión de riesgos. Además de proteger los sistemas de IA frente a posibles amenazas, se debe garantizar que sean fiables. En este sentido, muchos expertos coinciden en la necesaria supervisión humana de la IA.
Por otra parte, la utilización de la IA en ciberseguridad puede mejorar la detección y respuesta a amenazas en tiempo real, por ejemplo, en algoritmos de aprendizaje automático, para identificar comportamientos inusuales que alertarían acerca de una actividad maliciosa.
La capacidad de la IA de analizar grandes volúmenes de datos, combinada con herramientas de análisis predictivo, puede emplearse para detectar comportamientos anómalos, como intentos de intrusión o malware. De este modo, ayudaría en la detección de ataques, permitiendo identificar cualquier tipo de malware no conocido al analizar sus características y comportamiento y anticiparnos frente a posibles ciberataques.
Otro aspecto en el que ya está ayudando enormemente la aplicación de la IA en ciberseguridad, es en la automatización de tareas rutinarias como la clasificación de alertas de seguridad y el análisis de logs, etc., permitiendo que el analista de seguridad pueda centrarse en lo que es verdaderamente importante, amenazas más complejas, etc.
También quiero mencionar que la IA se está utilizando en sistemas de autenticación avanzada, como el reconocimiento biométrico, y en la detección de anomalías mediante el análisis de comportamientos inusuales en transacciones financieras o accesos a sistemas. Esto mejora la seguridad al dificultar a los atacantes eludir los sistemas de autenticación y, además, facilita la detección temprana de actividades maliciosas.
En cuanto al uso de la IA con fines maliciosos, no podemos olvidar que los cibercriminales también tienen la IA a su alcance. De este modo, pueden diseñar ataques específicos para engañar a los modelos de IA, haciendo que estos no detecten la actividad maliciosa o interpreten datos benignos como amenazas. También pueden introducir datos maliciosos en el conjunto de entrenamiento para sesgar el modelo de IA, haciéndolo menos efectivo o causando errores deliberados.
Bueno, estas son solo unas pinceladas sobre lo que pueden hacer las técnicas de IA por los equipos de ciberseguridad, contra los equipos de ciberseguridad y lo que es necesario que haga la ciberseguridad por la IA.
Un aspecto clave a tener en cuenta, en el que también la IA nos puede ayudar, es la educación y concienciación. Se pueden crear simulaciones de ciberataques, simulaciones de phishing, suplantación de identidad, etc., que nos sirven para entrenar a los equipos y también a los usuarios en la detección y respuesta a amenazas. De este modo estaremos mejorando significativamente la capacidad de las organizaciones para detectar y prevenir las ciberamenazas y en última instancia tener una defensa más proactiva y adaptativa.
