2024 pasará a la historia como el «año de la IA», marcando un punto de inflexión en la adopción masiva de esta tecnología, tanto para usos legítimos como para fines ilícitos.
Así, en la dark web ya encontramos chatbots impulsados por IA diseñados para facilitar actividades delictivas. Entre los más destacados se encuentran FraudGPT, especializado en crear estafas de phishing realistas; WormGPT, que permite desarrollar botnets y herramientas de recolección de datos y XXXGPT, un chatbot multifuncional utilizado para generar malware, mineros de criptomonedas y más.
Por otra parte, aunque los correos electrónicos de phishing han seguido siendo el vector de ataque inicial más frecuente, en estos momentos detectamos un crecimiento significativo en los ataques de ingeniería social dirigidos a plataformas de colaboración, como Microsoft Teams y QuickAssist. Grupos como Black Basta se están haciendo pasar por servicios de soporte técnico para engañar a las víctimas y obtener información confidencial, como credenciales de inicio de sesión.
De igual manera, el panorama geopolítico ha contribuido a un incremento en los ciberataques patrocinados por estados, que han tenido como objetivo principal infraestructuras críticas y empresas de los Estados Unidos.
Para combatir estas amenazas, las empresas de ciberseguridad han ampliado sus soluciones basadas en IA en dos vertientes principales:
- Detección de anomalías: Utilizando la IA para analizar patrones y comportamientos se consigue mejorar significativamente la identificación de actividades sospechosas.
- Reducción de la brecha de habilidades: Las herramientas avanzadas basadas en IA ayudan a los profesionales de la seguridad a buscar indicadores de compromiso, correlacionar eventos y comprender mejor los incidentes de seguridad.
Tendencias clave en este sector para 2025
Se espera que en 2025 el uso de la IA continúe creciendo a medida que las herramientas alcancen un mayor nivel de madurez. Una posible evolución será el surgimiento de un nuevo tipo de ransomware que utilice deepfakes en campañas de extorsión. Los actores malintencionados podrían aprovechar imágenes o videos públicos de personas de alto perfil para crear contenidos falsos comprometedores y amenazar con su difusión si no se paga un rescate. En el entorno actual de las redes sociales, la publicación de dicho material podría causar daños irreparables a individuos u organizaciones, incluso aunque más tarde se demuestre su falsedad.
Las empresas de ciberseguridad ya están desarrollando tecnologías para detectar e identificar deepfakes y herramientas de clonación de voz, que se convertirán en elementos clave en las estrategias de seguridad. También se anticipa la creación de nuevos métodos de detección de anomalías, diseñados para proteger mejor a las organizaciones contra filtraciones de datos. Por otra parte, la IA adversarial jugará un rol crucial en la predicción de vectores de ataque emergentes desarrollados mediante herramientas de IA clandestinas.
Principales desafíos en el ámbito de la ciberseguridad
El mayor desafío para los proveedores de ciberseguridad será la velocidad a la que el cibercrimen evoluciona con la ayuda de la IA. Los ataques de ingeniería social han alcanzado niveles de sofisticación sin precedentes, y aunque se han logrado avances en la detección de deepfakes, estas tecnologías avanzan a un ritmo vertiginoso, con herramientas de IA multimodales cada vez más poderosas surgiendo día a día.
Por otro lado, la integración de la IA generativa en las organizaciones plantea nuevos retos. Uno de los más importantes es el envenenamiento de datos, un problema bien conocido. Además, como sucede con los sistemas de identidad en la nube, las organizaciones podrían otorgar a las soluciones de IA acceso innecesario a datos sensibles, exponiéndolos a posibles ataques. Por esta razón, es crucial implementar estrategias de segmentación de datos para cualquier sistema de IA integrado en las redes empresariales.
Aunque los retos son numerosos, en Bitdefender estos desafíos refuerzan nuestro compromiso de liderar la lucha contra el cibercrimen.
Richard de la Torre, Technical Marketing Manager Enterprise Solutions de Bitdefender