La última ola de herramientas de inteligencia artificial (IA) puede contribuir significativamente al aumento de la productividad. Sin embargo, esto también ha llevado a un aumento en el uso de la IA por parte de estafadores y spammers, quienes ahora utilizan esta tecnología para crear sistemas más convincentes y dañinos para llevar a cabo sus ataques. En su último informe del Grupo de Inteligencia de Amenazas (GTIG), Google ha revelado las tácticas en evolución que estos estafadores están adoptando para engañar a sus víctimas.
Evolución de las Tácticas de Estafa
Google ha observado que los actores maliciosos están utilizando la IA para recolectar información, elaborar estafas de phishing superrealistas y desarrollar malware. Aunque no se han registrado ataques directos contra modelos de frontera o productos de IA generativa por parte de actores de amenazas persistentes avanzadas (APT), Google ha mitigado ataques de extracción de modelos, una forma de espionaje corporativo, provenientes de entidades del sector privado alrededor del mundo. Existe una probabilidad alta de que otras empresas con modelos de IA enfrenten esta amenaza en el futuro cercano.
Aceleración del Ciclo de Ataque
Los estafadores están utilizando herramientas de IA para acelerar el ciclo de ataque, lo que les permite refinar y adaptar sus enfoques en respuesta a la detección de amenazas. Esto hace que sean aún más efectivos. Este tipo de tecnología no solo está en manos de estafadores de bajo nivel; también actores respaldados por gobiernos han comenzado a usar modelos de lenguaje grande para investigaciones técnicas, diseño de objetivos y generación rápida de engaños de phishing.
Métodos de Ataque Emergentes
Google destaca varios métodos en los que se está utilizando la IA para llevar a cabo ataques:
1. Ataques de Extracción de Modelos
Estos ataques han aumentado como un método para el robo de propiedad intelectual, representando un gran desafío para las organizaciones que desarrollan sus propios modelos de IA.
2. Operaciones Aumentadas por IA
Estudios de caso del mundo real demuestran cómo los grupos están optimizando la reconocimiento y la construcción de relaciones a través de técnicas de phishing.
3. IA Agente
Los actores de amenazas están comenzando a mostrar interés en construir capacidades de IA agente para respaldar el desarrollo de malware y herramientas.
4. Malware Integrado con IA
Nuevas familias de malware, como HONESTCUE, están experimentando con el uso de APIs para generar código que permite la descarga y ejecución de malware de segunda fase.
5. Ecosistemas «Jailbreak»
Están surgiendo servicios maliciosos en la dark web que afirman ser modelos independientes, pero que en realidad dependen de APIs comerciales desbloqueadas.
Es evidente que las herramientas de IA están siendo utilizadas para estos tipos de ataques. Los estafadores se están volviendo más sofisticados y eficaces al afinar sus enfoques con los últimos modelos de IA generativa. Esto representa una advertencia sobre la necesidad de tener cuidado con los enlaces en los que se hace clic y con el contenido con el que se interactúa.
Consejos para Emprendedores y Negocios
-
Implementar Seguridad Cibernética Adecuada: Asegúrese de contar con protocolos de seguridad robustos para proteger la información sensible y evitar ser blanco de ataques de phishing.
-
Educación y Capacitación del Personal: Instruya a sus empleados sobre cómo identificar correos electrónicos de phishing y otras amenazas cibernéticas.
-
Monitorización Continua: Establezca un sistema de monitorización para detectar actividades sospechosas en la red y potenciales ataques de extracción de modelos.
-
Uso de Autenticación de Dos Factores: Implementar autenticación de dos factores para todas las cuentas críticas puede ayudar a prevenir accesos no autorizados.
- Evaluaciones de Riesgos Regulares: Realice auditorías periódicas sobre su infraestructura de tecnología de la información para identificar y mitigar posibles vulnerabilidades.
Conclusiones
La creciente sofisticación de los estafadores que utilizan inteligencia artificial es un motivo de preocupación para todas las empresas, independientemente de su tamaño. Es crucial que los emprendedores y dueños de negocios se mantengan informados sobre las tácticas más recientes de amenazas y tomen medidas proactivas para protegerse. La educación, la formación y el refuerzo de la seguridad son aspectos fundamentales para salvaguardar los activos digitales en este panorama cibernético en constante evolución.