Este tipo de inteligencia artificial muy sofisticada tiene como fin alguna acción maliciosa. Lo más común es que pretendan comportarse para replicar alguna interacción humana y son componentes comunes dentro de una estrategia de ingeniería social, esto es, la manipulación de las personas mediante distintos métodos para sobrepasar medidas tecnológicas de ciberseguridad.
Los chatbots malignos generalmente persiguen obtener información delicada, efectuar un ataque de ingeniería social o inclusive manipular la opinión pública de forma masiva.
Usos de chatbots malignos
Cada vez aparecen más usos mal intencionados de este tipo de chatbots, pero dentro de los más comunes encontramos:
Ciber ataques automatizados: En este caso los chatbots automatizan ciertas etapas de un ciberataque, tales como:
- Ciber reconocimiento: Proceso para recolectar información de objetivos potenciales, tales como empresas o personas específicas, sus vulnerabilidades y las formas en las que los atacantes podrán entrar a un sistema de redes (vectores de ataque)
- Ingeniería social: Métodos para manipular las emociones y explotar vulnerabilidades psicológicas para manipular a las personas y hacerlos efectuar acciones que beneficien el o los propósitos de un atacante, tales como seleccionar ligas maliciosas o descargar archivos o aplicaciones infectadas.
- Ataque de phishing: Estos chatbots malignos pueden personificar a personas confiables o empresas respetables para engañar a las personas y hacerlos revelar información sensitiva, como sus credenciales de acceso a un sistema, su contraseña, aspectos financieros o datos personales sensibles.
- Campañas de desinformación: Este tipo de chatbots se puede emplear para difundir información falsa en redes sociales buscando alterar la opinión pública o sembrando discordia.
¿Cómo detectar chatbots malignos?
Es importante estar muy alerta y tener actitudes escépticas al interactuar con entidades en línea, en especial con aquellas que nos muestran comportamientos sospechosos o que nos solicitan información delicada.
Dentro de las principales formas para detectar si un chatbot es maligno se pueden mencionar los siguientes puntos:
- Empleo de herramientas de inteligencia artificial (IA): Existen varias plataformas basadas en IA que son empleadas para detectar y combatir chatbots malignos. Estas herramientas analizan los patrones de las conversaciones, diversas claves lingüísticas y comportamiento del usuario para identificar amenazas potenciales.
- Monitoreo de señales de comportamiento: Se debe de estar alerta ante aspectos “raros” tales como mensajes repetitivos, respuestas demasiado genéricas o cambios abruptos de los mensajes o el tono de la conversación entre otros puntos.
- Análisis de patrones de respuesta: Casi siempre este tipo de chatbots malignos presentan patrones de respuesta inconsistentes o poco naturales. Les es complicado el entender los contextos o proporcionar respuestas relevantes a preguntas específicas.
- Verificación de la información del perfil: Se debe revisar el perfil de con quien se esté interactuando, tales como
- La fecha de creación del perfil
- Sus niveles de actividad
- La calidad de sus contactos y seguidores
Si estos son datos frecuentes, escasos o de dudoso proceder, es muy probable que se trate de algo automatizado y de poca reputación
Conclusión
El futuro de los chatbots de IA malignos representará grandes y cada vez más frecuentes retos para los expertos en ciberseguridad, los cuales requerirán de una práctica permanente de innovación y colaboración para poder seguir a la cabeza anticipando posibles amenazas.
Las estrategias de contra ataque a estas amenazas requerirán combinar soluciones tecnológicas combinadas con sentido común y vigilancia humana para mitigar los riesgos de adversarios cada vez más versátiles.
Mpolishuk's Blog 