Un error en Google Gemini permite a los delincuentes usar correos electrónicos sumarios para lanzar ataques de phishing, explotando así la IA en sí. Aunque Google supuestamente sabía sobre el problema desde el año pasado, los expertos en ciberseguridad dicen que todavía no se ha resuelto.
Al deslizar el texto invisible en correos electrónicos, ocultos en trucos HTML como texto blanco o formatos ocultos, el delincuente puede reproducir mensajes que el destinatario nunca verá. Cuando se abrió, el correo electrónico parecía inofensivo, pero Gemini leyó todo, incluidos los ocultos.
Si el destinatario le pide a Gemini que resume el correo electrónico, el agente de IA contiene inconscientemente texto oculto en su resumen. Este texto puede decirle a Gemini que emita una advertencia de que la contraseña de Gmail del usuario se ve comprometida.
Dado que la notificación parece ser directamente de Gemini, es más probable que el destinatario confíe en él y siga las instrucciones de emergencia, como cambiar la contraseña o llamar al llamado número de soporte.
El filtro de spam de Google tiende a etiquetar enlaces o archivos adjuntos sospechosos, por lo que los delincuentes lo perdieron. Esto ayuda a esta información a ir más allá de la defensa y la bandeja de entrada, dando a los delincuentes una forma de redirigir a las víctimas a los sitios de phishing sin usar banderas rojas obvias.
El desafío de la detección
Detectar estos mensajes maliciosos es un desafío altamente técnico. Algunos filtros escanean la salida de Gemini para mensajes de emergencia, URL o números de teléfono, marcando contenido para una mayor revisión. Otros métodos pueden eliminar, neutralizar o ignorar el contenido diseñado para estar oculto en el texto del cuerpo.
Como con la mayoría de los ataques de phishing, una de las defensas más efectivas es la educación. Las organizaciones deben asegurarse de que los empleados estén capacitados para sospechar cualquier solicitud urgente para tomar medidas, incluso si esas solicitudes parecen ser de clientes de IA.
Convertir la IA a los usuarios
Este no es el primer intento de explotar la IA en un ataque de phishing. Una tecnología llamada phishing polimórfica combina AI para aleatorizar los componentes de los correos electrónicos fraudulentos, como nombres de remitentes, líneas de asunto e incluso contenido. Esto ayuda a hablar sobre sistemas de detección de fraude capacitados para identificar patrones en correos electrónicos generales.
Irónicamente, Google ha promocionado durante mucho tiempo la capacidad de Géminis para ayudar a los esfuerzos de ciberseguridad. Desempeña un papel clave en la plataforma de ciberseguridad inteligente de amenaza de Google, que tiene como objetivo brindar a los usuarios una comprensión más integral del panorama de amenazas y las ideas inteligentes sobre los ataques.
