Los resúmenes de correo electrónico de Google AI se pueden piratear para ocultar ataques de phishing

La inteligencia synthetic está en todas partes en estos días, en su teléfono, su automóvil, incluso su lavadora. Vi uno justo el otro día con IA incorporada. Y aunque eso puede sonar un poco exagerado, no se puede negar que la inteligencia synthetic ha hecho la vida más fácil de muchas maneras.

Desde aumentar la productividad hasta desbloquear nuevas herramientas creativas, está cambiando la forma en que trabajamos y vivimos. ¿La versión más común que probablemente haya encontrado? AI generativa, piense en chatbots como chatgpt. Pero por útil que pueda ser esta tecnología, no está exenta de problemas.

Si ha utilizado la suite del espacio de trabajo de Google, es posible que haya notado el modelo de IA de la compañía, Gemini, integrado en aplicaciones como documentos, sábanas y gmail. Ahora, los investigadores dicen que los atacantes pueden manipular resúmenes de correo electrónico generados por Géminis para colarse en las indicaciones ocultas de phishing.

Regístrese para mi informe gratuito de Cyberguy
Obtenga mis mejores consejos tecnológicos, alertas de seguridad urgentes y ofertas exclusivas entregadas directamente a su bandeja de entrada. Además, obtendrá acceso instantáneo a mi Guía de supervivencia de estafa definitiva, free of charge cuando se una a mi Cyberguy.com/e-newsletter

Cómo AI ahora está ayudando a los piratas informáticos a engañar las herramientas de seguridad de su navegador

Cómo se pueden piratear los resúmenes de Géminis

Los investigadores de 0Din de Mozilla han descubierto una vulnerabilidad en el espacio de trabajo de Google para el espacio de trabajo que permite a los atacantes inyectar instrucciones ocultas en resúmenes de correo electrónico. El problema, demostrado por Marco Figueroa, muestra cómo las herramientas generativas de IA pueden ser engañadas a través de la inyección indirecta de inmediato. Esta técnica incorpora comandos invisibles dentro del cuerpo de un correo electrónico. Cuando Gemini resume el mensaje, interpreta y actúa sobre esas indicaciones ocultas.

¿Qué es la inteligencia synthetic (AI)?

El ataque no depende de enlaces o archivos adjuntos sospechosos. En su lugar, utiliza una combinación de HTML y CSS para ocultar la solicitud estableciendo el tamaño de fuente en cero y el shade a blanco. Estos comandos permanecen invisibles en la vista estándar de Gmail, pero aún son accesibles para Gemini. Una vez que solicite un resumen, la IA puede ser engañada para que presente alertas de seguridad falsas o instrucciones urgentes que parecen provenir de Google.

En una prueba de concepto, Gemini advirtió falsamente a un usuario que una contraseña de Gmail había sido comprometida e incluía un número de teléfono de soporte falso. Dado que los resúmenes de Gemini están integrados en el espacio de trabajo de Google, es más possible que confíe en la información, lo que hace que esta táctica sea especialmente efectiva.

Un letrero de Google en un edificio (Kurt «Cyberguy» Knutsson)

¿Qué está haciendo Google sobre el defecto?

Si bien Google ha implementado defensas contra la inyección rápida desde 2024, este método parece evitar las protecciones actuales. La compañía le dijo a Cyberguy que está implementando activamente salvaguardas actualizadas.

Obtenga el negocio de Fox sobre la marcha haciendo clic aquí

En un comunicado, un portavoz de Google dijo: «La defensa de los ataques que afectan a la industria, como inyecciones rápidas, ha sido una prioridad continua para nosotros, y hemos implementado numerosas defensas fuertes para mantener a los usuarios seguros, incluidas las salvaguardas para evitar que las respuestas nocivas o engañosas.

Google también confirmó que no ha observado la explotación activa de esta técnica específica.

Aplicación Google Gemini en la pantalla de inicio de un dispositivo móvil (Kurt «Cyberguy» Knutsson)

6 formas en que puede mantenerse a salvo de las estafas de phishing de IA

Entonces, ¿cómo puede protegerse de las estafas de phishing que explotan herramientas de IA como Gemini? Aquí hay seis pasos esenciales que puede tomar ahora mismo para mantenerse a salvo:

1. No confíe ciegamente en el contenido generado por AI

El hecho de que aparezca un resumen en Gmail o Docs no significa que sea automáticamente seguro. Trate las sugerencias, alertas o enlaces generados por la IA con la misma precaución de cualquier mensaje no solicitado. Siempre verifique información crítica, como alertas de seguridad o números de teléfono, a través de fuentes oficiales.

2. Evite usar funciones de resumen para correos electrónicos sospechosos

Si un correo electrónico parece inusual, especialmente si es inesperado o de alguien que no reconoce, evite usar la función de resumen de IA. En cambio, lea el correo electrónico completo como se escribió originalmente. Esto cut back la posibilidad de enamorarse de resúmenes engañosos.

3. Tenga cuidado con los correos electrónicos y mensajes de phishing

Esté atento a los correos electrónicos o mensajes que crean un sentido de urgencia, solicite que verifique los detalles de la cuenta o proporcione enlaces inesperados o información de contacto, incluso si parecen confiables o provienen de fuentes familiares. Los atacantes pueden usar IA para crear alertas o solicitudes de aspecto realista de información confidencial, a veces ocultas dentro de resúmenes generados automáticamente. Entonces, siempre haga una pausa y look at las indicaciones sospechosas antes de responder.

La mejor manera de salvaguardarse de los enlaces maliciosos que instalan malware, que potencialmente acceden a su información privada, es tener un software program antivirus instalado en todos sus dispositivos. Esta protección también puede alertarlo sobre los correos electrónicos de phishing y las estafas de ransomware, manteniendo su información private y sus activos digitales seguros.

Obtenga mis elecciones para los mejores dispositivos 2025 Antivirus Safety para sus dispositivos Home windows, Mac, Android e iOS en Cyberguy.com/lockupyourtech

4. Mantenga sus aplicaciones y extensiones actualizadas

Asegúrese de que Google Workspace y su navegador siempre estén ejecutando la última versión. Google publica regularmente actualizaciones de seguridad que ayudan a prevenir nuevos tipos de ataques. Además, evite usar extensiones no oficiales que tengan acceso a su Gmail o documentos.

5. Invierta en un servicio de eliminación de datos

Las estafas impulsadas por la IA como el ataque de resumen de Géminis no ocurren en el vacío. A menudo comienzan con información private robada. Esos datos pueden provenir de violaciones pasadas, registros públicos o detalles que sin saberlo ha compartido en línea. Un servicio de eliminación de datos puede ayudar escaneando continuamente y solicitando la eliminación de su información de los sitios de Information Dealer. Si bien ningún servicio puede borrar todo, reducir su huella digital hace que sea más difícil para los atacantes personalizar los intentos de phishing o vincularlo con los datos de incumplimiento conocidos. Piense en ello como una capa más de protección en un mundo donde la IA hace que las estafas específicas sean aún más fáciles.

Consulte mis mejores selecciones para obtener servicios de eliminación de datos y obtenga un escaneo gratuito para averiguar si su información private ya está disponible en la internet visitando Cyberguy.com/delete

Obtenga un escaneo gratuito para averiguar si su información private ya está en la internet: Cyberguy.com/freescan

6. Desactive los resúmenes de IA por ahora si está preocupado

Si le preocupa caer por un intento de phishing generado por IA, considere deshabilitar los resúmenes de Géminis en Gmail hasta que Google lance protecciones más fuertes. Todavía puede leer los correos electrónicos completos de la manera tradicional, lo que puede reducir su riesgo de ser engañado por resúmenes manipulados.

Cómo deshabilitar las funciones de Géminis en el escritorio

• Abierto Gmail en el escritorio.
• Haga clic en el Ajustes Icono de engranaje en la esquina superior derecha.
• Hacer clic Ver todas las configuraciones.
• Desplazarse a «Características inteligentes del espacio de trabajo de Google» y hacer clic Administrar configuraciones de características inteligentes del espacio de trabajo.
• Desactivar la palanca para Características inteligentes en el espacio de trabajo de Google.
• Entonces, haga clic Ahorrar.
• Nota: Esta voluntad Apague los resúmenes de Géminis así como otras características inteligentes.

Cómo deshabilitar las funciones de Géminis en Cellular

En iPhone:

Si usa la aplicación móvil Gemini específicamente:

• Abrir el Aplicación Géminis.
• Toca tu Foto de perfil.
• Grifo Actividad de aplicaciones de Géminis.
• En la parte superior, toque Apagar.

En Android:

SLos Ettings pueden variar según el fabricante de su teléfono Android

• Abra la aplicación Gmail en tu Android.
• Toque el Menú ícono (tres líneas horizontales) en el superior izquierda esquina.
• Desplácese hacia abajo y toque Ajustes.
• Seleccione el cuenta de correo electrónico relevante.
• Desplácese hacia abajo y toque Características inteligentes del espacio de trabajo de Google y desmarque la caja para apagarlos.

Advertencias clave para saber:

• Incapacitante Características inteligentes puede eliminar otras funcionalidades convenientes, como texto predictivo y detección automática de citas.
• El El icono de Géminis o los botones de resumen aún pueden aparecerincluso después de deshabilitar estas características. Algunos usuarios informan tener que ocultarlos físicamente a través de herramientas de navegador.

No hay un «interruptor de apagado» único centralizado para eliminar completamente todas las referencias de IA de Géminis en todas partes, pero estos pasos reducen significativamente la presencia y el riesgo de la característica.

Haga clic aquí para obtener la aplicación Fox Information

Takeaway de la llave de Kurt

Esta vulnerabilidad destaca cómo evolucionan las tácticas de phishing junto con la IA. En lugar de confiar en las banderas rojas visibles, como URL mal escrito o archivos adjuntos sospechosos, los atacantes ahora están dirigidos a sistemas de confianza que ayudan a los usuarios a filtrar e interpretar mensajes. A medida que AI se integra más profundamente en las herramientas de productividad, la inyección rápida podría surgir como un vector sutil pero poderoso para la ingeniería social, ocultando la intención maliciosa en las mismas herramientas diseñadas para simplificar la comunicación.

¿Qué tan cómodo está dejando que AI resume o filtre sus correos electrónicos, y dónde dibuja la línea? Háganos saber escribiéndonos en Cyberguy.com/contact

Regístrese para mi informe gratuito de Cyberguy
Obtenga mis mejores consejos tecnológicos, alertas de seguridad urgentes y ofertas exclusivas entregadas directamente a su bandeja de entrada. Además, obtendrá acceso instantáneo a mi Guía de supervivencia de estafa definitiva, free of charge cuando se una a mi Cyberguy.com/e-newsletter

Copyright 2025 cyberguy.com. Reservados todos los derechos.