Ataques phishing a través de los chatbots Omicrono-ChatGPT Omicrono
Tecnología Ataques phishing a través de la IA: así se crean estafas online aprovechando las alucinaciones de los modelos de lenguajeLos ciberdelincuentes utilizan la confianza que las personas están dando a la IA para atraerlos a nuevas páginas web falsas y robarles.
Más información: Así se logra hacer dudar a la IA: la técnica que promete reducir el exceso de confianza y sus temidas alucinaciones
Marta Sanz Romero Publicada 31 agosto 2026 06:30hAunque saben que no deben, cada vez más personas confían en las respuestas que la Inteligencia Artificial generativa. “Siempre reviso las fuentes de dónde extrae los datos que me da el chatbot” comenta un usuario. ¿Qué pasa cuando esos enlaces tampoco son de fiar?
El término “alucinaciones” de la IA, los errores e información inventada provocada por la propia naturaleza de los modelos de lenguaje se ha extendido fácilmente entre los millones de usuarios. Lo que no es tan conocido es que la IA puede alucinar incluso URLs, es decir, inventarse direcciones web, dominios que no existen.
Una reciente investigación de la compañía de seguridad Palo Alto Networks revela el auge de un nuevo sistema de estafas online: cómo los ciberdelincuentes aprovechan estas alucinaciones para engañar a los usuarios y robarles.
El peligro de tratar a ChatGPT como a un humano: "Es como un libro de autoayuda mezclado con el que te echa las cartas"Los atacantes han empezado a comprar esos dominios ficticios antes que nadie y luego alojan páginas de phishing en ellos para captar el tráfico que las herramientas de IA les dirigen. Es lo que se ha denominado phantom squatting (ocupación fantasma).
Según esta investigación, los modelos generaron 2,1 millones de enlaces. Durante la investigación se identificaron 13.229 de ellos como maliciosos, lo que significa que la IA estaba distribuyendo direcciones IP conocidas por ser peligrosas. Aproximadamente 250.000 de los dominios inventados aún no tenían propietario, lo que los convierte en un objetivo fácil para quien los registre primero.
El phantom squatting
El equipo de investigación pone de ejemplo un caso particular en el que un atacante utilizó un asistente de codificación de IA para crear un kit de phishing completo llamado Montana Empire. El kit incluía tanto la detección del dominio falso, que los investigadores habían localizado 23 días antes, como el desarrollo del ataque gracias a la IA.
El problema no radica solo en la confianza que los propios usuarios puedan darle al chatbot, también está en los asistentes de IA que confían en las direcciones web que los modelos les ofrecen y cómo estos asistentes empiezan a actuar de forma autónoma en nombre de los usuarios.
Representación de un hackeo TheDigitalArtist | Pixabay
De esta nueva amenaza online se conocen dos versiones. Por un lado, el slop squatting se dirige a programadores que buscan paquetes de software. Mientras que el phantom squatting va dirigido a cualquiera que busque información sobre tiendas, bancos, etc.
Para medir la magnitud del problema, la Unidad 42 de Palo Alto Networks formuló a dos modelos de IA 685.339 preguntas sobre 913 marcas reconocidas de los sectores de tecnología, finanzas, sanidad, gobierno, juegos de azar y otros, en busca de alucinaciones de este tipo en sus respuestas.
“Pudimos predecir el uso de estos dominios con una antelación de entre 18 y 51 días al registro por parte de adversarios”, afirman.
Así funciona
Se describen cuatro fases en este nuevo modelo de cibercrimen. Los atacantes podrían usar indicaciones realistas que imiten las operaciones cotidianas de los usuarios, con el objetivo principal de observar y mapear los patrones de alucinación resultantes.
ChatGPT en un montaje fotográfico. Reuters Reuters
Una vez localizados los dominios fantasma, los hackers registran de forma preventiva aquellos que son más valiosos para sus ataques. “Nuestro análisis confirma que los ciberdelincuentes operan con gran rapidez, a menudo mucho antes de que se pueda dar una respuesta defensiva viable”, aseguran los investigadores que es cuestión de horas.
En el caso de Montana Empire, el atacante incluso había instalado el kit de phishing del lado del servidor antes del registro del dominio, lo que demuestra una estrategia de evasión de reputación prácticamente optimizada. Con frecuencia, diferentes modelos inventan el mismo dominio falso para la misma pregunta, lo que facilita que un atacante adivine su próximo objetivo.
La fase final del ciclo de vida del ataque se basa en la reputación nula de un dominio fantasma recién registrado, lo que permite eludir la mayoría de las defensas convencionales de URL.
Es decir, el ataque funciona porque un dominio nuevo no tiene reputación, aunque sea falso y esconda una web de phishing para robar datos, esta web aún no ha entrado en las listas negras que generan los sistemas de seguridad para evitar las alertas de amenazas.
La estrategia de Meta contra OpenAI y Anthropic: defiende los modelos de IA gratuitos "para equilibrar el poder"Los filtros de seguridad detectan correos phishing, publicidad maliciosa o ataques de punto de acceso, pero esta nueva brecha no está en su lista de alertas. Para cuando los sistemas de inteligencia sobre amenazas se sincronizan, los usuarios ya han sido redirigidos al sitio por un sistema de IA que consideran fidedigno.
Una parte interesante es que los dominios falsos no estaban en los datos de entrenamiento de los modelos, por lo que las direcciones provienen de los patrones lingüísticos propios de los modelos, no de su memoria. “La víctima se ve comprometida simplemente por seguir una recomendación de confianza de un sistema que su organización ya ha aprobado formalmente.”
Soluciones
De momento, no hay una solución definitiva para un problema tan reciente como es la IA generativa y que crece por momentos. La industria tecnológica y el sector de la ciberseguridad trabajan en medidas generales que dificulten la creación de páginas web phishing o agilicen la detección de las alucinaciones de los modelos.
Pero mientras tanto, queda en manos del usuario aplicar una última barrera que proteja lo máximo posible sus datos y dispositivos. Desconfiar de la información que aportan los chatbot y demás herramientas de IA, es la primera piedra.
Una persona programando. Danial Igdery/Unsplash Omicrono
Reforzar con contraseñas y sistemas de autentificación de doble factor cuentas como las bancarias, sería lo siguiente. Además de comprobar las direcciones URL a la que redirige el modelo de IA o buscarlas por otro lado.
Esta nueva investigación pone de manifiesto la fragilidad que aún rodea a la IA y por extensión a los asistentes basados en estos modelos de IA a los que se les pretende dar autonomía para actuar en nombre de los usuarios realizando compras u otras acciones.