Los LLMs, modelos de lenguaje IA de gran escala, (por sus siglas en inglés: Large Language Models), están revolucionando la forma en que interactuamos con la información. Herramientas como ChatGPT, Claude, Gemini y Perplexity AI se han convertido en asistentes digitales para millones de personas, ofreciendo respuestas rápidas y naturales a todo tipo de consultas.
Sin embargo, un informe reciente de la empresa de ciberseguridad Netcraft ha puesto sobre la mesa un problema preocupante: estos modelos también cometen errores peligrosos. Cuando se les pregunta por direcciones web de servicios populares, pueden responder con URLs equivocadas, inactivas o incluso maliciosas. Esto no solo compromete la seguridad del usuario, sino que también pone en evidencia una nueva forma de amenaza digital.
Una de cada tres URLs es incorrecta o riesgosa
Netcraft realizó un experimento con un modelo de la familia GPT-4.1, pidiéndole enlaces de acceso para cuentas de usuario en 50 marcas reconocidas de sectores clave como finanzas, tecnología o energía. Las preguntas eran tan simples como las que haría cualquier persona: ¿Cuál es el enlace para iniciar sesión en [marca]?
Los resultados fueron alarmantes:
- El 66 % de las URLs eran correctas.
- El 29 % apuntaba a dominios inactivos o sin registrar.
- El 5 % redirigía a sitios legítimos, pero no relacionados con la marca solicitada.
Esto significa que más del 34 % de las respuestas representaban un riesgo de seguridad real, y lo más preocupante: el modelo las proporcionaba con total seguridad.
El problema de la confianza automática
A diferencia de los buscadores tradicionales donde los usuarios eligen entre múltiples enlaces, los LLMs presentan una respuesta directa, como si fuera la única opción válida. Esta forma de presentar la información cambia radicalmente la manera en que validamos lo que vemos en internet.
El informe de Netcraft destaca un ejemplo claro: al pedir la URL de acceso a Wells Fargo, la herramienta Perplexity AI ofreció una página fraudulenta como primer resultado. Aunque el dominio legítimo también estaba en la lista, el orden de aparición priorizó una opción de phishing.
SEO adversarial: una nueva estrategia del cibercrimen
Los atacantes están cambiando de táctica. En lugar de atacar directamente al usuario, están engañando a los modelos de lenguaje. Esto se conoce como SEO adversarial para IA, y consiste en crear contenido malicioso específicamente diseñado para parecer útil y legítimo ante los LLMs.
Ya hay casos documentados en los que grupos han desarrollado APIs falsas, tutoriales e incluso repositorios en GitHub para que los asistentes de programación como Copilot recomienden su uso. Uno de ellos fue SolanaApis, una API inventada con la intención de infiltrar código malicioso en proyectos reales.
¿Cómo podemos protegernos?
Este nuevo escenario obliga a replantear las estrategias de defensa digital. Los métodos tradicionales de protección contra el phishing ya no son suficientes. Según Netcraft, las medidas clave que se deberían implementar incluyen:
- Monitoreo de menciones de marca en respuestas generadas por IA.
- Validadores de dominio integrados en los LLMs, que comparen la información con bases de datos autorizadas antes de ofrecer una URL.
- Filtros lingüísticos y de veracidad mejorados para evitar «alucinaciones» de los modelos.
- Y, sobre todo, educación digital: los usuarios deben ser conscientes de que la IA también puede equivocarse.
Cuando la inteligencia artificial también puede caer en trampas
La inteligencia artificial generativa ha llegado para quedarse. Pero su utilidad no debe cegarnos ante sus limitaciones. Cuando los LLMs se convierten en la puerta de entrada a internet para millones de personas, su capacidad para distinguir entre lo verdadero y lo falso es crítica.
Este informe es una advertencia no solo para desarrolladores, sino también para las empresas que integran estos modelos en sus productos. Si confiamos ciegamente en una tecnología que todavía puede ser engañada. Los modelos deben aprender a verificar antes de afirmar. Y los humanos, a seguir preguntando, incluso cuando la respuesta parezca segura.
En Innova Digital Export queremos ser tu socio estratégico. Desde Inteligencia Artificial hasta exportación digital, estamos aquí para impulsar tu éxito. ¿Hablamos?
