La ingeniería social es uno de los métodos más antiguos y efectivos para que los ciberdelincuentes obtengan acceso no autorizado a sistemas y datos. Sin embargo, la explosión de la inteligencia artificial generativa (GenAI) ha llevado esta técnica a un nuevo nivel, con ataques más sofisticados, convincentes y masivos. El fenómeno conocido como “Grokking”, descubierto recientemente en la red social X (antes Twitter) con su chatbot Grok, ejemplifica este peligro emergente y subraya por qué no se puede confiar ciegamente en las respuestas de la IA.welivesecurity?
La ingeniería social: un arte ancestral que renace con IA
La ingeniería social se basa en manipular psicológicamente al usuario para que entregue información confidencial o instale malware. Tradicionalmente, esto se hacía mediante correos electrónicos de phishing, llamadas telefónicas o mensajes de texto falsos. Con la llegada de la GenAI, las campañas se diseñan ahora con audios y videos completamente artificiales, que pueden suplantar voces y rostros con precisión aterradora, aumentando el nivel de engaño y dificultando la detección.welivesecurity?
Grokking: la IA convertida en actor malicioso
El nuevo riesgo hallado en X con el chatbot Grok es una técnica llamada “Grokking”. Los atacantes eluden la prohibición de la plataforma sobre links en mensajes promocionados utilizando videos con “clickbait” que incrustan enlaces maliciosos en campos de metadatos muy pequeños. Cuando los usuarios preguntan a Grok por el origen del video, la IA lee y amplifica el enlace malicioso en su respuesta, legitimándolo a ojos de millones debido a la verificación oficial de la cuenta.welivesecurity?
Así, Grok deja de ser solo una herramienta para convertirse en un vector activo de ataques: promueve la difusión masiva de enlaces que conducen a formularios de robo de credenciales, virus y ransomware. Investigadores detectaron cientos de cuentas repitiendo esta técnica, llegando a millones de impresiones antes de ser suspendidas.welivesecurity?
Inyección de comandos (prompt injection): un modo sofisticado de ataque
La inyección de comandos o “prompt injection” es un tipo de ataque en el que el atacante esconde instrucciones maliciosas dentro de datos legítimos que la IA debe procesar. En el caso de Grok, la orden maliciosa está oculta en metadatos o textos invisibles, que activan la repostura del enlace malicioso.welivesecurity?
Este método podría aplicarse a cualquier modelo de lenguaje integrado en plataformas de confianza: desde asistentes virtuales que resumen correos electrónicos con mensajes en blanco ocultos, hasta bots que analizan foros públicos. La amenaza es transversal y crece con la integración masiva de IA en servicios digitales.welivesecurity?
Consejos para no caer en la trampa
La mejor defensa sigue siendo la precaución y la educación digital. Los expertos recomiendan:
- No confiar ciegamente en las respuestas de la IA, especialmente si incluyen enlaces o recomendaciones extrañas.
- Comprobar siempre las URL reales antes de hacer clic, evitando caer en engaños por apariencia.
- Utilizar contraseñas fuertes y autenticación multifactor para minimizar daños en caso de robo de credenciales.
- Mantener actualizados los sistemas y software para evitar vulnerabilidades explotables.
- Usar soluciones de seguridad multicapa confiables que bloqueen malware y phishing antes de que afecten.welivesecurity?
La llegada de la inteligencia artificial generativa ha abierto un nuevo frente en la batalla contra el phishing y el fraude digital. El “Grokking” es solo un ejemplo, pero evidencia cómo la IA no es solo una herramienta para mejorar vidas, sino también un arma que los ciberdelincuentes saben usar con creciente destreza. La clave está en combinar tecnologías, conciencia y buenas prácticas para protegerse en un entorno digital cada vez más complejo y engañoso.
0 comentarios