Un tercio de las respuestas de buscadores de IA presentan afirmaciones sin respaldo: el reto de la fiabilidad

La proliferación de herramientas de búsqueda basadas en inteligencia artificial está revolucionando la manera en que accedemos al conocimiento online, pero no sin controversia. Un reciente análisis liderado por el periodista Chris Stokel-Walker y divulgado por New Scientist alerta: alrededor de un tercio de las respuestas ofrecidas por motores como Perplexity o los modelos de OpenAI (incluido GPT-4) presentan afirmaciones no respaldadas por fuentes fiables o muestran un sesgo notable sobre temas polémicos.newscientist+1

Investigación y hallazgos clave

El estudio, dirigido por investigadores de Salesforce AI Research, evaluó la calidad de las respuestas de varios motores de búsqueda generativos, incluyendo Perplexity, GPT-4.5, Bing Chat y You.com. Se analizaron 303 preguntas divididas entre cuestiones polémicas (para cuantificar sesgos) y de especialidad (para medir el grado de conocimiento), aplicando ocho métricas específicas denominadas DeepTrace, enfocadas en la relevancia, precisión, grado de soporte y claridad de las fuentes citadas.indianexpress+1

Los resultados son contundentes:

• Cerca del 31% de las respuestas generadas por Perplexity y You.com contenían afirmaciones sin soporte.newscientist+1
• En el caso del modelo GPT-4.5, este porcentaje ascendía incluso hasta el 47%.indianexpress+1
• Bing Chat presentaba un 23% de declaraciones sin respaldo, mientras que la función de investigación profunda (“deep research”) de Perplexity alcanzó un sorprendente 97,5% de afirmaciones no sustentadas.newscientist+1

Falta de respaldo y transparencia en las respuestas

Además de la ausencia de apoyo documental, los investigadores señalaron que la mayoría de estos sistemas tienden a producir respuestas centradas en un único enfoque, especialmente ante preguntas controvertidas. Existe poca transparencia sobre cómo seleccionan y priorizan fuentes, lo que incrementa el desafío de distinguir hechos de interpretaciones o suposiciones de la IA.arxiv

Expertos como Felix Simon, de la Universidad de Oxford, subrayan que, a pesar del progreso técnico, la generación de respuestas sesgadas o engañosas sigue siendo un asunto frecuente y preocupante. Pruebas y estudios previos, además de quejas de usuarios, ya advertían sobre la tendencia de estas herramientas a «alucinar», es decir, fabricar información convincente pero sin base real.nature+1

Reacciones y desafíos metodológicos

Ninguna de las compañías líderes (OpenAI, Perplexity, You.com, Microsoft o Google) comentó en detalle los hallazgos. Perplexity, por su parte, manifestó desacuerdo con la metodología, argumentando que el estudio utilizó la configuración por defecto y no permitió comparar los rendimientos de distintos modelos disponibles en la plataforma. Los autores admitieron esta limitación, pero defendieron que la inmensa mayoría de usuarios accede mediante las configuraciones estándar, sin capacidad técnica para seleccionar el motor más fiable.newscientist

Otras críticas apuntan a la confianza excesiva en la evaluación automática de respuestas por medio de IA (en vez de revisores humanos) y ciertos métodos estadísticos empleados para correlacionar resultados, elementos que según algunos expertos podrían sesgar los resultados finales.indianexpress+1

Implicaciones para el conocimiento y la confianza

Este fenómeno de “respuestas sin respaldo” representa un peligro real de desinformación, especialmente a medida que estas IA se integran con mayor profundidad en entornos profesionales, académicos y de búsqueda general. No sólo resulta más difícil distinguir hechos críticos de opiniones, sino que la propia opacidad en la selección de fuentes erosiona la confianza en el canal informativo.arxiv

La conclusión de Simon, de Oxford, resulta clara: es vital mejorar la precisión, diversidad y trazabilidad de las respuestas generadas por IA, dado que estas herramientas van ganando espacio como intermediarios en el flujo global de conocimiento.indianexpress+1

¿Cómo abordar este reto?

Los especialistas coinciden: se requiere un mayor esfuerzo en la verificación humana, en la transparencia sobre el origen de la información y en educar a los usuarios para interpretar con escepticismo los resultados que estos nuevos motores de búsqueda generan. Solo así se podrán mitigar riesgos —y aprovechar el potencial— de la inteligencia artificial como buscador y sintetizador de conocimiento.arxiv+2

1. https://www.newscientist.com/article/2496133-around-one-third-of-ai-search-tool-answers-make-unsupported-claims/
2. https://indianexpress.com/article/technology/tech-news-technology/gen-ai-search-struggles-with-accuracy-offers-biased-answers-study-10255279/
3. https://arxiv.org/html/2410.22349v1
4. https://www.nature.com/articles/d41586-025-02853-8
5. https://x.com/stokel/status/1967947236857483419
6. https://x.com/stokel?lang=en
7. https://www.newscientist.com/author/chris-stokel-walker/
8. https://www.linkedin.com/posts/stokel_grok-leak-shows-ai-chatbot-told-user-how-activity-7366011523841884160-q7hl
9. https://x.com/newscientist/status/1967974201664344359
10. https://leaddev.com/community/chris-stokel-walker
11. https://www.newscientist.com/article/2479545-ai-hallucinations-are-getting-worse-and-theyre-here-to-stay/
12. https://www.canburypress.com/blogs/blog/introduction-to-how-ai-ate-the-world-by-chris-stokel-walker
13. https://research.google/blog/accelerating-scientific-breakthroughs-with-an-ai-co-scientist/
14. https://sr.ithaka.org/wp-content/uploads/2024/10/SR-Brief-Generative-AI-and-Scholarly-Publishing-103024.pdf
15. https://www.threads.com/@newscientist
16. https://www.reddit.com/r/perplexity_ai/comments/1kbe9hv/i_asked_perplexity_to_tell_me_how_perplexity/
17. https://www.nature.com/articles/d41586-025-02810-5
18. https://www.cension.ai/blog/perplexity-vs-chatgpt-gpt-4-google/
19. https://www.newscientist.com
20. https://www.reddit.com/r/perplexity_ai/comments/1j3w9ap/perplexity_ai_false_advertising_my_experience/