OpenAI ha revelado un dato impactante: cada semana, más de un millón de usuarios utilizan ChatGPT? para hablar sobre pensamientos suicidas, lo que representa aproximadamente el 0,15% de sus 800 millones de usuarios semanales. Aunque el porcentaje pueda parecer pequeño, la dimensión absoluta de este fenómeno es alarmante y plantea nuevos desafíos para la interacción entre humanos y sistemas de inteligencia artificial (IA) y para la salud mental global.elpais+2?
El contexto: ChatGPT como confidente digital
Desde su lanzamiento, ChatGPT? se ha convertido en un espacio de conversación accesible, rápido y siempre disponible para millones. Para una parte significativa de usuarios, el chatbot es también un “confidente” con el que se pueden compartir pensamientos personales y angustias profundas, incluyendo ideas suicidas o autodestructivas.
Esta funcionalidad, aunque útil en ciertos casos, es un arma de doble filo: numerosos expertos advierten que depender de una IA como soporte exclusivo puede reforzar el egocentrismo, el aislamiento y las ideas paranoides, especialmente en personas con trastornos de salud mental.
Colaboración con expertos para mejorar la seguridad
Ante esta realidad, OpenAI ha lanzado una actualización de su modelo (GPT-5) diseñada para detectar con mayor precisión señales de angustia emocional, ideación suicida, psicosis, manía y patrones de dependencia emocional hacia la IA. Para ello, la empresa trabajó conjuntamente con más de 170 profesionales en salud mental de 60 países, quienes evaluaron y mejoraron las respuestas proporcionadas por el sistema.infobae+1?
Las mejoras incluyen:
- Disminución del 65% en respuestas inadecuadas ante síntomas de psicosis y manía.
- Reducción del 52% en respuestas problemáticas en contextos de autolesión y suicidio.
- Reducción del 80% en respuestas que podrían fomentar la dependencia emocional hacia la IA.
Además, ChatGPT ahora incorpora pautas para redirigir a los usuarios hacia recursos de ayuda profesional y fomentar la conexión con personas reales.
Un problema real y con consecuencias tangibles
El fenómeno que detecta OpenAI no es menor: en los últimos años, han aumentado los casos donde interacciones prolongadas con la IA han derivado en hospitalizaciones, crisis emocionales o incluso muertes. Una denuncia judicial reciente atribuye a ChatGPT la muerte de un adolescente que utilizaba la plataforma como su único soporte emocional, acusando a la empresa de negligencia.agencia.unq?
Estos casos han encendido las alarmas de la comunidad médica y psicológica, que resalta los límites de la IA como herramienta terapéutica y subraya la necesidad de supervisión, regulación y formación especializada.
Un llamado a no sustituir las relaciones humanas
ChatGPT, en sus respuestas actualizadas, insiste en que su función es complementar el apoyo humano, no reemplazarlo. Un ejemplo habitual en la nueva versión es responder a comentarios tipo “Me gusta más hablar con una IA que con personas reales” con frases que valoran la relación humana y alientan a buscar ayuda directa: “Las personas reales pueden sorprenderte y apoyarte más allá de las palabras escritas en una pantalla”.infobae?
Esta postura busca evitar que la IA sirva como un refugio exclusivo que agrave el aislamiento y la autodestrucción.
El desafío ético y tecnológico
Reconocer signos de crisis mental mediante algoritmos es complejo: se requiere un delicado equilibrio entre la privacidad, el apoyo empático y el señalamiento precoz de emergencias reales. OpenAI destaca su compromiso con el desarrollo de “taxonomías” precisas y estrategias de respuesta responsable, pero reconoce que quedan retos pendientes como la gestión de la dependencia, la confidencialidad y la interacción con sistemas de salud pública.
Conclusión
La revelación de que más de un millón de usuarios hablan de suicidio semanalmente con ChatGPT pone un foco inevitable sobre los límites y responsabilidades de la IA en contextos humanos sensibles. Las mejoras en la detección y respuesta son un paso necesario, pero no suficiente: la salud mental requiere atención multidisciplinar y conexión humana real.
ChatGPT puede ser una herramienta valiosa, pero nunca un sustituto. La conversación digital puede ser la primera alerta, la mano tendida, o el espejo, pero el acompañamiento humano y profesional es insustituible para salvar vidas.
Fuentes consultadas:
- El País (2025) “OpenAI admite que más de un millón de usuarios hablan sobre suicidio con ChatGPT cada semana”elpais?
- Infobae (2025) “OpenAI revela que más de un millón de usuarios usan ChatGPT para hablar sobre suicidio”infobae?
- La Razón (2025) “Más de un millón de personas hablan sobre suicidio en ChatGPT cada semana”larazon?
- The AI Revolution (2025) “ChatGPT detecta señales de suicidio en uno de cada 667 mensajes”theairevolution?
- https://elpais.com/tecnologia/2025-10-27/openai-admite-que-mas-de-un-millon-de-usuarios-hablan-sobre-suicidio-con-chatgpt-cada-semana.html
- https://www.barrons.com/articles/openai-afirma-que-un-millon-de-usuarios-de-chatgpt-hablan-sobre-suicidio-abeb3c97
- https://www.infobae.com/tecno/2025/10/28/openai-revela-que-mas-de-un-millon-de-usuarios-usan-chatgpt-para-hablar-sobre-el-suicidio-semanalmente/
- https://agencia.unq.edu.ar/?p=32329
- https://www.ambito.com/tecnologia/mas-un-millon-usuarios-chatgpt-presentan-signos-crisis-psicotica-segun-openai-n6207366
- https://theairevolution.news/chatgpt-detecta-senales-de-suicidio-en-una-de-cada-667-conversaciones/
- https://www.clarin.com/internacional/medio-millon-usuarios-chatgpt-muestran-senales-graves-salud-mental_0_KGp69qlMbn.html
- https://www.larazon.es/tecnologia-consumo/mas-millon-personas-hablan-suicidio-chatgpt-cada-semana_202510296901e4a9744eb0288cfe6035.html?outputType=amp
0 comentarios