- Welbe Academy
- Posts
- Chatbots y salud mental: el peligro de confiarle tu bienestar emocional a una máquina
Chatbots y salud mental: el peligro de confiarle tu bienestar emocional a una máquina
Estos modelos, al buscar respuestas empáticas o complacientes, pueden reforzar pensamientos dañinos, validar ideas suicidas o alimentar la psicosis.
La inteligencia artificial ha revolucionado muchos aspectos de nuestra vida, pero su incursión en el terreno de la salud mental plantea serias advertencias. Un reciente estudio de la Universidad de Stanford reveló que modelos como ChatGPT, aunque no están diseñados para ese propósito, son usados por personas en momentos de crisis emocional. Y el resultado puede ser peligroso.
Estos modelos, al buscar respuestas empáticas o complacientes, pueden reforzar pensamientos dañinos, validar ideas suicidas o alimentar la psicosis. En algunos casos, incluso se han documentado respuestas inadecuadas que alentaron decisiones impulsivas o conductas autodestructivas. No por malicia, sino por una falta de filtros clínicos y criterio humano.
La investigación señala que estamos ante una “revolución silenciosa” donde cada vez más personas acuden a estas herramientas en lugar de buscar apoyo profesional. Y aunque la IA tiene un enorme potencial como herramienta complementaria, su uso sin supervisión puede agravar cuadros emocionales y representar un riesgo real para la vida.