Información y educación
Puede ayudar a organizar información general y explicar conceptos complejos con un lenguaje más accesible, siempre que se verifique su exactitud.
Divulgación e investigación
Inteligencia artificial y salud mental: posibilidades, límites y riesgos.
La inteligencia artificial generativa puede organizar información, facilitar algunas tareas y abrir nuevas líneas de investigación. Sin embargo, una respuesta fluida o convincente no equivale a comprensión clínica ni garantiza que la información sea correcta.
Juan Blesa Robles es doctorando en Psicología en la Universidad de Córdoba y su línea actual de investigación aborda la inteligencia artificial generativa en salud mental.
Sesiones disponibles en español e inglés
Un punto de partida
Una respuesta que suena humana sigue siendo una respuesta generada por un sistema.
La IA generativa aprende patrones de grandes conjuntos de datos para producir texto, imágenes u otros contenidos. Los modelos conversacionales pueden mantener un diálogo plausible, pero eso no significa que comprendan una historia personal en sentido clínico ni que puedan asumir responsabilidad profesional.
Muchas herramientas generalistas se utilizan para buscar apoyo emocional aunque no hayan sido diseñadas ni evaluadas específicamente para salud mental. La OMS ha señalado la necesidad de estudiar sus efectos, incorporar supervisión, proteger a las personas vulnerables y mantener el bienestar humano en el centro.
Posibilidades que deben evaluarse
La IA puede apoyar tareas concretas sin convertirse en terapeuta.
Tareas administrativas
Puede reducir carga en documentación o procesos repetitivos si existe un uso definido, protección de datos y revisión humana.
Formación
Puede generar ejemplos o simulaciones para aprender, pero los materiales requieren revisión porque también puede inventar o simplificar en exceso.
Investigación
Puede ayudar a organizar, resumir o explorar información científica, sin sustituir la metodología, la comprobación de fuentes, la revisión por pares ni el juicio investigador.
Riesgos que conviene conocer
Que una respuesta resulte convincente no demuestra que sea fiable.
Información falsa
Puede inventar datos, referencias o explicaciones y presentarlos con seguridad. A este fenómeno se le suele llamar confabulación o alucinación del modelo.
Sesgos y desigualdad
Puede reproducir sesgos presentes en sus datos y funcionar de manera distinta según el idioma, la cultura o la población.
Privacidad
La información introducida en un chatbot no tiene necesariamente las mismas garantías que los datos tratados dentro de una consulta sanitaria.
Falta de contexto clínico
No realiza por sí solo una evaluación completa de historia, funcionamiento, riesgos, comunicación no verbal y circunstancias personales.
Exceso de confianza
Las personas pueden atribuir al sistema comprensión, autoridad o capacidades que no posee y depender demasiado de sus respuestas.
Dependencia emocional
La antropomorfización de un chatbot puede favorecer confusión sobre su naturaleza o una vinculación que desplace relaciones y apoyos humanos.
Respuesta insuficiente ante crisis
Un chatbot generalista no es un servicio de emergencias, no puede comprobar la seguridad de una persona ni garantizar una derivación adecuada.
Responsabilidad poco clara
Una herramienta puede generar una recomendación, pero no asume la responsabilidad clínica, ética y legal de un profesional sanitario.
Criterios de uso
Algunas precauciones reducen riesgos, aunque no los eliminan.
Información, no diagnóstico
Utiliza estas herramientas para cuestiones generales, no para confirmar o descartar ansiedad, depresión u otro problema psicológico.
Verificar antes de decidir
Comprueba las afirmaciones relevantes en fuentes oficiales o con un profesional cualificado, especialmente si afectan a tu salud.
Proteger datos sensibles
Evita introducir nombres, historias clínicas, documentos o información de terceras personas y revisa las condiciones de privacidad del proveedor.
Mantener supervisión humana
No cambies medicación, tratamiento o decisiones importantes basándote únicamente en una respuesta automatizada.
Mayor cautela con menores
Los adolescentes pueden atribuir cualidades humanas a estos sistemas o utilizarlos en momentos de vulnerabilidad; el acompañamiento adulto y profesional sigue siendo esencial.
Ética y gobernanza
En salud, innovar también exige proteger autonomía, seguridad y equidad.
La OMS propone proteger la autonomía, promover el bienestar y la seguridad, asegurar transparencia, mantener responsabilidad humana, favorecer la inclusión y evaluar de forma continua los sistemas de IA aplicados a la salud.
En la Unión Europea, la regulación de la IA adopta un enfoque basado en el riesgo y establece obligaciones diferentes según el uso previsto. Esto refuerza una idea básica: una herramienta de productividad general no debe tratarse automáticamente como una herramienta clínica validada.
La línea doctoral de Juan Blesa
Investigar antes de prometer.
Juan es doctorando en Psicología en la Universidad de Córdoba. Su línea de investigación en curso estudia la inteligencia artificial generativa en el ámbito de la salud mental.
Ser doctorando no equivale a disponer ya de resultados ni convierte una herramienta generalista en un tratamiento. Esta página se actualizará cuando exista evidencia pública que pueda comunicarse con rigor; hasta entonces, no se atribuyen conclusiones, publicaciones ni un método propio.
La atención de Pulso en Cauce sigue siendo una relación entre una persona y un profesional. Las sesiones pueden realizarse presencialmente en Córdoba u online, en español o en inglés.
Preguntas frecuentes
Preguntas frecuentes sobre IA y salud mental
Respuestas claras para utilizar estas herramientas sin confundir información, acompañamiento y atención psicológica.
01¿Puede la inteligencia artificial sustituir a un psicólogo?
No. Puede proporcionar información o apoyar tareas concretas, pero no sustituye una evaluación clínica, una relación terapéutica, el conocimiento del contexto ni la responsabilidad de un profesional sanitario.
02¿Puede ChatGPT diagnosticar ansiedad o depresión?
No debería utilizarse para establecer o descartar un diagnóstico. Los síntomas pueden tener causas diferentes y necesitan valorarse según su duración, intensidad, impacto, riesgos y contexto personal.
03¿Hablar con un chatbot es confidencial como hablar con un psicólogo?
No necesariamente. La confidencialidad profesional y las garantías aplicables a los datos de una consulta sanitaria no son equivalentes a las condiciones de privacidad de una herramienta tecnológica. Evita compartir datos identificativos o documentación clínica.
04¿La IA se equivoca siempre?
No, pero puede presentar respuestas correctas y erróneas con un tono igualmente convincente. La apariencia de seguridad no demuestra fiabilidad, por lo que las afirmaciones importantes deben verificarse.
05¿Puede utilizarse como apoyo en terapia?
Algunas aplicaciones podrían apoyar tareas concretas si cuentan con un propósito definido, evidencia suficiente, protección de datos, supervisión humana y garantías éticas. Eso es diferente de sustituir la terapia por un chatbot generalista. Pulso en Cauce no ofrece terapia mediante IA.
06¿Qué investiga Juan Blesa sobre este tema?
Su línea doctoral en la Universidad de Córdoba aborda la inteligencia artificial generativa en salud mental. Es una investigación en curso: esta página no presenta resultados propios, publicaciones ni conclusiones que todavía no existen.
07¿Es recomendable que un adolescente use IA como apoyo emocional?
Una herramienta generalista no sustituye el apoyo de adultos de confianza ni la atención profesional. Con menores conviene extremar la cautela por los riesgos de privacidad, información incorrecta, dependencia emocional y respuesta insuficiente ante situaciones de riesgo.
08¿Puedo recibir atención psicológica en inglés?
Sí. Pulso en Cauce ofrece sesiones presenciales en Córdoba y online, tanto en español como en inglés. La atención la realiza un profesional; no es una terapia proporcionada por inteligencia artificial.
Fuentes y lecturas
Fuentes y lecturas
Referencias utilizadas para elaborar y revisar esta información.
- Organización Mundial de la Salud. Llamamiento a una IA segura y ética para la salud
- Organización Mundial de la Salud. Ética y gobernanza de la IA para la salud: modelos multimodales
- Organización Mundial de la Salud. Hacia una IA responsable para la salud mental y el bienestar
- National Institute of Standards and Technology. Perfil de gestión de riesgos para IA generativa
- Unión Europea. Reglamento de Inteligencia Artificial de la Unión Europea
- Ministerio de Sanidad. Línea 024 de atención a la conducta suicida
Pulso en Cauce
Encontrar dirección puede empezar por una conversación.
La primera sesión es un encuentro breve, gratuito y sin compromiso para conocernos, resolver dudas y valorar si este espacio encaja contigo.