Salud mental y la IA: los cinco riesgos de usar la herramienta como terapeuta desde la mirada de psicólogos sanjuaninos

Bonil sostuvo que estas herramientas pueden parecer empáticas, pero eso no significa que comprendan la historia, el contexto y la complejidad de una persona. Una respuesta puede resultar convincente sin contemplar todos los elementos necesarios para interpretar una situación particular.

En la misma línea, Alvo advirtió sobre la diferencia entre recibir un mensaje que parece comprensivo y contar con una evaluación clínica. La IA puede ofrecer información general, pero no necesariamente identificar la gravedad del malestar ni las particularidades de cada caso.

Sánchez agregó que la asistencia humana contempla aspectos que van más allá de las palabras que expresa una persona, como el contexto, la historia personal, las entrevistas con familiares y determinados indicadores verbales que los profesionales consideran durante una evaluación.

Por eso, los especialistas remarcan que una conversación automatizada no equivale a una consulta psicológica ni permite establecer por sí sola qué le ocurre a alguien o considerar algún diagnóstico.

• Recibir información incorrecta o respuestas inadecuadas

Otro de los inconvenientes que puede aparecer al usar IA en materia de salud mental es que la herramienta proporcione información equivocada o una orientación que no se ajuste a las circunstancias de quien consulta.

Pedrol explicó que la inteligencia artificial puede ofrecer respuestas incorrectas, reforzar interpretaciones sesgadas o responder de manera inadecuada ante una situación de riesgo. Esto puede resultar especialmente delicado cuando una persona utiliza esas respuestas para interpretar sus emociones o tomar decisiones sobre su bienestar.

El problema no se limita a que una respuesta contenga un error evidente. También puede ocurrir que la información parezca razonable, pero no contemple antecedentes, vínculos personales u otras circunstancias que modificarían la manera de abordar la problemática existente.

En ese sentido, los psicólogos distinguen entre utilizar la IA para acceder a información general y tomar sus respuestas como una orientación profesional individualizada, sin dimensionar sus eventuales consecuencias en el corto y mediano plazo.

• Postergar la consulta con un profesional

La facilidad para acceder a apps como ChatGPT o las IA conversaciones de redes sociales, entre otras puede llevar a algunas personas a buscar allí una contención inmediata y demorar el contacto con un profesional idóneo.

Alvo expresó su preocupación por quienes encuentran una aparente respuesta a su malestar y, a partir de eso, postergan la consulta profesional. También advirtió que una herramienta automatizada puede no reconocer la gravedad de lo que está atravesando una persona.

Pedrol coincidió en que el problema aparece cuando la IA se convierte en un sustituto de la evaluación profesional o en la única fuente de contención frente a un sufrimiento importante. “Una respuesta inmediata no siempre es una respuesta adecuada”, señaló.

• Exponer información íntima y datos personales

Las conversaciones sobre salud mental suelen incluir información sensible vinculada a conflictos familiares, dificultades de pareja, experiencias dolorosas, preocupaciones personales o situaciones que una persona no compartiría públicamente. Por eso, otro de los riesgos señalados por los profesionales está relacionado con la privacidad de los datos que se ingresan en estas plataformas.

Bonil trasladó esta advertencia al ámbito de las organizaciones, donde el uso de herramientas automatizadas para interpretar estados emocionales o tomar decisiones sobre las personas exige especial cuidado. En este escenario, una de las precauciones es evitar compartir datos personales o detalles íntimos que permitan identificar a alguien sin conocer las condiciones de privacidad del servicio.

La comodidad de conversar con una herramienta no elimina la necesidad de evaluar qué información se está entregando.

• Quedarse en la respuesta sin explorar qué hay detrás del malestar

El quinto riesgo tiene que ver con la posibilidad de conformarse con una respuesta inmediata sin profundizar en las causas del sufrimiento.

Icazatti planteó que, cuando una persona expresa un dolor, aquello que identifica inicialmente como el origen de su malestar no siempre representa todo lo que necesita comprender. En ocasiones, detrás de la primera pregunta aparecen otros conflictos, inquietudes o interrogantes que todavía no pudo reconocer.

“La IA te puede dar todas las respuestas posibles a las preguntas que le hacés”, sostuvo. Sin embargo, consideró que el trabajo psicológico consiste también en revisar la pregunta inicial y explorar aquello que no aparece de manera evidente en el relato. Así la terapia puede llevar a una persona a formular preguntas más honestas, revisar sus propias interpretaciones y descubrir aspectos que permanecían ocultos. “La psicología es más profunda, es hablar de eso que no se ve, de hacer visible lo invisible”, resumió.

Desde esta perspectiva, el riesgo no consiste solamente en obtener una respuesta equivocada, sino también en creer que una explicación inmediata alcanza para comprender un problema que puede tener múltiples dimensiones.

Una herramienta complementaria, no un reemplazo de profesionales

Pese a las advertencias que se viene dando desde el ámbito de la salud mental desde el auge de la IA, los cinco profesionales reconocieron que la inteligencia artificial puede tener una utilidad concreta cuando se emplea con determinados límites.

La dificultad aparece cuando se le atribuyen capacidades que no tiene o se deposita en ella la responsabilidad de evaluar y acompañar situaciones complejas. Una respuesta automatizada puede ofrecer información, pero no sustituye el criterio clínico, el vínculo terapéutico ni la intervención profesional cuando resulta necesaria.