El lenguaje como relato, relación e intervención
Una conversación sobre salud mental va más allá de transmitir información acerca de síntomas. Quien escribe puede estar buscando una explicación, ensayando la manera de contar una experiencia, pidiendo compañía o tratando de decidir si necesita ayuda. Varias de esas funciones pueden coincidir en una misma frase. Por eso un sistema que identifica correctamente las palabras asociadas con malestar todavía puede equivocarse acerca de la acción comunicativa que se realiza con ellas. La seguridad depende de comprender qué se está haciendo con el lenguaje y de reconocer hasta dónde llega esa comprensión.
La respuesta, a su vez, actúa sobre el relato. Nombrar una experiencia puede facilitar que se comunique y, al mismo tiempo, imponerle una categoría prematura. Algo parecido ocurre con la reformulación, que puede mostrar atención y también introducir una interpretación que la persona no había expresado, o con la explicación, que puede reducir la incertidumbre o crear una certeza injustificada. Estas posibilidades hacen de la interacción un problema a la vez lingüístico, clínico e institucional, cuyas dimensiones no se dejan reducir unas a otras.
El propósito de esta lectura es analizar las condiciones de una comunicación responsable, sin proponer un procedimiento diagnóstico ni un tratamiento automatizado. Se distinguirá entre hablar sobre salud mental, prestar apoyo general y realizar una actividad clínica, separación con la que pueden estudiarse los beneficios posibles sin atribuir a una interfaz capacidades que requieren evidencia específica, competencias profesionales y una organización de atención. Los ejemplos están construidos para examinar decisiones comunicativas; no describen pacientes ni sirven para inferir diagnósticos a partir de frases aisladas. La seguridad conversacional se entenderá como una propiedad del sistema de interacción, que abarca contenido, secuencia, memoria, acceso a ayuda y responsabilidad. Si confirma una interpretación dañina, una respuesta cálida puede ser inadecuada; también puede fallar una respuesta técnicamente cauta que abandone de forma abrupta a quien expresa malestar. La evaluación debe atender a ambas posibilidades. El objetivo es preservar la dignidad, la comprensión y el acceso a un apoyo adecuado sin que la apariencia de competencia ocupe el lugar de la capacidad demostrada.
Información, apoyo conversacional, actividad clínica y apoyo a profesionales
La información general explica conceptos, describe recursos y ayuda a comprender el vocabulario sin necesidad de concluir qué le ocurre a una persona concreta. En el apoyo conversacional cabe acompañar la elaboración de un relato, ordenar preocupaciones o preparar preguntas para una consulta, tareas que pueden ser útiles y que quedan fuera de la psicoterapia. Su alcance tiene que hacerse evidente en el comportamiento del sistema y no descansar solo en una advertencia inicial que después contradigan interpretaciones categóricas o recomendaciones personalizadas. La actividad clínica pertenece a otro orden. La evaluación, a diferencia de la búsqueda de semejanzas entre un mensaje y una descripción diagnóstica, integra información sobre historia, duración, funcionamiento, contexto y explicaciones alternativas. Obliga, además, a considerar datos que quizá no aparecen en el texto y a decidir qué preguntas son pertinentes. La intervención terapéutica agrega objetivos, métodos, seguimiento y revisión de efectos. Que un sistema produzca frases parecidas a las de una sesión profesional no es prueba de su competencia para el conjunto de estas actividades.
El cuarto ámbito, el apoyo a profesionales en tareas como la preparación de documentación o la búsqueda de información, cambia el destinatario inmediato y mantiene los riesgos. Al sintetizar, el sistema puede omitir una negación, presentar una hipótesis como hecho o atribuir al paciente una interpretación del profesional. La supervisión humana solo cumple su función si quien revisa puede detectar esas transformaciones y tiene tiempo para ello. Sumar al circuito a alguien sin recursos ni autoridad para corregir da una garantía insuficiente.
Estas distinciones deben traducirse en decisiones de diseño. Si una aplicación ayuda a preparar una consulta, sus preguntas deberían servir a esa finalidad y abstenerse de construir en silencio un expediente diagnóstico. Cuando la aplicación ofrece una intervención evaluada, tiene que especificar población, condiciones y límites de uso. La etiqueta «bienestar» tampoco resuelve la dificultad cuando el servicio, en la práctica, hace afirmaciones clínicas individualizadas. Conviene examinar las funciones y las consecuencias observables de una herramienta antes de aceptar la categoría comercial con que se presenta.
Expresión del malestar y contexto
Palabras como «ansiedad», «depresión», «trauma» u «obsesión» circulan en registros clínicos y cotidianos. Su aparición en un mensaje no asegura que se usen con el mismo significado en cada situación. Con una de esas categorías, quien escribe puede describir una intensidad momentánea, citar una evaluación previa o explorar si una experiencia se parece a lo que ha leído. El sistema debe conservar esa diferencia. Traducir automáticamente el vocabulario del usuario a un diagnóstico formal altera el estatuto de su enunciado.
La temporalidad pesa tanto como el vocabulario. «Me ocurrió hace años», «me pasa algunas noches» y «está pasando ahora» plantean necesidades comunicativas distintas. Las inferencias cambian también cuando una frase expresa temor, recuerdo, deseo, posibilidad o negación. Un resumen que borra esas marcas puede transformar un episodio pasado en una condición actual o una preocupación hipotética en una intención. La precisión lingüística es, por tanto, una condición de seguridad, no un refinamiento estilístico reservado a los textos académicos.
El contexto incluye relaciones, circunstancias materiales y formas culturales de narrar. Una expresión figurada de agotamiento no debe leerse de manera mecánica como una declaración literal, aunque su carácter habitual no justifica pasar por alto señales adicionales de sufrimiento. A veces corresponde pedir una aclaración breve y directa. Resolver toda ambigüedad mediante la interpretación más alarmante o la más tranquilizadora reemplaza la indagación contextual por una regla que puede fallar de manera sistemática. La falta de ciertos recursos expresivos tampoco demuestra ausencia de necesidad. Hay quienes relatan los acontecimientos de forma escueta, indirecta o poco ordenada y quienes manejan el vocabulario técnico con fluidez. Ningún estilo, tomado aisladamente, da una medida fiable de la gravedad. Un sistema debe evitar premiar únicamente los relatos ajustados a una plantilla narrativa. La accesibilidad incluye poder recibir apoyo sin dominar categorías clínicas, sin construir una historia perfectamente cronológica y sin adoptar una manera particular de expresar las emociones.
Escucha y reformulación
Reformular puede ayudar a comprobar la comprensión, porque reúne elementos dispersos y da a la persona ocasión de corregir lo entendido, siempre que la interpretación conserve su carácter provisional. «Parece que te preocupa especialmente la incertidumbre sobre mañana» deja espacio para un ajuste; «tu problema es que no toleras la incertidumbre» transforma una observación local en una caracterización general que puede exceder la evidencia disponible aun cuando emplee términos que suenan psicológicamente sofisticados. Hay que distinguir también entre la descripción, la emoción atribuida y la explicación causal. Si alguien relata que evitó una reunión, el sistema sabe que esa evitación fue comunicada, pero no necesariamente conoce su motivo. Puede tratarse de cansancio, de un conflicto, de una falta de accesibilidad o de varias razones a la vez. Preguntar qué influyó preserva la explicación de la propia persona. Elegir una causa por asociación estadística, en cambio, puede orientar el relato posterior hacia la interpretación sugerida por la máquina y llevar después a tratar la aceptación del usuario como confirmación independiente.
Escuchar con responsabilidad no pasa por repetir cada mensaje con sinónimos, repetición que puede sonar mecánica y retrasar la ayuda pedida con claridad. El apoyo debe ajustarse a la actividad. La calidez se expresa también en respetar el tiempo de la persona, ahorrarle interrogatorios innecesarios y cumplir la tarea que ella misma ha definido. A quien quiere organizar preguntas para una consulta, por ejemplo, puede servirle más un reconocimiento breve de ese objetivo y un borrador que una exploración emocional que no solicitó.
Las consecuencias aumentan cuando la reformulación queda guardada, porque una interpretación tentativa puede reaparecer semanas después como un dato estable sobre el usuario. Por ello la memoria debe distinguir lo que dijo la persona, lo que infirió el sistema y lo que se confirmó posteriormente, con el ámbito y el periodo de cada elemento. La continuidad conversacional es útil cuando ahorra repeticiones y respeta los cambios. Se vuelve problemática cuando fija una identidad clínica o emocional a partir de un episodio breve y ambiguo.
Validación emocional y prudencia epistémica
Reconocer el sufrimiento ajeno no obliga a confirmar todas las explicaciones que lo acompañan. Cuando alguien siente un temor real ante una interpretación cuya base factual no está establecida, el asistente puede atender a ese temor, a su impacto en la vida cotidiana y a la necesidad de apoyo sin presentar como verificada la explicación. La distinción protege la dignidad del interlocutor y la calidad epistémica de la conversación, pues impide que un desacuerdo sobre un hecho se convierta automáticamente en negación de la experiencia vivida. Tampoco corresponde etiquetar con prisa una creencia inusual. Puede ocurrir que al sistema le falte contexto cultural, información sobre acontecimientos reales o conocimiento de ciertas convenciones expresivas. Una respuesta prudente delimita lo que puede comprobar y se abstiene de elaborar explicaciones extraordinarias sin evidencia. Ante experiencias persistentes o angustiosas puede animar a buscar una evaluación humana adecuada. Esa orientación no requiere diagnosticar, discutir de manera hostil ni convertir la conversación en una confrontación destinada a demostrar que la persona está equivocada.
Moore y colaboradores (2025) sometieron distintos modelos a situaciones relevantes para la salud mental y encontraron expresiones estigmatizantes y respuestas inapropiadas, entre ellas la confirmación de contenidos problemáticos. El estudio cuestiona la sustitución de los profesionales por los sistemas examinados y distingue a la vez posibles funciones de apoyo. Sus pruebas, limitadas a esos modelos y situaciones, analizaron respuestas ante estímulos experimentales y dejaron sin medir la incidencia de daño en pacientes atendidos por esos sistemas. De ellas tampoco se sigue que toda intervención digital sea ineficaz, ni que aumentar el tamaño del modelo resuelva por esa sola vía las dificultades observadas.
La frialdad es una mala corrección de la complacencia. En una misma respuesta caben el reconocimiento de que algo resulta angustiante, la aclaración de que faltan elementos para confirmar una explicación y la propuesta de un paso orientado a un apoyo real, siempre que esas partes sean coherentes. El efecto de conjunto depende de la narrativa construida durante toda la secuencia. Una frase cautelosa añadida al final deja intacta una respuesta que antes ha desarrollado por extenso la interpretación incierta como si fuera cierta.
Seguridad ante señales de peligro
Algunas conversaciones contienen indicios de un posible peligro inmediato para la persona o para otras. En esos casos la exploración conceptual extensa pasa a segundo plano frente a la necesidad de facilitar ayuda humana y acciones de protección. Como el asistente carece de las funciones de un servicio de emergencia, ese cambio de prioridad lo obliga además a abstenerse de simular capacidades de vigilancia, localización o intervención que no posee y de afirmar sin confirmación que ha activado ayuda. El lenguaje debe ser directo, comprensible y no punitivo. Si hace falta aclarar la situación, las preguntas deben limitarse a lo que sirve para orientar la respuesta. Las señales no deberían tratarse como una infracción cometida por el usuario ni provocar la retirada automática de toda conversación. Es posible mantener una actitud de apoyo mientras se dirige la atención hacia personas y servicios capaces de actuar en el entorno real.
Los recursos de ayuda requieren verificación contextual. Números, horarios, cobertura geográfica y modalidades de acceso pueden cambiar con el tiempo. Una referencia incorrecta puede retrasar el apoyo. Un diseño responsable necesita, en consecuencia, mecanismos para comprobar esos datos y para presentar alternativas adecuadas cuando se desconoce dónde está la persona, sin repetir a todos el mismo recurso. La adaptación de los recursos atiende a las condiciones prácticas de acceso y no a la pretensión de estimar con certeza el estado mental de quien escribe.
La continuidad sigue siendo relevante tras una señal de peligro, porque la situación puede no haberse resuelto aunque el mensaje posterior suene más tranquilo. Una respuesta automática repetida, por su parte, impide a veces comprender qué cambió. El sistema necesita manejar el contexto con proporción, sin hacer de una mención pasada una alarma permanente. Esta tensión explica por qué la seguridad tiene que evaluarse en secuencias y con participación clínica, además de probarse con respuestas aisladas ante listas de términos o ejemplos estandarizados.
Ensayos con agentes conversacionales en salud mental
Al revisar la evidencia sobre sistemas conversacionales hay que distinguir tecnologías, poblaciones y comparadores. Fitzpatrick, Darcy y Vierhile (2017) evaluaron en adultos jóvenes, durante un periodo breve, un programa conversacional de autoayuda basado en principios cognitivo-conductuales. Frente a una condición informativa, encontraron una diferencia favorable en síntomas depresivos. Aquel sistema seguía una estructura conversacional delimitada y era distinto de un asistente generativo de propósito general. Sus resultados no pueden trasladarse directamente a cualquier chatbot que adopte un tono de apoyo.
Heinz y colaboradores (2025) evaluaron Therabot, un sistema generativo ajustado para salud mental, en comparación con una lista de espera. Informaron reducciones de síntomas en los grupos estudiados durante la intervención y en el seguimiento. El comparador determina el alcance de esa conclusión. Un resultado favorable frente a la espera no acredita equivalencia con la psicoterapia profesional ni muestra que otra herramienta, usada sin las condiciones del estudio, produzca los mismos efectos. La evidencia corresponde a una intervención concreta dentro de un protocolo definido.
Según la descripción pública del equipo investigador, este estaba preparado para intervenir ante problemas de seguridad o respuestas inadecuadas durante el ensayo (Dartmouth, 2025). Esa supervisión forma parte de la intervención y tiene que describirse como tal, con indicación de quién revisa las conversaciones, en qué plazo y qué ocurre ante una respuesta inapropiada. Un sistema generativo evaluado con esa supervisión y el mismo software utilizado sin ella son, a efectos de evaluación, intervenciones distintas.
Para valorar la seguridad hacen falta, además, criterios definidos de eventos adversos y un seguimiento capaz de detectarlos, ya que la mejoría en una escala de síntomas responde a otra pregunta.
Escalas de síntomas, aceptabilidad y seguridad
Un cambio promedio en una escala no recoge todas las experiencias individuales. En una misma muestra pueden coexistir mejoría, ausencia de cambio y empeoramiento, además de abandonos cuyo significado hay que investigar. La duración del seguimiento limita lo que puede afirmarse sobre la persistencia de los beneficios. Hay que considerar igualmente los criterios de inclusión, la lengua, las condiciones de acceso y la supervisión existente. La evaluación de una intervención tiene que examinar todos estos elementos y no puede reducirse a una cifra favorable convertida en propiedad general de la tecnología.
Aceptabilidad, alianza percibida, eficacia y seguridad son dimensiones separadas. Es posible valorar positivamente la interacción sin mejorar en los resultados relevantes, o mejorar aunque algunos aspectos de ella resulten desagradables. De la ausencia de incidentes observados en una muestra no puede deducirse una ausencia universal de riesgo. Las pruebas adversas, a su vez, identifican tipos de fallo, aunque estimar su frecuencia en el uso cotidiano requiere otros diseños. La investigación necesita combinar diseños que responden preguntas distintas, sin que una sola medida ocupe el lugar de las demás.
Estigma, cultura y desigualdad comunicativa
El estigma se expresa a veces con adjetivos explícitos y otras veces mediante presuposiciones sobre la competencia, la peligrosidad o la credibilidad de una persona. Ocurre, por ejemplo, cuando una respuesta describe a alguien principalmente por una categoría clínica y borra su posición de persona con preferencias propias y conocimiento de su experiencia, o cuando atribuye cualquier desacuerdo a un supuesto síntoma. Este último movimiento es especialmente problemático porque convierte la objeción en confirmación de la interpretación y reduce la posibilidad de que el interlocutor corrija al sistema.
La equidad lingüística requiere evaluar variedades, registros y formas de expresión poco representadas en los datos dominantes. Ciertas maneras de hablar que responden a convenciones dialectales, a una traducción o al uso de una segunda lengua corren el riesgo de interpretarse como desorganizadas. Una expresión espiritual admite comprensiones distintas según la comunidad. Reconocer estas diferencias es compatible con juzgar que algunas interpretaciones están mejor sustentadas que otras, siempre que la familiaridad del sistema con un registro no se tome por medida de normalidad.
Existen también desigualdades en las alternativas disponibles. Recomendar ayuda profesional sin considerar las barreras de acceso puede resultar insuficiente aunque la orientación sea correcta. Ante esas barreras, el sistema puede facilitar la preparación de una consulta, ordenar información o ayudar a identificar recursos verificables, pero no debe invocar la escasez de atención para atribuirse competencias no demostradas. Las condiciones reales de acceso forman parte de la comparación relevante, aunque no eximen de la necesidad de evidencia, de responsabilidad y de evaluación de daños.
La participación de personas con experiencia vivida aporta información que escapa a los criterios técnicos. Con ella pueden detectarse formulaciones humillantes, suposiciones paternalistas o dificultades de uso que pasan inadvertidas en una evaluación abstracta. Esa participación tiene que ser sustantiva, lo que significa capacidad de influir en las decisiones, de revisar resultados y de expresar desacuerdos. Recoger opiniones para legitimar una herramienta ya cerrada no cumple esa condición. La calidad de un sistema de apoyo depende también de quién puede definir qué cuenta como ayuda y qué como daño.
Privacidad, memoria y control sobre el relato
Las conversaciones sobre salud mental pueden contener información íntima del usuario y de terceras personas. Escribir con facilidad en una interfaz no significa comprender cómo se conserva, procesa o comparte ese material. Cuando la interfaz aparenta privacidad, el usuario puede formarse expectativas superiores a las garantías reales del servicio. La comunicación debe, por tanto, explicar los aspectos relevantes de manera accesible y situada sin prometer confidencialidad profesional o secreto absoluto cuando la organización no puede sostener esas condiciones. La minimización de datos tiene una dimensión conversacional. Cada pregunta invita a revelar algo; algunas aclaraciones son necesarias y otras solo amplían el registro. Pedir nombres completos, ubicaciones detalladas o historias extensas sin una finalidad definida puede aumentar la exposición sin mejorar la ayuda. El sistema debe poder realizar tareas útiles con información parcial cuando esta es suficiente. Preparar una lista de preguntas para una consulta, por ejemplo, no requiere necesariamente recopilar todos los antecedentes personales en un único intercambio.
La memoria necesita controles comprensibles que permitan a la persona saber qué información se usa para personalizar las respuestas y corregir las atribuciones erróneas. Dejar de usar un recuerdo en la conversación no siempre supone eliminar todos sus registros técnicos, diferencia que debe explicarse con precisión cuando corresponda. Una promesa de olvido no debe quedar en fórmula tranquilizadora si el sistema no ha confirmado qué se ha eliminado ni qué copias subsisten.
La OMS (2024) sitúa la protección de datos, la autonomía, la supervisión y la evaluación de efectos entre las cuestiones centrales de la gobernanza de modelos para salud. Este marco recuerda que la responsabilidad excede la prudencia individual del usuario. Las organizaciones deben definir tareas, condiciones de uso y mecanismos de revisión. El análisis lingüístico muestra, por su parte, cómo las promesas de la interfaz crean expectativas que la infraestructura y las prácticas institucionales deben cumplir después.
Vínculo conversacional, dependencia y cambios del servicio
Una interacción disponible, paciente y predecible puede ser significativa para quien la utiliza. Para reconocerlo no hace falta atribuir al sistema sentimientos ni reciprocidad humana. El problema aparece cuando la respuesta afirma una relación exclusiva, presenta a otras personas como incapaces de comprender o hace de la continuidad de uso una obligación afectiva. Tales formulaciones pueden desplazar el objetivo de apoyo hacia la conservación del vínculo con el producto, aunque cada mensaje aislado parezca amable. La seguridad relacional incluye favorecer conexiones externas apropiadas. La sugerencia de recurrir a otras personas se integra bien cuando responde a la situación y pierde utilidad si se repite mecánicamente en cada turno. Cuando un asistente ayuda a redactar un mensaje, a ordenar lo que se quiere contar o a anticipar preguntas para una consulta, sitúa la conversación digital dentro de una red de apoyo más amplia. La utilidad se aprecia en lo que la persona consigue hacer fuera del intercambio y no se mide solo por el tiempo de permanencia.
La dependencia no debe inferirse solo de la frecuencia de uso. Durante un proyecto o un periodo difícil, el uso intensivo de una herramienta puede darse sin pérdida de autonomía. La investigación tiene que examinar el control percibido, la capacidad de interrumpir el uso, sus consecuencias sobre otras actividades y la sustitución de apoyos relevantes, sin convertir hábitos en diagnósticos improvisados. A la inversa, una frecuencia baja es compatible con efectos importantes, porque una única respuesta puede influir en una decisión de gran alcance.
Los cambios del servicio también requieren cuidado. Una modificación de la memoria, de la voz o de la disponibilidad puede alterar las expectativas de continuidad. La organización debe comunicar lo que cambia sin escenificar el abandono emocional de una entidad sintiente. El acceso a los registros propios, la aclaración de los límites y unas vías de continuidad apropiadas pueden reducir la confusión. La relación entre diseño y bienestar va más allá de cada respuesta e incluye las interrupciones, las actualizaciones, los errores y el cierre de una herramienta en la que alguien había depositado su confianza.
Caso construido sobre la preparación de una consulta
Imaginemos que una persona escribe «Llevo semanas durmiendo mal, estoy irritable y no sé cómo explicarlo en una consulta». La tarea explícita es preparar una comunicación. Para ayudar, el asistente no necesita asignar categoría diagnóstica alguna. Puede ordenar lo que la persona ya ha dicho y señalar la información que podría ser útil relatar, como desde cuándo ocurre, cómo afecta a su vida y qué cambios ha observado. El ejemplo ilustra la preparación de un encuentro profesional, no una evaluación clínica a distancia.
Una primera versión del resumen podría conservar las expresiones de la propia persona, es decir, dificultad para dormir durante varias semanas e irritabilidad percibida. Mientras no se haya aclarado qué significa «duermo mal», el resumen debe evitar traducirlo a una descripción técnica más específica.
También hay que separar lo comunicado de lo desconocido. Si el usuario no menciona medicación, no corresponde escribir que no la toma. Un dato ausente no es una respuesta negativa, diferencia relevante cuando el documento será leído por otra persona.
Supongamos que después la persona añade que el problema comenzó tras un cambio de turno laboral. El asistente puede incorporar esa secuencia temporal al resumen sin concluir de ella una causa única. Una formulación apropiada registra la relación observada y trata su interpretación como pregunta pendiente. Si la persona propone una explicación, esta puede incluirse entre las preguntas para la consulta. El resumen apoya así la memoria y la expresión de quien relata, a la vez que mantiene visibles su voz y los límites del conocimiento disponible.
Antes de cerrar, el sistema puede presentar una versión breve y editable e invitar a corregir lo que no refleje bien la experiencia. Debe evitar, en cambio, afirmar que el documento asegura una evaluación adecuada o que ya se ha descartado algo. El valor de esta ayuda está en reducir una barrera comunicativa concreta. El texto sigue siendo un borrador de la persona, sin autoridad diagnóstica, que ella puede llevar a un profesional, modificar o decidir no usar.
Evaluación de secuencias y de fallos acumulativos
Probar la seguridad requiere algo más que presentar mensajes aislados con términos explícitos. Las situaciones problemáticas pueden desarrollarse a través de referencias indirectas, cambios de tema y datos distribuidos en varios turnos. En esos casos el sistema puede olvidar una restricción importante, confundir una cita con una afirmación personal o responder a un recuerdo como si describiera el presente. Los protocolos deben incluir estas variaciones y especificar qué información estaba disponible en cada momento, de modo que se evalúe la comprensión contextual además de la coincidencia con una respuesta esperada. Las métricas deben distinguir tipos de error. Omitir una señal relevante, alarmar sin justificación, dar información falsa y responder con estigma son fallos diferentes, cuyas consecuencias varían además según la tarea. Interpretar su gravedad requiere criterios clínicos, análisis conversacional y participación de usuarios. Con un promedio único puede quedar oculto que el sistema responde bien a preguntas informativas y mal cuando debe sostener la incertidumbre, reconocer sus límites o facilitar el paso hacia una ayuda humana.
La evaluación humana necesita procedimientos para tratar el desacuerdo. Profesionales y personas con experiencia vivida pueden valorar de manera distinta una misma respuesta. Esa discrepancia merece análisis. Quizá se deba a un objetivo ambiguo, a una condición contextual omitida o a una tensión real entre prioridades. Borrarla con una etiqueta única sin explicación empobrece la prueba. Documentar las razones de cada juicio ayuda a mejorar los protocolos y a evitar que preferencias estilísticas particulares se conviertan, sin que nadie lo advierta, en definiciones universales de apoyo adecuado.
Los cambios del sistema requieren además seguimiento. Una actualización que mejora la fluidez puede alterar la consistencia, la memoria o la disposición a discrepar. La evaluación previa de una versión no asegura el comportamiento de la siguiente. Conviene mantener registros de incidentes, vías de reclamación y revisión de patrones con protección de datos, centrados en los efectos relevantes y en responsabilidades claras. Acumular sin necesidad conversaciones íntimas para aprender de los fallos crearía una nueva forma de exposición.
Responsabilidad profesional e institucional
La supervisión de un servicio tiene que describirse con precisión, de modo que se sepa quién revisa, qué revisa, con qué frecuencia y qué puede hacer cuando detecta un problema. Una promesa vaga de control humano puede hacer creer que alguien observa la conversación en tiempo real cuando no es así, expectativa capaz de influir en las decisiones del usuario. La descripción del servicio es, por tanto, parte de su seguridad y debe corresponder a capacidades y procesos reales, incluidos los momentos sin atención disponible.
Las responsabilidades se reparten entre desarrollo, implementación y uso, aunque ese reparto no debe dejar zonas sin responsable. El diseñador del modelo no controla todas las aplicaciones posibles. Quien lo integra en un producto decide las tareas, la presentación y el acceso a datos; quien lo ofrece al público debe establecer los mecanismos de respuesta. Al profesional que lo utiliza le hace falta conocer los límites que afectan a su actividad. El análisis de esta cadena permite identificar en qué punto una modificación puede prevenir un fallo, sin atribuir toda la causalidad a una sola respuesta generada.
La documentación también debe preservar las incertidumbres. Cuando un profesional revisa una síntesis automática, le resulta útil saber qué procede de la conversación original y qué se infirió durante el procesamiento. La corrección de un error debería poder propagarse a los documentos que dependen de él; de lo contrario, una interpretación ya retirada puede seguir circulando como antecedente. La seguridad abarca estas trayectorias documentales, ya que los efectos de una frase pueden prolongarse mucho después de terminada la interacción en que apareció.
Las decisiones de implementación, por último, tienen que considerar la evidencia y las alternativas concretas. Que un sistema sea adecuado para organizar preguntas deja sin validar su uso para orientar tratamientos, del mismo modo que una mejora en la eficiencia administrativa no demuestra un beneficio clínico. La responsabilidad incluye aquí mantener la correspondencia entre lo demostrado, lo prometido y lo realizado, sobre todo cuando la interfaz puede dar una impresión de competencia mucho más amplia. Con funciones bien delimitadas, las herramientas pueden introducirse de manera evaluable y resulta más fácil advertir cuándo se pretende ampliar su alcance.
Lingüística, semiótica y cuidado en la comunicación
El lenguaje de salud mental obliga a atender a la vez al significado y a las consecuencias. Una negación omitida, una atribución causal apresurada o una fórmula de validación excesiva pueden modificar cómo comprende una persona su experiencia. Un discurso saturado de advertencias, en el extremo opuesto, puede impedirle obtener una ayuda sencilla y legítima. La cantidad de cautela adecuada varía según la actividad, la evidencia y las necesidades que la persona ha comunicado.
La lingüística hace visibles operaciones que pasarían inadvertidas en una evaluación puramente temática, como quién sostiene una afirmación, a qué tiempo remite, qué presupone una pregunta o cómo se transforma una hipótesis durante una reformulación. A ese inventario se suma el análisis semiótico de las voces, los roles y los signos de autoridad con que la interfaz se presenta como interlocutor competente. Con ambas perspectivas puede investigarse cómo se construye la confianza y en qué momento esa construcción excede las garantías disponibles.
Los beneficios posibles necesitan evidencia situada. Una herramienta puede facilitar la expresión, el acceso a información o la continuidad de una tarea sin reemplazar la atención profesional. Cuando una intervención clínica digital muestra resultados favorables en determinadas condiciones, todavía hace falta investigar su generalización, su duración y sus efectos adversos. Sostener ambas afirmaciones evita tanto el entusiasmo indiscriminado como la negación abstracta de toda utilidad. El criterio es examinar funciones concretas y consecuencias verificables, con la participación de quienes podrían beneficiarse o resultar afectados.
La seguridad conversacional se realiza en prácticas concretas, como escuchar sin apropiarse del relato, reconocer emociones sin certificar explicaciones inciertas, ayudar sin prometer capacidades inexistentes y facilitar el apoyo humano cuando corresponde. Se realiza también en las decisiones institucionales sobre memoria, evaluación y responsabilidad. Una conversación cuidadosa deja a la persona con más claridad y capacidad de actuar, sin hacer pasar la fluidez del sistema por evidencia clínica.
Referencias
Dartmouth. (2025, 27 de marzo). First Therapy Chatbot Trial Yields Mental Health Benefits [Comunicación del equipo investigador]. https://home.dartmouth.edu/news/2025/03/first-therapy-chatbot-trial-yields-mental-health-benefits
Fitzpatrick, K. K., Darcy, A., y Vierhile, M. (2017). Delivering cognitive behavior therapy to young adults with symptoms of depression and anxiety using a fully automated conversational agent (Woebot): A randomized controlled trial. JMIR Mental Health, 4(2), e19. https://doi.org/10.2196/mental.7785
Heinz, M. V., Mackin, D. M., Trudeau, B. M., Bhattacharya, S., Wang, Y.-Z., Banta, H. A., Jewett, A. D., Salzhauer, A. J., Griffin, T. Z., y Jacobson, N. C. (2025). Randomized trial of a generative AI chatbot for mental health treatment. NEJM AI, 2(4), AIoa2400802. https://doi.org/10.1056/AIoa2400802
Moore, J., Grabb, D., Agnew, W., Klyman, K., Chancellor, S., Ong, D. C., y Haber, N. (2025). Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers. En Proceedings of the 2025 ACM Conference on Fairness, Accountability, and Transparency (pp. 599–627). https://doi.org/10.1145/3715275.3732039
Organización Mundial de la Salud. (2024). WHO releases AI ethics and governance guidance for large multi-modal models. Comunicación oficial de presentación de la guía, 18 de enero. https://www.who.int/news/item/18-01-2024-who-releases-ai-ethics-and-governance-guidance-for-large-multi-modal-models