Sesgo Algorítmico en Chatbots Terapéuticos: Riesgos 2026

📅 Última actualización: 13 de abril de 2026

📅 Última actualización: 22 de febrero de 2026 · Revisado por el equipo de ChatbotPsicólogo.com

¿Qué es el sesgo algorítmico en salud mental?

Los modelos de lenguaje que alimentan a los chatbots terapéuticos se entrenan con enormes cantidades de texto procedentes de internet. Y esos textos reflejan, inevitablemente, los sesgos de la sociedad que los produjo. Cuando un chatbot de salud mental hereda esos sesgos, las consecuencias pueden ser especialmente dañinas en un contexto donde la persona se encuentra emocionalmente vulnerable y deposita su confianza en una herramienta que debería tratarla con equidad.

El sesgo algorítmico se produce cuando un sistema de IA trata de forma desigual a distintos grupos de personas sin justificación clínica. En el contexto de los chatbots terapéuticos, esto puede manifestarse de varias formas: respuestas menos empáticas ante ciertos acentos o dialectos del español, suposiciones culturales sobre la familia o las relaciones que no aplican a todos los usuarios, falta de comprensión de experiencias específicas de discriminación o una tendencia a minimizar ciertos problemas que afectan de forma desproporcionada a determinadas comunidades.

Por ejemplo, un chatbot entrenado principalmente con datos de poblaciones occidentales de clase media podría no entender adecuadamente el estrés asociado a la migración, las microagresiones raciales o las dinámicas familiares propias de otras culturas. Esto no es una limitación teórica: estudios recientes han documentado diferencias significativas en la calidad de las respuestas de modelos de lenguaje según el idioma y el contexto cultural del usuario. Investigadores de la Universidad de Stanford demostraron en 2024 que los modelos de lenguaje grandes mostraban una reducción de hasta el treinta por ciento en la calidad de sus respuestas empáticas cuando interactuaban en contextos culturales no anglófonos.

Esta desigualdad en la calidad del servicio resulta particularmente preocupante cuando hablamos de salud mental, un ámbito donde una respuesta inadecuada puede no solo fallar en ayudar, sino agravar activamente el sufrimiento de la persona. Si un usuario perteneciente a una minoría étnica expresa sentirse discriminado y el chatbot responde minimizando su experiencia o redirigiéndolo hacia técnicas genéricas de gestión del estrés, el daño potencial es considerable.

Cómo se generan los sesgos en los datos de entrenamiento

Para comprender el sesgo algorítmico es necesario entender cómo se entrenan los modelos que sustentan estos chatbots. La mayoría de los grandes modelos de lenguaje se alimentan de textos recopilados de internet: páginas web, foros, redes sociales, artículos de prensa y literatura académica. El problema fundamental es que internet no representa de forma equilibrada a todas las poblaciones. El contenido en inglés domina abrumadoramente, y dentro de cada idioma, las voces de ciertos grupos sociales están sobrerrepresentadas mientras que otras apenas aparecen.

En el caso del español, los datos de entrenamiento suelen estar sesgados hacia el español de España y de algunos países latinoamericanos con mayor presencia digital. Las variantes lingüísticas de comunidades indígenas, de regiones rurales o de personas con bajo nivel educativo formal quedan infrarrepresentadas. Cuando un chatbot terapéutico se entrena con estos datos, aprende a comunicarse de una forma que resulta natural para algunos usuarios pero alienante para otros.

Además, la literatura psicológica que alimenta los modelos está históricamente dominada por investigaciones realizadas con poblaciones WEIRD (Western, Educated, Industrialized, Rich, Democratic). Esto significa que las técnicas terapéuticas y los marcos de comprensión del malestar emocional que el chatbot aprende están culturalmente situados, aunque se presenten como universales. Un chatbot que sugiere técnicas de asertividad basadas en la comunicación directa puede resultar contraproducente para personas de culturas donde la comunicación indirecta es una norma social valorada.

Otro factor importante es el sesgo de etiquetado. Cuando los equipos de desarrollo anotan datos para entrenar al chatbot, sus propias perspectivas culturales influyen en cómo categorizan las emociones, qué consideran una respuesta apropiada y qué nivel de malestar requiere intervención. Si el equipo es culturalmente homogéneo, estas decisiones de etiquetado reflejarán una única perspectiva cultural que se impondrá a todos los usuarios.

Marco regulatorio europeo y español vigente en febrero de 2026.

Poblaciones especialmente afectadas por el sesgo

Las personas de comunidades LGTBI+ pueden encontrarse con chatbots que no comprenden sus experiencias específicas o que ofrecen respuestas basadas en marcos heteronormativos. Un chatbot que asume automáticamente que la pareja de un usuario es del sexo opuesto, o que no reconoce la disforia de género como una experiencia legítima, está fallando a una población que ya enfrenta barreras significativas para acceder a atención de salud mental culturalmente competente. Según datos de la Federación Estatal LGTBI+, más del cuarenta por ciento de las personas de este colectivo en España han experimentado discriminación al acceder a servicios de salud, lo que convierte a los chatbots en una alternativa potencialmente valiosa, pero solo si están diseñados con sensibilidad.

Las personas mayores también enfrentan barreras particulares. Muchos chatbots están diseñados con interfaces y patrones de conversación orientados a usuarios jóvenes y tecnológicamente nativos. El lenguaje que utilizan, la velocidad de las respuestas y las referencias culturales pueden resultar alienantes para personas de mayor edad. Además, las experiencias de soledad, duelo acumulado y deterioro cognitivo que son más frecuentes en esta población requieren un abordaje especializado que muchos chatbots no ofrecen. Si te interesa este tema, puedes consultar nuestro artículo sobre chatbots de psicología para personas mayores.

Los inmigrantes y expatriados que no dominan el idioma local constituyen otro grupo vulnerable. Un chatbot que no maneja bien ciertas variantes del español, que no comprende las expresiones coloquiales de determinadas regiones o que no reconoce el estrés específico del proceso migratorio puede ofrecer un servicio de calidad notablemente inferior. La barrera lingüística se convierte en una barrera terapéutica cuando el chatbot interpreta mal las palabras del usuario o responde con expresiones que este no comprende. Puedes leer más sobre esta problemática en nuestro artículo dedicado a chatbots de psicología para migrantes y expatriados.

Las personas con discapacidad enfrentan un doble desafío. Por un lado, muchos chatbots no son accesibles para usuarios con discapacidad visual, auditiva o motora, ya que sus interfaces no cumplen con los estándares de accesibilidad web (WCAG). Por otro lado, la mayoría no están preparados para adaptar sus intervenciones terapéuticas a personas con discapacidad intelectual que podrían beneficiarse enormemente de un apoyo emocional digital accesible y paciente. La intersección entre discapacidad y salud mental es un área donde los chatbots tienen un enorme potencial sin explotar, pero solo si se diseñan con inclusión desde el principio.

Las personas racializadas también experimentan sesgos específicos. Investigaciones han demostrado que algunos modelos de lenguaje asocian determinados grupos étnicos con estereotipos negativos, lo que puede traducirse en respuestas menos empáticas o en una tendencia a patologizar experiencias que son en realidad respuestas normales a la discriminación. Un chatbot que no distingue entre ansiedad clínica y la hipervigilancia legítima de una persona que sufre racismo cotidiano está fallando en su función terapéutica.

Casos documentados de sesgo en chatbots de salud mental

Aunque la investigación específica sobre sesgo en chatbots terapéuticos todavía es incipiente, existen ya casos documentados que ilustran el problema. En 2023, un estudio publicado en JMIR Mental Health evaluó las respuestas de varios chatbots terapéuticos ante escenarios que involucraban discriminación racial y encontró que la mayoría tendían a redirigir la conversación hacia técnicas genéricas de gestión del estrés sin reconocer la especificidad del malestar asociado a la discriminación.

Otro estudio de la Universidad de Cambridge analizó las respuestas de modelos de lenguaje ante descripciones de síntomas depresivos formuladas en diferentes variantes del inglés y encontró diferencias estadísticamente significativas en la calidad y la empatía de las respuestas según la variante utilizada. Aunque este estudio se centró en el inglés, los investigadores señalaron que es razonable esperar resultados similares o peores en otros idiomas con menor representación en los datos de entrenamiento.

En el ámbito de los chatbots específicamente diseñados para salud mental, Woebot ha sido relativamente transparente sobre sus esfuerzos por reducir sesgos, publicando información sobre la composición de sus equipos de desarrollo y sus procesos de evaluación. Sin embargo, incluso Woebot ha reconocido que sus intervenciones están principalmente diseñadas y validadas con poblaciones anglófonas, lo que limita su eficacia para usuarios de otros contextos culturales. Por su parte, chatbots como Yana, desarrollado en Latinoamérica, tienen la ventaja de haber sido diseñados desde el principio para hispanohablantes, aunque esto no los inmuniza automáticamente contra otros tipos de sesgo.

Cómo evaluar si un chatbot tiene sesgos problemáticos

Como usuario, hay varias señales que pueden indicar que un chatbot terapéutico no está gestionando bien la diversidad. La primera es la falta de personalización cultural: si el chatbot utiliza siempre los mismos ejemplos, las mismas referencias culturales y los mismos marcos para entender los problemas emocionales, probablemente no está adaptando su intervención a tu contexto específico.

Otra señal de alarma es la tendencia a minimizar experiencias de discriminación. Si compartes con el chatbot que te sientes mal por una experiencia de racismo, sexismo u homofobia y la respuesta se limita a técnicas de relajación sin reconocer la validez de tu malestar, el chatbot está mostrando un sesgo significativo. Una respuesta terapéuticamente competente debería primero validar la experiencia y reconocer su impacto emocional antes de ofrecer herramientas de afrontamiento.

También es importante observar si el chatbot hace suposiciones sobre tu identidad, tu situación familiar o tus valores. Un chatbot bien diseñado debería hacer preguntas abiertas en lugar de asumir, por ejemplo, que tienes una pareja del sexo opuesto, que vives con tu familia nuclear o que compartes determinados valores culturales. Para aprender más sobre cómo evaluar chatbots, consulta nuestra guía de los mejores chatbots de psicología.

Finalmente, presta atención a la capacidad del chatbot para reconocer sus propias limitaciones. Un chatbot éticamente responsable debería ser capaz de indicarte cuándo una situación excede su capacidad de ayuda y recomendarte buscar atención profesional, especialmente en contextos culturalmente complejos donde la intervención automatizada podría ser insuficiente o contraproducente.

Cómo se pueden reducir los sesgos algorítmicos

La solución al sesgo algorítmico en chatbots terapéuticos pasa por varias vías complementarias que deben abordarse simultáneamente. En primer lugar, los desarrolladores deben utilizar conjuntos de datos de entrenamiento diversos que representen adecuadamente diferentes culturas, idiomas, géneros, orientaciones sexuales, identidades de género, edades, niveles socioeconómicos y capacidades. Esto no significa simplemente añadir más datos, sino curar activamente los datos existentes para identificar y corregir desequilibrios.

Las pruebas de calidad deben incluir evaluaciones específicas con usuarios de grupos minoritarios. Esto implica reclutar testers diversos que puedan identificar respuestas inadecuadas o sesgadas que un equipo homogéneo podría pasar por alto. Algunas empresas están comenzando a implementar lo que se conoce como auditorías de sesgo, procesos sistemáticos de evaluación donde se somete al chatbot a escenarios diseñados para detectar respuestas desiguales según las características del usuario.

Los equipos de desarrollo deben ser diversos en sí mismos para poder identificar sesgos desde las fases más tempranas del diseño. Un equipo compuesto exclusivamente por ingenieros jóvenes de un mismo contexto cultural difícilmente podrá anticipar las necesidades de una persona mayor inmigrante con discapacidad visual. La diversidad en el equipo no es solo una cuestión de justicia social, sino una necesidad funcional para crear productos que sirvan a todos los usuarios.

Además, es fundamental incorporar mecanismos de retroalimentación accesibles que permitan a los usuarios señalar respuestas inadecuadas o sesgadas en tiempo real. Los chatbots que incorporan este tipo de feedback y lo utilizan para mejorar continuamente sus modelos están en una posición mucho mejor para reducir gradualmente los sesgos. Wysa, por ejemplo, incluye opciones para que el usuario indique cuando una respuesta no le ha resultado útil, lo que alimenta un ciclo de mejora continua.

Finalmente, los marcos regulatorios como el AI Act europeo están comenzando a exigir evaluaciones de impacto que incluyan el análisis de sesgos en sistemas de IA de alto riesgo, categoría en la que podrían entrar los chatbots de salud mental. Esta presión regulatoria, combinada con la demanda de los usuarios y la competencia del mercado, está creando incentivos para que las empresas se tomen en serio la reducción de sesgos.

La importancia de la supervisión clínica multicultural

Cualquier chatbot terapéutico serio debería contar con supervisión de profesionales de la psicología con formación específica en competencia cultural y diversidad. Esto no solo mejora la calidad del producto, sino que envía una señal clara de compromiso con la equidad. Los usuarios merecen saber que las herramientas que utilizan han sido diseñadas y evaluadas teniendo en cuenta la diversidad de las personas que las van a usar.

La competencia cultural en psicología implica reconocer que las experiencias de malestar emocional están profundamente influidas por el contexto cultural, que las manifestaciones de los trastornos psicológicos varían entre culturas, y que las intervenciones terapéuticas deben adaptarse al marco de referencia del paciente. Trasladar estos principios a un chatbot es un desafío técnico considerable, pero no imposible. Requiere que los psicólogos con formación multicultural participen activamente en el diseño de los flujos conversacionales, la selección de las intervenciones y la evaluación de las respuestas.

Algunos chatbots ya están avanzando en esta dirección. TerapIA (Pía), desarrollado por psicólogos españoles, ha incorporado desde su diseño una sensibilidad específica hacia el contexto cultural hispanohablante, lo que le permite ofrecer intervenciones más relevantes que las de chatbots traducidos del inglés. Sin embargo, incluso dentro del mundo hispanohablante existe una enorme diversidad cultural que un único chatbot difícilmente puede abordar de forma completa.

El futuro de los chatbots terapéuticos equitativos probablemente pase por modelos que combinen una base común de técnicas validadas con capas de personalización cultural que se activen según el perfil del usuario. Esto requeriría tanto avances técnicos en personalización como un compromiso sostenido con la investigación transcultural en psicología digital. Si quieres profundizar en las implicaciones éticas de estas tecnologías, te recomendamos nuestro artículo sobre la ética de la empatía artificial.

Perspectivas de futuro y recomendaciones finales

El ecosistema de chatbots terapéuticos está evolucionando rápidamente, y las herramientas que hoy consideramos avanzadas probablemente parecerán primitivas dentro de pocos años. Los avances en procesamiento del lenguaje natural, en detección emocional por voz y texto, en personalización adaptativa y en integración con dispositivos de monitorización fisiológica prometen chatbots cada vez más sofisticados y eficaces. Sin embargo, esta sofisticación tecnológica debe ir acompañada de supervisión clínica rigurosa, validación científica independiente y marcos regulatorios que protejan al usuario.

Para quien esté considerando usar un chatbot de salud mental, la recomendación principal es empezar con expectativas realistas. Un chatbot no va a resolver problemas psicológicos complejos ni a sustituir la terapia profesional, pero puede ser un aliado valioso para gestionar el estrés cotidiano, practicar técnicas de regulación emocional, mantener un seguimiento del estado de ánimo y acceder a apoyo inmediato en momentos de necesidad. La clave está en elegir una herramienta fiable, usarla con constancia y saber cuándo es momento de buscar ayuda profesional. Nuestra guía comparativa de chatbots puede orientarte en esta elección, y nuestro artículo sobre terapia online vs chatbot te ayudará a entender los límites de cada opción.

La salud mental es un derecho fundamental, y cualquier herramienta que contribuya a hacerla más accesible merece atención. Los chatbots terapéuticos no son la solución definitiva a la crisis de salud mental, pero forman parte de un ecosistema de recursos cada vez más amplio que, combinado adecuadamente, puede mejorar significativamente el bienestar emocional de millones de personas.

Preguntas frecuentes sobre sesgo algorítmico en chatbots terapéuticos

¿Todos los chatbots de salud mental tienen sesgos?

Sí, en mayor o menor medida. Todos los sistemas de IA entrenados con datos humanos heredan los sesgos presentes en esos datos. La diferencia está en el grado de sesgo y en los esfuerzos que cada desarrollador realiza para identificarlos y mitigarlos. Chatbots que han sido evaluados con poblaciones diversas y que cuentan con supervisión clínica multicultural presentan menos sesgos problemáticos.

¿Cómo puedo saber si un chatbot me está tratando de forma sesgada?

Presta atención a si el chatbot hace suposiciones sobre tu identidad, si minimiza experiencias de discriminación, si utiliza referencias culturales que no te representan o si sus sugerencias no encajan con tu contexto vital. Si sientes que el chatbot no te entiende de forma consistente, puede ser una señal de sesgo.

¿Los chatbots en español tienen más sesgos que los de inglés?

No necesariamente más, pero sí diferentes. Los chatbots entrenados principalmente en inglés y luego traducidos al español pueden perder matices culturales importantes. Los chatbots diseñados desde el inicio para hispanohablantes, como Yana o TerapIA, suelen manejar mejor el contexto cultural, aunque pueden tener sus propios sesgos hacia determinadas variantes del español.

¿Qué debo hacer si detecto una respuesta sesgada en un chatbot?

La mayoría de los chatbots incluyen opciones para reportar respuestas inadecuadas. Utiliza estos mecanismos de feedback siempre que detectes una respuesta sesgada. Si el chatbot no ofrece esta opción, considera cambiar a una alternativa que sí lo haga y, si lo consideras apropiado, informa al desarrollador a través de sus canales de contacto.

¿Existe algún chatbot terapéutico completamente libre de sesgos?

No. Eliminar completamente los sesgos de un sistema de IA es, con la tecnología actual, un objetivo inalcanzable. Lo que sí es posible y exigible es que los desarrolladores trabajen activamente para identificar, medir y reducir los sesgos más problemáticos, y que sean transparentes sobre las limitaciones de sus productos.

¿El sesgo algorítmico puede empeorar mi salud mental?

Sí, potencialmente. Un chatbot que invalida tus experiencias, que no comprende tu contexto cultural o que te ofrece intervenciones inadecuadas puede generar frustración, sensación de incomprensión e incluso reforzar creencias negativas sobre ti mismo. Si sientes que un chatbot no te está ayudando o que sus respuestas te hacen sentir peor, es importante dejarlo y buscar alternativas, ya sea otro chatbot más adecuado o un profesional humano.

¿Qué papel juega la regulación en la reducción de sesgos?

La regulación está empezando a jugar un papel importante. El AI Act de la Unión Europea clasifica los sistemas de IA en salud como de alto riesgo y exige evaluaciones de impacto que incluyan el análisis de sesgos. Aunque la implementación todavía está en fases iniciales, esta presión regulatoria está incentivando a las empresas a invertir más recursos en la detección y mitigación de sesgos algorítmicos.

La conciencia sobre el sesgo algorítmico es el primer paso para exigir herramientas de salud mental más justas, inclusivas y representativas de la diversidad humana.

Fuentes y referencias científicas

Para profundizar en la evidencia científica detrás de los temas tratados en este artículo, puedes consultar las siguientes fuentes de autoridad:

• American Psychological Association
• Organización Mundial de la Salud

Referencias científicas

1. Bickman, L. (2020). Improving Mental Health Services: A 50-Year Journey from Randomized Experiments to Artificial Intelligence. Administration and Policy in Mental Health, 47, 795-843. PubMed
2. Abd-Alrazaq, A.A., et al. (2021). Effectiveness and Safety of Using Chatbots to Improve Mental Health. Journal of Medical Internet Research, 22(7), e16021. PubMed

Equipo de Psicología Digital

Profesionales de la salud mental especializados en terapia online y bienestar emocional. Contenido revisado por psicólogos colegiados.

Sobre nosotros

<\!-- wp:html -->

<\!-- /wp:html -->

Daniel Bellido

Daniel Bellido es divulgador especializado en bienestar emocional y herramientas de apoyo psicológico basadas en IA, desde Córdoba (España).

See Full Bio