|
Getting your Trinity Audio player ready...
|
En la última década, la inteligencia artificial (IA) ha irrumpido en el ámbito de la medicina con la promesa de mejorar el diagnóstico, personalizar tratamientos y optimizar la gestión de recursos. Sin embargo, la realidad es que muchos sistemas de IA se entrenan con datos que reflejan una visión estrecha y sesgada de la población: el llamado “varón blanco estándar”. Este sesgo de género y etnia se traduce en decisiones clínicas que pueden ser inexactas o incluso perjudiciales para mujeres y personas de grupos étnicos distintos. A continuación, se analizan los orígenes del problema, sus consecuencias y las vías para mitigar el sesgo de género en la salud impulsada por IA.
1. ¿Por qué la IA reproduces el “varón blanco estándar”?
1.1. Conjuntos de datos desbalanceados
Los algoritmos de aprendizaje automático aprenden a partir de grandes volúmenes de datos clínicos: historiales médicos, imágenes radiológicas y resultados de pruebas de laboratorio. En muchos países, los registros históricamente están dominados por pacientes masculinos de edad media y de origen europeo. Esto se debe a factores como la mayor participación de hombres en estudios clínicos, la subrepresentación de mujeres en ensayos farmacéuticos y la falta de inclusión de minorías étnicas en bases de datos hospitalarias.
1.2. Variables de referencia sesgadas
Los valores de referencia para biomarcadores (por ejemplo, creatinina, hemoglobina) y los rangos normales de pruebas diagnósticas a menudo se establecen a partir de poblaciones mayoritariamente masculinas. Cuando la IA utiliza esos valores como referencia, tiende a considerar “normal” lo que corresponde al cuerpo del varón blanco, ignorando diferencias fisiológicas legítimas en mujeres y en otros grupos.
1.3. Falta de anotación de género y raza
Muchos conjuntos de datos no registran de manera explícita el género o la etnia del paciente, o lo hacen de forma binaria y simplificada. Sin esta información, los modelos no pueden aprender patrones específicos de género o raza, lo que lleva a una “capa de invisibilidad” para esos grupos.
2. Consecuencias clínicas del sesgo de género
2.1. Diagnóstico tardío o erróneo
Estudios han demostrado que los algoritmos de detección de enfermedad cardiovascular entrenados mayor mayor datos masculinos subestiman el riesgo en mujeres. Como resultado, mujeres con síntomas atípicos pueden recibir diagnósticos tardíos, lo que aumenta la mortalidad y la morbilidad.
2.2. Tratamientos inadecuados
Los modelos que predicen la respuesta a fármacos pueden sobreestimar la eficacia en hombres y subestimar los efectos adversos en mujeres. Un ejemplo es la dosificación de anticoagulantes, donde la IA basada en datos de hombres puede llevar a una sobredosificación en mujeres, incrementando el riesgo de hemorragias.
2.3. Desigualdad en la asignación de recursos
Los sistemas de IA que priorizan pacientes para trasplantes, cuidados intensivos o pruebas de detección pueden favorecer a los perfiles “normales” (varón blanco) y relegar a mujeres y minorías a listas de espera más largas, perpetuando inequidades estructurales.
3. Casos emblemáticos
3.1. Algoritmo de riesgo de enfermedad renal
Un algoritmo desarrollado por una empresa de salud estadounidense utilizó costos de atención como proxy de la enfermedad renal crónica. Dado que los hombres tienden a incurrir en mayores costos médicos, el modelo subestimó la enfermedad renal en mujeres, que a menudo reciben menos atención costosa pese a presentar la misma gravedad de la enfermedad.
3.2. Modelos de detección de cáncer de mama
Algunos sistemas de IA para la mamografía fueron entrenados con imágenes de mujeres de ascendencia europea y de edad media. Cuando se aplicaron a mujeres de origen asiático o afrodescendiente, la precisión disminuyó significativamente, aumentando tanto falsos positivos como falsos negativos.
3.3. Evaluación de dolor en entornos de urgencias
Investigaciones han revelado que los algoritmos que analizan notas clínicas para estimar el nivel de dolor tienden a asignar puntuaciones más bajas a mujeres, basándose en patrones de expresión verbal que difieren de los de los hombres. Esto puede resultar en una analgesia insuficiente y en una atención menos empática.
4. Estrategias para mitigar el sesgo de género
4.1. Recolección de datos inclusivos
- Muestreo balanceado: Garantizar que los conjuntos de datos contengan proporciones equitativas de hombres y mujeres, así como de diferentes grupos étnicos.
- Anotación de género y etnia: Registrar de forma explícita y respetuosa la identidad de género (incluyendo opciones no binarias) y la etnia del paciente.
- Datos longitudinales: Incorporar historiales a largo plazo que reflejen cambios fisiológicos a lo largo de la vida, como el embarazo, la menopausia y la terapia hormonal.
4.2. Técnicas de entrenamiento con sesgo controlado
- Reponderación de muestras: Asignar pesos mayores a los datos de grupos subrepresentados durante el entrenamiento del modelo.
- Aprendizaje adversarial: Utilizar redes adversarias que penalicen la capacidad del modelo de predecir el género, forzándolo a aprender representaciones más neutrales.
- Desagregación de resultados: Evaluar el desempeño del modelo por subgrupos (género, raza, edad) y ajustar los hiperparámetros para equilibrar la precisión.
4.3. Auditorías y transparencia
- Informes de sesgo: Publicar métricas de desempeño desglosadas por género y raza antes del despliegue.
- Explicabilidad: Emplear técnicas de interpretación (SHAP, LIME) para identificar qué variables influyen en las decisiones y detectar posibles correlaciones sesgadas.
- Revisión externa: Involucrar a comités de ética y a organizaciones de defensa de los derechos de la mujer y de minorías para validar los sistemas.
4.4. Educación y cultura organizacional
- Capacitación del personal: Formar a los científicos de datos, médicos y administradores en la identificación y mitigación del sesgo.
- Políticas de contratación diversa: Fomentar equipos multidisciplinarios que incluyan a mujeres y personas de diferentes orígenes, lo que enriquece la perspectiva en la fase de diseño.
- Incentivos regulatorios: Promover regulaciones que exijan la evaluación de sesgo de género como condición para la aprobación de sistemas de IA en salud.
5. El papel de la legislación y los estándares internacionales
5.1. Directrices de la OMS y la UE
La Organización Mundial de la Salud (OMS) ha publicado recomendaciones para la inclusión de género en la investigación biomédica, mientras que la Unión Europea, través del Reglamento de IA, exige evaluaciones de impacto en derechos fundamentales, incluyendo la igualdad de género. Estas normativas pueden servir como marco para la auditoría de sesgos.
5.2. Normas de interoperabilidad
Los estándares como FHIR (Fast Healthcare Interoperability Resources) permiten la codificación estructurada de datos de género y etnia, facilitando la creación de bases de datos más representativas y la interoperabilidad entre sistemas de IA.
5.3. Responsabilidad legal
Los pacientes pueden presentar demandas por discriminación si se demuestra que un algoritmo de IA ha causado daño por sesgo de género. La jurisprudencia emergente está definiendo la responsabilidad de los desarrolladores y de las instituciones de salud, lo que impulsa la necesidad de prácticas de desarrollo responsable.
6. Futuro: IA ética y centrada en la equidad de sexo
6.1. Modelos de IA “federados” con privacidad
El aprendizaje federado permite entrenar modelos en datos locales sin transferir la información a un servidor central, lo que facilita la inclusión de datos de hospitales de distintas regiones y con diferentes composiciones demográficas, reduciendo el sesgo.
6.2. Incorporación de conocimientos clínicos y sociales
Combinar datos biométricos con variables sociales (determinantes de salud, acceso a recursos) puede ayudar a los algoritmos a contextualizar los riesgos y evitar decisiones basadas exclusivamente en patrones fisiológicos que favorecen al varón blanco.
6.3. Herramientas de detección automática de sesgo
Plataformas emergentes ofrecen módulos de detección automática de sesgo que analizan los datos de entrenamiento y los resultados del modelo, proporcionando alertas tempranas y recomendaciones de ajuste.
6.4. Participación de la comunidad
Involucrar a pacientes y organizaciones de la sociedad civil en la co?creación de sistemas de IA garantiza que las necesidades y perspectivas de mujeres y grupos minoritarios sean consideradas desde el inicio.
7. Conclusiones
El sesgo de género en la inteligencia artificial aplicada a la salud no es un problema técnico aislado; es una manifestación de desigualdades históricas y estructurales que se replican en los algoritmos cuando se entrenan con datos sesgados. Para evitar que la IA refuerce el “varón blanco estándar”, es imprescindible adoptar un enfoque integral que combine:
- Datos representativos y anotados de forma adecuada.
- Técnicas de entrenamiento y evaluación que prioricen la equidad.
- Auditorías transparentes y regulaciones que exijan rendición de cuentas.
- Cultura organizacional que valore la diversidad y la inclusión.
Solo mediante la convergencia de estos esfuerzos se podrá garantizar que la IA sea una herramienta que mejore la salud de toda la población, sin importar su género, raza o origen étnico. La transformación hacia una medicina verdaderamente personalizada y justa depende de la voluntad colectiva de investigadores, clínicos, legisladores y pacientes para reconocer y corregir los sesgos que, de otro modo, seguirían perpetuándose bajo la fachada de la innovación tecnológica.
Generado por inception
