Para garantizar que los sistemas de IA operen con una perspectiva interseccional, es esencial intervenir en tres momentos clave del ciclo de vida de estos sistemas:

Configuración de bases de datos de entrenamiento. Las bases de datos son el corazón de los sistemas de IA. Además del empleo de datos históricos que reflejan desigualdades estructurales, el modo en que se etiquetan los datos (normalmente binario) y el grado de representatividad muy unido al desequilibrio entre categorías (infra o sobrerrepresentando a grupos) determinan en gran medida la calidad de los resultados. Esto es altamente relevante si se toma en consideración la elevada capacidad de procesamiento de datos y los múltiples usos de la IA que pueden expandir los efectos negativos respecto al respeto al derecho a la igualdad y no discriminación.

Identificado el problema, la adopción de medidas entraña algunos riesgos que resulta conveniente anticipar: i) la búsqueda de soluciones desde un enfoque top-down podría derivar en una epistemología colonizadora si no se entabla un proceso de diálogo con los sujetos situados en la periferia (Cubillos Almendra, 2015) y ii) la heterogeneidad de los datos podría disminuir el rendimiento de los modelos y con ello sus porcentajes de precisión (Guo y Caliskan, 2021). Pese a ello, y tratándose de unos riesgos que interpelan al impulso de procesos participativos y mejoras técnicas, pesan más las oportunidades que las amenazas. La incorporación de la interseccionalidad en el campo de la IA tiene una incidencia directa en la diversidad, la inclusión social y la no discriminación. Además, sería conveniente apostar por la creación de equipos interdisciplinares diversos para potenciar ‒orgánica y teóricamente‒ los análisis interseccionales (Ireni-Saban y Sherman, 2021).

Descubrimiento de correlaciones inesperadas. Una de las principales fortalezas de los modelos de aprendizaje automático es su capacidad para predecir un resultado o clase (supervisado) o identificar patrones (no supervisado) que a menudo escapan al análisis humano. El tratamiento de datos multidimensionales, la estimación de correlaciones (incluidas las no evidentes a simple vista), sumado a la lógica fundamentalmente inductiva, representa un valor añadido del aprendizaje automático en comparación con los modelos tradicionales que podría impulsar el desarrollo de enfoques interseccionales (Nelson, 2021). Algo que ya ocurre en el caso implementado de clasificadores que proporcionan una mayor protección a grupos minoritarios sin una pérdida significativa de rendimiento (Foulds et al., 2019).

Auditorías y supervisión continua. Las auditorías se constituyen como mecanismos para investigar la funcionalidad de los algoritmos y cumplen una función esencial respecto a la detección de sesgos y otros comportamientos no deseados de los sistemas de IA. Cumplen con la finalidad de certificar la confiabilidad de los algoritmos (Mohseni, Zarei y Ragan, 2021), una aspiración fundacional para el “Grupo Independiente de Expertos de Alto Nivel sobre Inteligencia Artificial” creado por la Comisión Europea en 2018.

Sin embargo, aunque se han producido avances en la demanda de más justicia, responsabilidad y transparencia en los modelos de aprendizaje automático, la ausencia de un enfoque interseccional en esta fase limita la exhaustividad de las evaluaciones (Constanza-Chock, 2018). No basta con situar a las personas en el centro de los desarrollos tecnológicos, sino que es fundamental considerar cómo interactúan los distintos ejes de identidad y opresión en su relación con estos sistemas. La equidad interseccional debe analizarse en múltiples niveles; se puede medir en las bases de datos, en los problemas de clasificación, en los resultados y en la robustez de las métricas elegidas, permitiendo una evaluación integral.