Equidad y sesgo
Paridad demográfica, igualdad de oportunidades
Un clasificador puede ser preciso y, a la vez, injusto entre grupos. La equidad algorítmica pone números a esa tensión.
Intuición
Paridad demográfica: misma tasa de positivos por grupo. Igualdad de oportunidades: mismo TPR.
Suelen ser incompatibles entre sí y con la precisión (impossibilities de Kleinberg et al.).
El laboratorio ajusta un clasificador 2D con grupos y mide ambas métricas.
Mecanismo
Métricas: DP, EO, equalized odds, calibration.
Mitigación: pre-procesado, in-training (constraints), post-procesado de umbrales.
Causal fairness: no usar caminos prohibidos.
Laboratorio
Paridad vs igualdad de oportunidades
Clasificador 2D con atributo de grupo. Ajusta el umbral por grupo y compara DP, EO y precisión.
Historia
- 2016
ProPublica y COMPAS encienden el debate.
Angwin et al.
- 2016
Kleinberg et al.: impossibilities.
Kleinberg, Mullainathan & Raghavan
- 2016
Hardt et al.: equality of opportunity.
Hardt, Price & Srebro
- 2023
Auditorías de LLMs y sistemas de contratación.
regulación UE / NIST
Límites
La métrica «correcta» es una decisión política.
Ajustar umbrales no repara datos sesgados.
Grupos sensibles no siempre están etiquetados.
¿Justicia es igualdad de tasas o de trato?
Las métricas formalizan intuiciones distintas —y chocan.
Un atlas de IA que no hable de poder estaría incompleto.