Algorithmic fairness in practice: data, models and interactions

Abstract

The fast-growing adoption of technologies based on Machine Learning (ML), in addition to the large scale at which they operate, makes them a potential source of systematic discrimination against disadvantaged social groups. This thesis is framed within the topic of Algorithmic Fairness, which aims at detecting, characterizing and mitigating those inequalities replicated, amplified or created by such autonomous systems. The wide range of domains where ML systems are being incorporated drives the multidisciplinarity of this work, with contributions in fields as varied as social sciences in the study of Artificial Intelligence (AI), detection of mental health disorders or the real state market. At the same time, it contributes to different stages of the ML life-cycle, facilitating the creation of fairer ML-based systems. With the outcomes of this thesis, we expect to contribute to the further development of tools and mechanisms to assist practitioners into incorporating Algorithmic Fairness.

La rápida adopción de tecnologías basadas en Aprendizaje Automático (ML según sus siglas en inglés), en adición a la larga escala a la que estos sistemas operan, los convierte en una fuente potencial de discriminación sistemática en contra de los grupos sociales más desfavorecidos. Esta tesis se enmarca dentro del campo de Justicia Algorítmica, que estudia la detección, caracterización y mitigación de desigualdades replicadas, amplificadas o creadas por sistemas automáticos. El amplio rango de dominios en los que se están incorporando sistemas basados en Aprendizaje Automático conlleva la multidisciplinaridad de este trabajo, con contribuciones al estado del arte de campos de la investigación tan variados como el estudio de la Inteligencia Artificial (AI) desde el campo de las ciencias sociales, la detección de problemas de salud mental o plataformas online que operan en el mercado inmobiliario. Al mismo tiempo, contribuye a distintas etapas del ciclo de vida de los modelos de Aprendizaje Automático, buscando facilitar la creación de modelos más justos. Con los resultados de esta tesis, esperamos contribuir al desarrollo de herramientas y mecanismos que permitan asistir a los profesionales a incorporar Justicia Algorítmica en sus desarrollos e investigaciones.

La ràpida adopció de tecnologies basades en Aprenentatge Automàtic (ML segons les sigles en anglès), en addició a la llarga escala a què aquests sistemes operen, els converteix en una font potencial de discriminació sistemàtica en contra dels grups socials més desafavorits. Aquesta tesi s'emmarca dins del camp de Justícia Algorítmica, que estudia la detecció, caracterització i mitigació de desigualtats replicades, amplificades o creades per sistemes automàtics. L'ampli rang de dominis en què s'estan incorporant sistemes basats en Aprenentatge Automàtic comporta la multidisciplinaritat d'aquest treball, amb contribucions a l'estat de l'art de camps de recerca tan variats com l'estudi de la Intel·ligència Artificial (AI) des del camp de les ciències socials, la detecció de problemes de salut mental o plataformes en línia que operen al mercat immobiliari. Alhora, contribueix a diferents etapes del cicle de vida dels models d'aprenentatge automàtic, buscant facilitar la creació de models més justos. Amb els resultats d'aquesta tesi, esperem contribuir al desenvolupament d'eines i mecanismes que permetin assistir els professionals a incorporar Justícia Algorítmica als seus desenvolupaments i investigacions.

Programa de doctorat en Tecnologies de la Informació i les Comunicacions