Recommender Systems represent a key instrument to convey consumption
of contents available on the Web. They enhance the engagement
among the users and the online platforms through algorithmic personalization.
Injecting non-natural interactions consequently cannot have only
beneficial effects. Indeed, amplifying and exaggerating human behaviors
leads to either the spread of extreme point of views (e.g. polarized or
controversial opinions) or the discrimination or mistreatment of a specific
group of ...
Recommender Systems represent a key instrument to convey consumption
of contents available on the Web. They enhance the engagement
among the users and the online platforms through algorithmic personalization.
Injecting non-natural interactions consequently cannot have only
beneficial effects. Indeed, amplifying and exaggerating human behaviors
leads to either the spread of extreme point of views (e.g. polarized or
controversial opinions) or the discrimination or mistreatment of a specific
group of individuals. In this thesis, we pose the attention on the importance
of auditing and mitigating the “algorithmic bias” generated by a
recommendation system, emphasizing its role on the networked interactions
of users and contents. Through empirical evidences we highlight
how the social graph, presenting biased network topology, when used as
input, can impact the algorithmic recommendations. This analysis allows
to add a perspective on the long-term impact of algorithmic suggestions,
leading to design a simulation model able to explain the “feedback-loop”
generated on social networks. Auditing the algorithmic bias facilitates the
design of strategies able to mitigate algorithmic risks in recommendation,
such as radicalization and unfairness. The results found in this thesis raise
critical observations about the impact of recommendation algorithms, and
hints of the need to design systems able to mitigate biases embedded in
data and algorithms, considering both short and long-term perspectives.
+
Los sistemas de recomendación representan un instrumento clave para
vehicular el consumo de contenidos disponibles en la Web. Mejoran el
vínculo entre los usuarios y las plataformas en línea a través de la personalización algorítmica. En consecuencia, la inyección de interacciones no
naturales no tiene sólo efectos positivos. La amplificación y exageración
de los comportamientos humanos conduce a la difusión de puntos de vista
extremos (por ejemplo, opiniones polarizadas o controvertidas) y a la
discriminación ...
Los sistemas de recomendación representan un instrumento clave para
vehicular el consumo de contenidos disponibles en la Web. Mejoran el
vínculo entre los usuarios y las plataformas en línea a través de la personalización algorítmica. En consecuencia, la inyección de interacciones no
naturales no tiene sólo efectos positivos. La amplificación y exageración
de los comportamientos humanos conduce a la difusión de puntos de vista
extremos (por ejemplo, opiniones polarizadas o controvertidas) y a la
discriminación o el maltrato de un grupo específico de individuos. En esta
tesis, se pone la atención en la importancia de auditar y mitigar el ”sesgo
algorítmico” generado por un sistema de recomendación, enfatizando su
función en las interacciones en redes de usuarios y de contenidos. A través
de evidencias empíricas evidenciamos cómo el grafo social, que presenta
una topología de red sesgada, puede impactar en las recomendaciones algorítmicas, cuando se utiliza como input. Este análisis permite añadir una
perspectiva sobre el impacto a largo plazo de las sugerencias algorítmicas,
llevando a diseñar un modelo de simulación que permite de explicar
el “feedback-loop” por las mismas en las redes sociales. La comprobación
del sesgo algorítmico facilita el diseño de estrategias capaces de mitigar
los riesgos algorítmicos en la recomendación, como la radicalización y la
injusticia. Los resultados obtenidos plantean observaciones críticas sobre
el impacto de los algoritmos de recomendación, e insinúan la necesidad
de diseñar sistemas capaces de mitigar los sesgos incorporados a los datos
y a los algoritmos, teniendo en cuenta tanto las perspectivas a corto como
a largo plazo.
+
Els sistemes de recomanació representen un instrument clau per vehicular
el consum de continguts disponibles a la web. Milloren el compromís
entre els usuaris i les plataformes en línia mitjançant la personalització
algorítmica. Per tant, la injecció d’interaccions no naturals no només té
efectes positius. L’amplificació i l’exageració dels comportaments humans
condueix a la difusió de punts de vista extrems (per exemple, opinions
polaritzades o controvertides) o a la discriminació o el maltractament
d’un ...
Els sistemes de recomanació representen un instrument clau per vehicular
el consum de continguts disponibles a la web. Milloren el compromís
entre els usuaris i les plataformes en línia mitjançant la personalització
algorítmica. Per tant, la injecció d’interaccions no naturals no només té
efectes positius. L’amplificació i l’exageració dels comportaments humans
condueix a la difusió de punts de vista extrems (per exemple, opinions
polaritzades o controvertides) o a la discriminació o el maltractament
d’un grup específic d’individus. En aquesta tesi, es posa l’atenció
en la importància d’auditar i mitigar el ”biaix algorítmic” generat per un
sistema de recomanació, emfatitzant-ne la funció en les interaccions en
xarxes d’usuaris i continguts. A través d’evid`encies empíriques evidenciem
com el graf social, que presenta una topologia de xarxa esbiaixada,
pot impactar en les recomanacions algorítmiques quan s’utilitza com a
input. Aquesta anàlisi permet afegir una perspectiva sobre l’impacte a
llarg termini dels suggeriments algorítmics, portant a dissenyar un model
de simulació que permet explicar el ”feedback-loop” generat per aquestes
a les xarxes socials. Aquesta an`alisi va facilitar el disseny d’estratègies
capaces de mitigar els riscos algor´ıtmics en la recomanació, com ara la
radicalització i la injusíıcia. Els nostres resultats plantegen observacions
crítiques sobre l’impacte dels algorismes de recomanació, i insinuen la
necessitat de dissenyar sistemes capaços de mitigar els biaixos incorporats
a les dades i als algoritmes, considerant tant les perspectives a curt
com a llarg termini.
+