Algorithmes d'oppression: comment les moteurs de recherche renforcent le racisme

Rédigé par le Dr Safiya U. Noble, professeur adjoint à l'Université de Southern

California Annenberg School of Communication, ce texte est l'un des plus importants

des travaux qui abordent explicitement les aspects biaisés de la technologie informatique qui devraient

refléter plutôt que façonner notre compréhension de la société. Ce texte est né d'elle

la recherche sur les médias numériques et leur impact et leur intersection avec les questions de race, de genre,

la culture et la conception technologique. 

Alors que le profane peut se concentrer sur l’extérieur

entités, c'est-à-dire les cibles faciles, telles que Google et Facebook, elle pointe à juste titre

doigt sur les algorithmes sous-jacents utilisés par ces sociétés et bien d'autres.

 Elle

postule que ces algorithmes sont conçus par des personnes et peuvent donc être repensés

par ces mêmes humains s'ils ont les perspectives critiques qu'elle décrit dans ce

texte. Très probablement en raison de son expérience en marketing et communication, le principal

L'analyse de Noble se concentre sur les ramifications commerciales des résultats des moteurs de recherche, mais

ce texte parle facilement plus largement de l'oppression de toutes les populations marginalisées

et les identités intersectionnelles.

Contrairement à certains textes axés sur la technologie, ce livre met en avant les perspectives critiques

nécessaire pour mieux évaluer et mesurer l'exactitude et la valeur de la recherche

les résultats et les flux d'informations automatisés que nous recevons à travers la vaste gamme de

les appareils que nous utilisons quotidiennement. 

Mentionnez un voyage à un ami dans un message personnel via

Facebook et la prochaine fois que vous vous connecterez à Facebook, vous trouverez des recommandations d'hôtels

tout au long de votre page. 

Ces recommandations ne sont pas le fruit du hasard comme Noble

discute. Ils sont plutôt le produit d'algorithmes qui combinent le

consensus d'autres utilisateurs qui utilisent des termes similaires. Et dans cette similitude réside le péril de

ces algorithmes parce que, sans contrôle, ils réifient les stéréotypes, les préjugés, les préjugés,

et, finalement, l'oppression vécue par de nombreux membres de la société qui vivent la marginalisation

au quotidien (p. 28). 

Comme ce texte le décrit en détail, peut-être à un niveau élevé

de détails académiques et d'élucidation, cette mise à jour quotidienne des algorithmes de façon exponentielle

multiplie les ramifications insidieuses du racisme et d'autres formes d'oppression. Sur le

d'autre part, ce texte fournit également des exemples facilement accessibles pour résoudre ce problème.

Par exemple, l'auteur a fait une recherche sur "Black girls" en 2011 et le premier résultat

était un site de pornographie. Aujourd'hui, le premier résultat est différent, mais plus négatif et

des représentations objectivantes plutôt que positives subsistent.

D'une manière qui semble contredire ce que l'on supposerait avec ces algorithmes, si

nous partons du principe que plus de personnes dans la société sont opprimées que privilégiées,

on pourrait supposer que les résultats renvoyés par ces algorithmes refléteraient mieux

la société en général. Mais ce n'est pas le cas.

 Comme l'explique Noble, généralement ceux qui ont de la richesse

et l'accès à la technologie déterminent ce que nous vivons sur le Web. Par exemple, recherchez

les résultats produits par Yelp classent les entreprises plus haut si elles "paient pour jouer" et ont leur

entreprise annoncée. Si une entreprise ne peut pas assumer ces coûts, une situation rencontrée

plus fréquemment par des entreprises appartenant à des minorités ou des petites entreprises, il semble

existent même dans la communauté quand ils le font très bien.

Le livre fournit une explication exhaustive et bien documentée des façons dont

l'utilisation commerciale d'Internet, c'est-à-dire reflétant les préférences des masses,

a éloigné les algorithmes des informations plus factuelles et correctes.