En septembre 2020, un algorithme de Twitter avait pour tâche de recadrer les images dans le bon format pour les images de prévisualisation, ce que les gens verraient avant de cliquer sur un message. Un utilisateur blanc a remarqué que sur une photo de lui-même et d’un collègue noir, l’algorithme était toujours recadré pour se concentrer sur lui. Le message qu’il a publié décrivant son observation est devenu viral. L’expérience a été tentée avec d’autres paires de visages en noir et blanc. Barack Obama et Mitch McConnell : même résultat. Les visages noirs ont été effacés et les blancs choisis. L’exécutif de Twitter, Dantley Davis, a admis que le problème était réel. «C’est à 100% de notre faute», a-t-il tweeté. «Personne ne devrait dire le contraire.» Les raisons techniques de la préférence étaient complexes. Comme l’informaticien de Princeton, Arvind Narayanan, l’a souligné, l’utilisation de argmax, une fonction mathématique qui sélectionne la sortie la plus probable à partir d’une distribution de probabilité, était au cœur de l’action. Argmax est connu pour amplifier les biais et pour doubler les petites divergences dans les entrées jusqu’à ce qu’elles deviennent flagrantes. L’algorithme d’apprentissage automatique de Twitter avait été formé pour déterminer la « saillance » ou l’intérêt de chaque partie d’une image, y compris des facteurs tels que la luminosité et la saturation des couleurs. Son processus de décision concluait que les visages plus sombres étaient moins intéressants que les plus clairs. En fin de compte, Twitter a résolu le problème en désactivant complètement le recadrage automatique.

Harper’s