L’intelligence artificielle peut-elle être défaillante sur les réseaux sociaux et montrer des formes de racisme ? Un algorithme de recommandation de Facebook a demandé à des utilisateurs s'ils souhaitaient voir d'autres «vidéos sur les primates» sous une publication d'un tabloïd britannique montrant des personnes noires, a révélé le New York Times le 3 septembre. Problème, au sein de cette vidéo du Daily Mail, datant de plus d’un an et intitulée «un homme blanc appelle les flics contre des hommes noirs à la marina», aucun singe n’est visible.
En dessous, la question «voir plus de vidéos sur les primates ?» avec les options «Oui / Rejeter» s'est affichée sur l'écran de certains utilisateurs. Une recommandation qui n’a pas échappé aux internautes. C’est une ancienne designer du géant des réseaux sociaux, Darci Groves, qui a signalé le problème avec une capture d’écran diffusée sur Twitter. «C'est scandaleux», a-t-elle commenté, appelant ses ex-collègues de Facebook à faire remonter l'affaire. Face à cela, la plateforme n’a pas tardé à réagir.
Lire aussi : Facebook poursuit sa percée dans l'audio
«C'est clairement une erreur inacceptable», a déclaré une porte-parole du réseau, sollicitée par l'AFP. «Nous présentons nos excuses à quiconque a vu ces recommandations insultantes.» Le groupe californien a d’ailleurs désactivé l'outil de recommandation sur ce sujet «dès que nous nous sommes aperçus de ce qui se passait afin d'enquêter sur les causes du problème et empêcher que cela ne se reproduise», a-t-elle précisé. «Comme nous l'avons dit, même si nous avons amélioré nos systèmes d'intelligence artificielle, nous savons qu'ils ne sont pas parfaits et que nous avons des progrès à faire», s’est-elle justifiée.
Une nouvelle fois, l'affaire illustre les limites des technologies d'intelligence artificielle, très utilisées par les réseaux sociaux. A travers ces algorithmes, Facebook souhaite construire un fil personnalisé pour chacun de ses près de 3 milliards d'utilisateurs mensuels. Elle s'en sert aussi beaucoup dans la modération des contenus, pour identifier et bloquer des messages et images problématiques avant même qu'ils ne soient vus.
Mais Facebook, comme ses concurrents, est régulièrement accusé de ne pas lutter suffisamment contre le racisme et d'autres formes de haine et de discriminations. Le sujet suscite d'autant plus de tensions que de nombreuses organisations de la société civile accusent les réseaux sociaux et leurs algorithmes de contribuer à la division de la société américaine, dans le contexte des manifestations du mouvement Black Lives Matter.
