Pour Philip K. Dick, les Androïdes rêvent de moutons électriques. Les algorithmes, ces entités techniques que l’on prend pour des machines froides et idiotes, ont un projet pour nous: celui de façonner notre monde tout en nous donnant l'impression que nous nous y déplaçons avec une liberté accrue. Leur rêve est de construire nos environnements: en favorisant les grands phénomènes d’attention virale, en désignant de façon méritocratique les lieux d’excellence tout en masquant les autres, en offrant des compteurs pour comparer les réputations.
Le web social permet à chacun d’être libre de voir ce qu’il veut sans être soumis à une vision globale de la société. En fonction de son réseau d’amis, on a l’information qui correspond à son univers social. L’algorithme se glisse subrepticement pour orienter nos comportements en guidant nos trajets, en nous indiquant la musique qu’on devrait aimer, etc. Toutes ces techniques qui, à partir de nos traces, nous prédisent ce qu’on peut faire ou aimer… Le quantified self nous enjoint d’être fidèles à un projet que nous avons eu nous-mêmes: courir, maigrir, voyager… Il nous enferme alors dans nos habitudes.
Faut-il le craindre? On peut fermer la boîte noire, être soumis aux automatismes incontrôlables des grands opérateurs du web. Mais en réalité, les algorithmes calculent correctement quand on a des comportements automatiques et réguliers. Si nous nous conformons à leurs propositions, ils nous façonnent et nous suivons leur verdict. Cependant la réalité des usages, c’est qu’on s’en écarte et que, dans bien des cas, on ne les trouve pas très subtiles. Nos usages façonnent toujours les technologies et notre éducation critique, ils peuvent nous enfermer mais aussi nous faire voyager dans l’espace informationnel.
Deux représentations
Il s’agit de calculer la société par le bas sans la représenter par des catégories d’appartenance institutionnelles, socio-professionnelles ou territoriales. En traçant les individus, on a un design de la société aussi proche que possible des comportements individuels. Un des endroits où les algorithmes sont fortement utilisés, à travers le programmatique et le RTB, c’est la publicité. Celle-ci est traversée par une forte ligne de tension car deux représentations sont en jeu: soit on représente des publics avec des segments et des catégories, soit on représente des individus avec des traces de navigation et on peut se passer des services de médiaplanneurs. Mais prétendre déchiffrer la réalité parce qu’on a capturé des traces implicites relève aussi du leurre.
La promesse n’est pas toujours réalisée. D’autant qu’on exclut le jugement humain car ce serait fausser la vérité des chiffres. Mon idée est que nous formons un couple avec les technologies: il faut qu’on s’éduque, qu’on apprenne à les décoder, à voir leurs projets politiques et économiques. En les apprivoisant, on pourra développer des ruses et des stratégies pour en faire un usage moins naïf et contrôlé qu’aujourd’hui. Il faudrait développer à l’égard des calculs une culture critique de façon beaucoup plus diverse et originale. On peut imaginer des curseurs pour régler les paramètres de son algorithme et le rendre ainsi très intelligent.»