Entre cyberharcèlement, messages haineux et désinformation, la toxicité sur les réseaux sociaux fait de plus en plus parler d’elle. Etat des lieux avec Charles Cohen, fondateur et CEO de Bodyguard.ai, une solution de modération des contenus problématiques sur les plateformes sociales.
Quelle est l’ampleur du harcèlement sur les réseaux sociaux aujourd’hui ?
Sur internet, 5% des commentaires en moyenne sont toxiques. Ça englobe beaucoup de choses, qui varient selon les réseaux sociaux, selon l’âge de la personne et selon l’industrie, que ça soit dans les jeux vidéo, le sport ou les médias. Par exemple, sur Facebook, où les utilisateurs sont un peu plus âgés, on va avoir des contenus beaucoup plus violents comme des menaces, des appels au meurtre ou du racisme. Ces personnes n’ont pas conscience des lois qui existent, qui leur paraissent totalement débridées. Quand il s’agit d’enfants, on est davantage sur des insultes, des moqueries sur le physique ou de l’intimidation.
Est-ce que vous pensez que les réseaux sociaux en font assez pour faire bouger les choses ?
Le problème avec la modération, c’est que c’est un jeu du chat et de la souris. La souris, c’est l’utilisateur des réseaux sociaux, qui est petit, agile, et qui trouve rapidement de nouvelles façons de contourner les règles mises en place pour supprimer cette toxicité. Vous pouvez le voir avec TikTok, où il y a une réinvention du langage. Les jeunes ont compris que certains mots y ont été bannis, et donc ils utilisent d’autres mots pour dire la même chose, ou des émojis et de la ponctuation pour essayer de déjouer les filtres. De l’autre côté, on a le chat, qui représente les plateformes. De par sa grosse taille, le chat est constamment en retard et a du mal à suivre la souris. Donc, ce n’est pas que les plateformes ne font rien, mais c’est qu’elles ont à chaque fois du retard. C’est pour cette raison qu’on a l’impression que cette négativité, cette toxicité est toujours présente sur les réseaux sociaux.
À lire aussi : Bodyguard veut devenir la solution de modération pour le métavers
Les choses se sont-elles améliorées en 2022 ?
Non, mais le sujet de la toxicité sur les réseaux sociaux est beaucoup plus vaste. Ce n’est pas que du cyberharcèlement ou du contenu textuel. C’est aussi la raison d’être des réseaux sociaux. Aujourd’hui, les jeunes sont connectés de plus en plus tôt sur les réseaux sociaux, donc ils n'arrivent pas à s'en détacher. Regardez par exemple pour une story Instagram, c’est un peu le concours de celui qui a la meilleure vie. On voit beaucoup de mise en scène, mais la réalité c’est que derrière cette story, ce n'est pas du tout ça. L’enfant qui est tout seul dans sa chambre et qui voit ça un samedi soir, c’est très dur pour lui mentalement. Donc, le réseau social est déjà malsain en lui-même.
Est-ce qu’il ne faudrait pas un durcissement législatif contre les harceleurs ?
Le règlement DSA (Digital Services Act) impose déjà aux plateformes de retirer les contenus les plus graves. Les lois existent depuis des années, le problème, c’est que ça prend trop de temps et que personne ne va engager de l’argent pour retrouver un harceleur. En France, nous n’avons pas les infrastructures adaptées pour pouvoir répondre à ce genre de demande. Déjà, il n’y a pas de représentants légaux des plateformes, donc si on veut faire une demande, c’est aux États-Unis, et pour les États-Unis, la France n’est pas un pays prioritaire. Donc forcément les requêtes n’aboutissent pas ou sont prises en compte au bout de six mois lorsque les dégâts sont déjà largement faits. De plus, les peines sont extrêmement faibles. Donc c’est pour ça que même si on installe des lois, il y aura toujours ce problème de toxicité.
À lire aussi : Anorexie : le rôle ambivalent des réseaux sociaux
Concrètement, qu’est-ce qui peut faire avancer les choses ?
C’est une question qui repose sur plusieurs piliers. Il y a un pilier technologique avec des outils capables de détecter la toxicité et de la retirer afin de protéger les gens avant que le mal ne soit fait. Un autre pilier est un pilier légal. Il faut aller beaucoup plus vite sur le dépôt de plainte et sur les sanctions à appliquer. Et le troisième pilier, c’est l’humain. Il faut des associations et des modérateurs humains qui sont là pour les victimes. Cette procédure permettrait de faire avancer les choses. Après, c’est aussi une question d’éducation. Il faut éduquer les jeunes sur la dangerosité des réseaux sociaux, mais aussi les personnes plus âgées, qui arrivent en cours de route et qui ne comprennent pas comment s’en servir.
C’est le sujet du harcèlement qui vous a poussé à créer Bodyugard.ai ?
Je pense avoir reçu une bonne éducation de la part de mes parents. J’ai toujours été élevé dans l’optique d’une justice et de la protection des plus fragiles. Étant donné que j’ai commencé la programmation de Bodyguard.ai à l'âge de 10 ans, j’avais les capacités techniques pour faire quelque chose permettant de lutter contre la toxicité des réseaux sociaux en ligne.
