Comment les réseaux sociaux détectent la haine en ligne ?

Les réseaux sociaux ont révolutionné notre quotidien. Aujourd’hui, il serait presque impossible de s’en passer tant ils savent se rendre indispensables pour les entreprises comme pour les particuliers.

Charles

Charles

Si les plateformes sociales nous permettent de nous connecter aux autres, ils peuvent faire l'exact opposé, causant de nombreux dégâts aux communautés concernées. Malgré leurs qualités, ils sont aussi bien souvent le vecteur de la haine en ligne. Si chaque réseau social dispose d’outils de modération, dans les faits, la toxicité perdure sans rencontrer de réelle résistance.

Des espaces de discussion parfois violents

Les réseaux sociaux offrent une grande liberté d’expression. Sur ces plateformes, les utilisateurs parlent de leurs sujets préférés, débattent sans censure au sein de différentes communautés. Dans la majorité des cas, ces échanges se déroulent dans le respect. Mais d’autres utilisateurs abusent de cette liberté pour adopter des comportements problématiques : campagnes de harcèlement, menaces, insultes, racisme, sexisme… Les contenus haineux se multiplient sur ces plateformes, en particulier sur Twitter.

L’Union des étudiants juifs de France (UEJF), SOS Racisme et SOS homophobie ont mené une étude dont le résultat est édifiant. D’après elle, les contenus haineux postés sur Twitter ont augmenté de 40 % en 2020.

Récemment, une campagne anti-LGBTQ+ est même devenue virale sur Twitter. Face à la vague de signalements occasionnés par ces messages, la plateforme a simplement publié un message rappelant ses règles de modération. Cette réaction peu efficace est symptomatique du problème de la toxicité en ligne sur les réseaux sociaux et ne traite pas le problème à ses racines.

Des plateformes encore trop laxistes

Les réseaux sociaux redoublent de créativité pour captiver leurs audiences. Tout est fait pour encourager les utilisateurs à passer le plus de temps possible devant leur écran, à scroller, liker, commenter. A contrario, les efforts déployés pour lutter contre la haine en ligne semblent plus mesurés. Si chaque plateforme présente des règles de modération strictes, dans les faits, elles sont peu souvent respectées. Des propos ou contenus problématiques peuvent rester des semaines en ligne avant d’être supprimés (lorsqu’ils le sont), malgré les signalements. En février 2020, l’organisme américain sCAN a révélé les résultats de ses recherches :

  • Seuls 58 % des messages haineux sont retirés des plateformes YouTube, Facebook, Instagram.

  • Seuls 9 % des contenus signalés sur Twitter sont supprimés.

Les réseaux sociaux ont pourtant développé leurs propres outils internes, mais ils manquent encore d’efficacité :

  • La modération ne détecte que 20 à 40 % des contenus haineux ;

  • Le Machine learning (intelligence artificielle capable d’apprendre en autonomie) utilisé commet 20 à 40 % de faux positifs (en anglais seulement), des contenus haineux non reconnus.

La modération de contenus est pourtant un élément essentiel pour protéger les utilisateurs, y compris les plus fragiles. 70 % des enfants de 12 ans et 80 % de ceux de 13 ans se connectent régulièrement à ces plateformes. Selon une étude menée par Audirep en 2021, 20 % des enfants interrogés disent y avoir été confrontés à une situation de cyberharcèlement.

Les réseaux sociaux sont des canaux de discussion pratiques, voire indispensables. Mais des efforts doivent encore être faits pour améliorer la modération des contenus : il en va de la protection des utilisateurs.

Si la haine en ligne grandit exponentiellement, ce n'est pas une fin en soi. L'usage des solutions de modération peut régler ce problème. L'outil Bodyguard.ai détecte les propos haineux, le harcèlement, les insultes, et les modère avant qu'ils n'atteignent les communautés. Vos espaces de discussions restent des lieux d’échanges constructifs et positifs.

Les 3 points clés à retenir :

  • Les contenus haineux sont en augmentation sur les réseaux sociaux.

  • Une large partie d’entre eux n’est pas modérée, même après signalement.

  • Les réseaux sociaux doivent redoubler d’efforts pour protéger leurs utilisateurs.