Chacun a droit à son opinion. Mais lorsque la liberté d'expression va jusqu'aux extrêmes et emploie un vocabulaire blessant, elle peut devenir extrêmement dangereuse. À mesure que l'usage des réseaux sociaux progresse, la haine en ligne progresse aussi. Des groupes et des individus sont pris pour cible en raison de leur origine, de leur religion, de leur genre ou de leur orientation sexuelle.

Et malheureusement, de nombreuses plateformes de réseaux sociaux ne disposent pas des outils nécessaires pour modérer les discours de haine avant qu'ils ne causent des dommages irréparables.

Le lien entre réseaux sociaux et haine en ligne

Les réseaux sociaux permettent de toucher facilement des millions d'utilisateurs dans le monde. Pourtant, malgré l'usage croissant de la toxicité pour cibler les minorités, les règles de modération restent d'une efficacité limitée. Sans modération, par exemple, une campagne marketing violente peut devenir virale en quelques instants et toucher de nombreuses personnes.

De plus, n'importe qui peut publier anonymement sur une plateforme sociale, et un post peut devenir viral en quelques secondes. Surveiller manuellement le harcèlement et l'agressivité sur les réseaux sociaux est presque impossible, tant en raison du temps nécessaire que du risque d'erreur humaine. Sans compter que les modérateurs humains peuvent être durement affectés par la lecture quotidienne de centaines de messages racistes ou homophobes.

Les grandes plateformes s'efforcent de modérer les contenus et d'éliminer la toxicité grâce à des algorithmes d'apprentissage automatique capables de détecter les discours de haine.

Mais aujourd'hui, des plateformes sociales comme Facebook ne détectent que 20 à 40 % des contenus haineux (et uniquement en anglais) : jusqu'à 60 % de ces contenus restent donc en ligne et continuent de viser des personnes vulnérables.

L'impact de la haine publiée sur les réseaux sociaux

Les exemples de l'impact destructeur des contenus haineux sur les communautés sont nombreux. Il peut s'agir d'incitation à la violence, de propagande ou de violence psychologique, voire d'encouragement au meurtre et au suicide.

La campagne "Fetrah" sur Twitter en est un exemple. Ce mouvement anti-LGBT (lesbiennes, gays, bisexuels et transgenres) s'est propagé rapidement, alors même que Facebook et Instagram avaient banni le compte. Son logo, un drapeau bleu et rose, représente les genres masculin et féminin et rejette toutes les autres communautés. Lancée par trois spécialistes du marketing égyptiens, la campagne cherche à nuire aux personnes et aux groupes gays et transgenres, en particulier au Moyen-Orient.

Autre exemple : l'incapacité de Facebook à détecter la haine en kiswahili (swahili), une langue d'Afrique de l'Est. L'ONG Global Witness a soumis à Facebook une série de publicités évoquant le viol, la décapitation et des violences physiques extrêmes. Facebook les a approuvées (certaines étaient même en anglais). Ces publicités n'ont jamais été publiées, puisqu'il s'agissait d'un test, mais l'expérience montre les failles de la modération de contenu sur les réseaux sociaux.

Ces exemples montrent que les géants des réseaux sociaux ne parviennent toujours pas à surveiller et filtrer les contenus haineux. Chaque utilisateur mérite une protection maximale, grâce à des systèmes de modération de contenu fiables.

Si 40 % des utilisateurs quittent une plateforme après leur première exposition à des propos toxiques, beaucoup restent et participent, ce qui alimente un harcèlement collectif. Les études montrent que même lorsqu'un utilisateur signale des commentaires haineux, un tiers d'entre eux ne sont pas supprimés. Résultat : de nombreux groupes et personnes marginalisés restent exposés à la haine en ligne. Les réseaux sociaux ont clairement besoin de standards de modération plus exigeants, en particulier ceux qui exercent une forte influence sur la santé mentale de leurs utilisateurs.

Comment Bodyguard peut vous aider, vous et vos communautés

Bodyguard croit en la liberté d'expression et au droit de chacun à utiliser internet librement, sans recevoir de commentaires blessants et haineux.

Bodyguard est une solution de modération unique, à la fois instantanée et intelligente, qui allie la rapidité d'une machine à la finesse d'analyse d'un humain pour évaluer les contenus toxiques.

La modération Bodyguard :

  • détecte et modère les contenus toxiques en temps réel ;
  • protège les marques, les entreprises, les communautés et les collaborateurs ;
  • évite les retombées négatives pour votre marque (bad buzz…) ;
  • s'adapte précisément à vos besoins.

Plus efficace que le recours à des modérateurs humains, Bodyguard a pour objectif d'avoir un impact social positif. Les contenus toxiques sont détectés en temps réel et modérés immédiatement, sans risque d'erreur humaine.

Pour savoir comment Bodyguard peut aider votre entreprise, contactez-nous.

Partager cet article