Présentation du Scoring des Publications par Bodyguard

L'innovation est l'une des valeurs fondamentales de Bodyguard. Nous la montrons en améliorant continuellement notre solution et en évaluant constamment comment nous pouvons offrir plus à nos clients. 

Nous avons saisi le potentiel de l'intelligence artificielle pour aider à créer un espace en ligne plus sûr, plus sain et plus positif pour les gens et les entreprises. Maintenant, nous rendons notre modération encore plus précieuse pour les utilisateurs, en exploitant l'une des technologies les plus récentes : les Modèles de Langage de Grande Taille (LLM).

Nous avons utilisé un LLM pour créer la dernière fonctionnalité de Bodyguard : le Scoring de Publications. Le Scoring de Publications permet à Bodyguard de passer au niveau supérieur en matière de fonctionnalité et de valeur, offrant à nos clients bien plus que de la modération. En fait, il a le pouvoir de changer complètement leur perception des médias sociaux.

Qu'est-ce que le Scoring de Publications ?

Le Scoring de Publications permet aux utilisateurs d'obtenir un score prédictif de toxicité pour tout contenu qu'ils prévoient de publier sur les réseaux sociaux, basé sur la technologie LLM. C'est d'une simplicité déconcertante à utiliser, mais cela fait une réelle différence dans la manière dont nos clients peuvent aborder leurs réseaux sociaux. 

En utilisant la technologie LLM pour analyser et comprendre le contenu, le Scoring de Publications attribue un score à chaque publication sur les réseaux sociaux, afin que les utilisateurs puissent anticiper le type de réponse que la publication est susceptible de recevoir. Le contenu de la publication est analysé et un score est instantanément généré en fonction de critères clés, tels que les mots-clés, les sujets, les entités et les mentions de célébrités. Le score indique à quel point une publication est «risquée» en termes d'attention négative, de critiques, de commentaires haineux, de messages d'escroquerie ou de spam. Le Scoring de Publications fonctionne pour plusieurs langues, en plus de l'anglais. 

Le processus est simple :

• L'utilisateur se rend sur la page des Publications dans le tableau de bord Bodyguard
• L'utilisateur saisit le contenu suggéré dans la boîte et clique sur «Scorer ma Publication»
• Un score est instantanément généré qui estime à quel point le contenu est risqué 
• Il y a trois scores possibles : Faible, Moyen et Élevé

En fonction du score prédictif de la publication, les utilisateurs peuvent décider de modifier le contenu pour améliorer son score (diminuant ainsi le risque de toxicité) ou de publier le contenu tel quel.

LLM : la technologie derrière le Scoring de Publications

Une des nombreuses branches de l'intelligence artificielle, le LLM est le mot à la mode du moment dans la tech.  

Les LLM sont des modèles d'apprentissage automatique entraînés à comprendre le langage naturel à l'aide de grandes quantités de données et de textes (d'où leur nom). Au fil du temps, ils peuvent comprendre, analyser, traduire, prédire et générer du contenu eux-mêmes, en faisant un modèle vraiment utile pour diverses fonctions. ChatGPT est l'un des exemples les plus connus d'un LLM en action. 

En matière de modération de contenu, les LLM garantissent que le texte est interprété avec précision, afin que l'action appropriée puisse être prise sur une publication, par exemple, en supprimant un commentaire qu'il reconnaît comme haineux. 

En termes simples, le LLM est une technologie sans fioritures et prouvée, qui fait une différence tangible dans l'efficacité de la modération de contenu. 

Quels sont les avantages du Scoring de Publications ?

Le Scoring de Publications permet aux utilisateurs de prendre de meilleures décisions concernant leurs réseaux sociaux et apporte de la valeur de deux manières distinctes :

• Pré-scoring : les utilisateurs peuvent explorer la création de contenu et tester différents contenus pour leurs publications, les ajustant grâce au score de risque qu'ils obtiennent. Le score est transparent et fournit des raisons expliquant pourquoi un contenu particulier pourrait déclencher des réactions intenses de la part du public.
• Post-scoring : une fois qu'une publication a été partagée sur les réseaux sociaux, le score de risque généré par Bodyguard est affiché à côté de la publication dans le tableau de bord, avec des données sur la quantité de toxicité réellement reçue par la publication. C'est un indicateur supplémentaire pour les utilisateurs qui les aide à approfondir leur compréhension du public en évaluant les réactions en réponse au contenu, et leur permettant d'adapter le contenu en conséquence à l'avenir, pour s'adapter au comportement du public. 

Fonctionnalités supplémentaires

Le Scoring de Publications montre des sujets supplémentaires qui pourraient être associés au contenu publié. Cela aide les utilisateurs à comprendre pourquoi leur publication a reçu un certain score et pourquoi elle pourrait être considérée comme risquée, même si le contenu original semble anodin.

Allez plus loin avec le Scoring de Publications et l'Alerte de Bodyguard

Pour améliorer encore plus l'efficacité du Scoring de Publications, les utilisateurs peuvent combiner la fonctionnalité avec notre système d'Alerte, qui génère des alertes par e-mail lorsqu'il y a des pics inhabituels d'activité de commentaires, et les informe du comportement, y compris :

• Augmentation du volume de réactions
• Taux de toxicité élevé sur une publication
• Taux de positivité élevé

Avec le Scoring de Publications et l'Alerte activés, les utilisateurs peuvent être sûrs qu'ils disposent d'un filet de sécurité solide, qui leur permet d'éviter, d'anticiper et de répondre à la toxicité sur leurs réseaux sociaux. Combinée à la rigoureuse modération de Bodyguard, les utilisateurs sauront qu'ils bénéficient de la modération de contenu la plus complète et la plus efficace disponible. 

Prochaines étapes

Le Scoring de Publications est disponible dans le cadre du Pack Avancé de Bodyguard. Que vous découvriez Bodyguard pour la première fois et souhaitiez prendre le contrôle de la modération de vos réseaux sociaux, ou que vous soyez un client existant souhaitant maximiser la puissance de votre modération, nous sommes là pour vous aider. Parlez-nous de vos besoins en matière de modération dès aujourd'hui et commençons !