Langues prises en charge
La modération du texte est prise en charge pour plus de 100 langues. Toutefois, vous n’avez rien à faire pour configurer une sélection de langue pour la modération du texte ; Azure détecte automatiquement la langue de chaque message texte. Pour obtenir la liste complète des langues prenant en charge la détection automatique et le filtrage des grossièretés, consultez la liste des langues prises en charge d’Azure AI Content Safety.Activation de la modération du texte
La modération du texte est configurée par contrôle de conversation. Elle est activée en appelantPartyLocalChatControl::SetTextChatOptions() avec l’option PartyTextChatOptions::FilterOffensiveText. Les contrôles de conversation pour lesquels la modération est activée reçoivent la conversation textuelle avec les mots offensants masqués par des astérisques. Étant donné que la modération est activée par contrôle de conversation, vous pouvez créer une interface utilisateur permettant aux utilisateurs de définir leur propre choix de modération. Vous pouvez également imposer la modération à certains ou à tous les utilisateurs.
Pour désactiver la modération d’un contrôle de conversation, utilisez la même fonction en passant une option PartyTextChatOptions qui ne contient pas l’indicateur FilterOffensiveText.
Exemple de code :
Envoi et réception de texte modéré
La modération est appliquée à tout texte envoyé à un contrôle de conversation pour lequel la modération est activée, quels que soient les paramètres de modération de l’expéditeur. Pour les messages texte reçus par un contrôle de conversation pour lequel la modération est activée, le champchatText de PartyChatTextReceivedStateChange est remplacé par la version modérée.
D’autres champs sont présents dans PartyChatTextReceivedStateChange pour permettre des scénarios plus complexes, comme offrir aux utilisateurs la possibilité d’afficher une version non filtrée du texte. Pour plus d’informations, consultez la page de référence PartyChatTextReceivedStateChange.
Si la modération d’un message texte échoue, soit en raison d’une erreur du service, soit parce que le service a jugé le texte offensant sans pouvoir identifier de termes spécifiques, l’intégralité du message texte est masquée par des astérisques. L’énumération PartyChatTextReceivedOptions fournie dans le champ options de PartyChatTextReceivedStateChange contient plus d’informations lorsque ce cas d’erreur se produit.
Réglage des niveaux de filtrage
Pour l’anglais, le niveau de filtrage appliqué à un contrôle de conversation peut être ajusté à l’aide de la fonctionPartyManager::SetOption. Les niveaux de filtrage disponibles sont Family-Friendly (tous publics), Medium (moyen) et Mature (adulte). Le niveau par défaut est Family-Friendly.
Exemple de code :