Suporte a idiomas
A moderação de texto tem suporte para mais de 100 idiomas. No entanto, você não precisa fazer nada para configurar uma seleção de idioma para a moderação de texto; o Azure detecta automaticamente o idioma de cada mensagem de texto. Para obter uma lista completa dos idiomas com suporte à detecção automática e à filtragem de palavrões, consulte a lista de idiomas com suporte da Segurança de Conteúdo de IA do Azure.Habilitando a moderação de texto
A moderação de texto é configurada por controle de chat. Ela é habilitada chamandoPartyLocalChatControl::SetTextChatOptions() com a opção PartyTextChatOptions::FilterOffensiveText. Os controles de chat com a moderação habilitada recebem o chat de texto com as palavras ofensivas mascaradas por asteriscos. Como a moderação é habilitada por controle de chat, você pode criar uma interface do usuário para permitir que os usuários definam sua própria escolha de moderação. Como alternativa, você pode impor a moderação para alguns ou todos os usuários.
Para desabilitar a moderação para um controle de chat, use a mesma função, passando uma opção PartyTextChatOptions que não contenha o sinalizador FilterOffensiveText.
Código de exemplo:
Enviando e recebendo texto moderado
Todo texto enviado a um controle de chat com a moderação habilitada passa por moderação, independentemente das configurações de moderação do próprio remetente. As mensagens de texto recebidas por um controle de chat com a moderação habilitada têm o campochatText em PartyChatTextReceivedStateChange substituído pela versão moderada.
Mais campos estão presentes em PartyChatTextReceivedStateChange para habilitar cenários mais complexos, como dar aos usuários a opção de ver uma versão não filtrada do texto. Para obter mais informações, consulte a página de referência PartyChatTextReceivedStateChange.
Se a moderação de uma mensagem de texto falhar, seja devido a um erro de serviço ou porque o texto foi considerado ofensivo pelo serviço sem que fosse possível identificar termos específicos, a mensagem de texto inteira será mascarada com asteriscos. A enumeração PartyChatTextReceivedOptions fornecida no campo options de PartyChatTextReceivedStateChange contém mais informações quando esse caso de erro ocorre.
Ajustando os níveis de filtragem
Para o inglês, o nível de filtragem aplicado a um controle de chat pode ser ajustado usando a funçãoPartyManager::SetOption. Os níveis de filtragem disponíveis são Family-Friendly, Medium e Mature. O nível padrão é Family-Friendly.
Código de exemplo: