Roblox implementa IA para reescrever mensagens ofensivas em tempo real no chat

O Roblox deu um passo significativo na moderação de sua plataforma ao adotar um algoritmo de inteligência artificial que vai além do tradicional filtro de palavras proibidas. Em vez de apenas substituir termos impróprios pelo símbolo "#", a nova ferramenta de IA agora reescreve as mensagens dos usuários em tempo real, transformando conteúdos agressivos em comunicações mais educadas, mas preservando o sentido original da frase.

Na prática, se um jogador enviar algo como "Hurry TF up!" (Apresse-se, p***!), o sistema altera automaticamente para um direto "Hurry up!" (Apresse-se!). Quando ocorre essa intervenção, todos os participantes da conversa são notificados de que o texto foi reajustado para manter um ambiente cordial. Essa tecnologia visa reduzir a toxicidade sem interromper o fluxo da comunicação entre os jogadores.

Por enquanto, o recurso está limitado a chats dentro dos jogos para usuários que passaram pelo processo de verificação de idade e que estejam interagindo com grupos de faixas etárias similares. A mudança faz parte de uma série de atualizações de segurança implementadas pela Roblox Corporation para proteger o público jovem, permitindo, por exemplo, que jogadores de 9 a 12 anos se comuniquem com segurança com o grupo de 13 a 15 anos.