Amigável para crianças desde o projeto: denúncias, feedback e um olhar atento

Um jogo online que crianças jogam precisa de mais do que um botão "denunciar" escondido nas letras miúdas. Como implementamos mecanismos de proteção como um princípio de design consistente — do jeito que está hoje, com um olhar sincero sobre o que ainda falta.

Denunciar onde acontece. No jogo existe o comando de chat /report: ele cita automaticamente as últimas linhas do chat junto — quem denuncia não precisa redigitar nem provar nada. Toda denúncia leva o ID do mundo, para sabermos o contexto. Ao entrar em um mundo, uma dica curta aponta para a função, e o /help também a menciona.

Feedback não é reclamação. No portal, separamos de propósito "Feedback & ideias" de "Denunciar um jogador" — com cartão próprio e linguagem amigável. Quem quer compartilhar uma ideia não deveria ter que preencher um formulário com cara de boletim de ocorrência. E para os pais há uma seção de avisos própria, tanto na página inicial quanto junto das regras.

O que está em andamento: moderação em camadas. Para nomes e chat, há um plano em camadas pronto: primeiro a normalização de disfarces (transformar "B4dW0rd" em "badword"), depois uma verificação de regras difusa, depois — só para casos duvidosos — uma checagem por LLM e, no fim, sempre uma fila de administradores humanos. O chat deve ser mascarado localmente na hora e conferido por amostragem de forma assíncrona. O que importa é a ordem: as camadas baratas e determinísticas pegam a maior parte, a IA cara só vê os casos duvidosos, e nenhum veredito automático é definitivo.

O princípio por trás de tudo: as funções de proteção precisam ser tão simples quanto aquilo de que elas devem proteger. Uma criança que vive algo estranho digita /report — não dá para exigir mais do que isso.