Pensé pour les enfants : signalements, retours et un œil attentif

Un jeu en ligne auquel jouent des enfants a besoin de plus qu'un bouton « Signaler » caché dans les petits caractères. Voici comment nous mettons en place des mécanismes de protection comme un principe de conception appliqué partout – où nous en sommes aujourd'hui, avec un regard honnête sur ce qui manque encore.

Signaler là où ça se passe. Dans le jeu, il y a la commande de chat /report : elle cite automatiquement les dernières lignes du chat – la personne qui signale n'a rien à recopier ni à prouver. Chaque signalement porte l'identifiant du monde, pour que nous connaissions le contexte. En entrant dans un monde, un petit message rappelle que cette fonction existe, et /help la mentionne aussi.

Un retour n'est pas une plainte. Dans le portail, nous avons volontairement séparé « Retours & idées » de « Signaler un joueur » – avec une carte à part et un ton amical. Quelqu'un qui veut partager une idée ne devrait pas remplir un formulaire qui donne l'impression de porter plainte. Et pour les parents, il y a une section d'information dédiée, à la fois sur la page d'accueil et avec les règles.

Ce qui est en cours : une modération en couches. Pour les noms et le chat, un plan en couches est prêt : d'abord, la normalisation des déguisements (« B4dW0rd » devient « badword »), puis une vérification approximative des règles, puis – seulement pour les cas limites – un contrôle par LLM, et à la fin, toujours une file d'attente pour un admin humain. Le chat doit être masqué localement tout de suite et vérifié par sondage, en différé. Ce qui compte, c'est l'ordre : les couches bon marché et déterministes attrapent le gros du volume, l'IA coûteuse ne voit que les cas douteux, et aucun verdict automatique n'est définitif.

Le principe derrière tout ça : les fonctions de protection doivent être aussi simples que ce contre quoi elles protègent. Un enfant qui vit quelque chose de bizarre tape /report – on ne peut pas exiger plus que ça.