Задумано для детей: жалобы, отзывы и бдительный глаз

Онлайн-игре, в которую играют дети, нужно больше, чем кнопка «пожаловаться» мелким шрифтом. Как защитные механизмы становятся у нас сквозным принципом дизайна: что есть на сегодня — и честно о том, чего ещё не хватает.

Жалоба там, где это происходит. В игре есть чат-команда /report: она сама прикладывает последние строки чата — тому, кто жалуется, не нужно ничего перепечатывать или доказывать. К каждой жалобе прикладывается ID мира, чтобы мы знали контекст. При входе в мир короткая подсказка указывает на эту функцию, и /help тоже о ней упоминает.

Отзыв — это не жалоба. В портале мы намеренно разделили «Отзывы и идеи» и «Пожаловаться на игрока» — с отдельной карточкой и дружелюбными формулировками. Тот, кто хочет поделиться идеей, не должен заполнять форму, похожую на подачу заявления в полицию. А для родителей есть отдельный раздел с пояснениями и на главной странице, и среди правил.

Что в работе: многоуровневая модерация. Для имён и чата готов многоуровневый план: сначала нормализация обфускаций (превращаем «B4dW0rd» в «badword»), затем нечёткая проверка по правилам, затем — только для пограничных случаев — проверка LLM, а в конце всегда очередь живого админа. Чат должен маскироваться локально сразу и проверяться выборочно асинхронно. Важен порядок: дешёвые детерминированные уровни ловят основную массу, дорогой ИИ видит только сомнительные случаи, и ни один автоматический вердикт не окончателен.

Принцип, который стоит за всем этим: защитные функции должны быть так же просты, как то, от чего они защищают. Ребёнок, столкнувшийся с чем-то странным, набирает /report — большего требовать нельзя.