Гра, дружня до дітей, від самого задуму: скарги, відгуки та пильне око

Онлайн-грі, в яку грають діти, потрібно більше, ніж кнопка «поскаржитися» дрібним шрифтом. Як ми впроваджуємо захисні механізми як послідовний принцип дизайну — станом на сьогодні, із чесним поглядом на те, чого ще бракує.

Скарга там, де це відбувається. У грі є чат-команда /report: вона автоматично цитує останні рядки чату — хто скаржиться, не мусить передруковувати чи щось доводити. Кожна скарга містить ID світу, щоб ми знали контекст. Під час входу у світ коротка підказка нагадує про цю функцію, і /help теж її згадує.

Відгук — це не скарга. На порталі ми свідомо розділили «Відгуки та ідеї» й «Поскаржитися на гравця» — з окремою карткою та дружньою мовою. Хто хоче поділитися ідеєю, не повинен заповнювати форму, що нагадує подачу заяви в поліцію. А для батьків є окремий розділ із поясненнями і на головній сторінці, і біля правил.

Що в роботі: модерація шарами. Для імен і чату готовий багатошаровий план: спершу нормалізація маскувань (перетворення «B4dW0rd» на «badword»), потім нечітка перевірка за правилами, потім — лише для спірних випадків — перевірка LLM, а наприкінці завжди черга для живого адміністратора. Чат має маскуватися локально одразу й вибірково перевірятися асинхронно. Важливий порядок: дешеві детерміновані шари ловлять основну масу, дорогий ШІ бачить лише сумнівні випадки, і жоден автоматичний вердикт не є остаточним.

Принцип, що стоїть за всім цим: захисні функції мають бути такими ж простими, як те, від чого вони захищають. Дитина, з якою сталося щось дивне, вводить /report — більшого вимагати не можна.