設計から子どもにやさしく：通報、フィードバック、そして見守る目

子どもが遊ぶオンラインゲームには、小さな文字の中の「通報」ボタンだけでは足りません。保護のしくみを一貫した設計原則としてどう実装しているか、現時点で、まだ足りないところの正直な確認もふくめてお話しします。

起きたその場で通報。ゲームには /report チャットコマンドがあります。直前のチャット数行を自動で引用して送ってくれるので、通報する人が打ち直したり証明したりする必要はありません。すべての通報にはワールドIDがつくので、前後の状況がわかります。ワールドに入るときには、この機能を知らせる短いヒントが出ますし、/help にも載っています。

フィードバックは苦情ではありません。ポータルでは、「フィードバック&アイデア」と「プレイヤーを通報」をあえて分けて、専用のカードとやさしい言葉にしました。アイデアを伝えたい人が、被害届を出すような気持ちになるフォームを埋めなくてもいいようにです。そして親御さん向けには、ランディングページにもルールのところにも、専用のお知らせのセクションがあります。

進行中のもの：層になったモデレーション。名前とチャットについては、何層にもなった計画ができています。まず、伏せ字などのごまかした表記を元に戻す正規化（「B4dW0rd」を「badword」にする）、次にあいまい一致によるルールのチェック、そして、判断が難しい場合だけLLMによるチェック、最後に必ず人間の管理者のキューです。チャットは、すぐにローカルでマスクして、あとから非同期で抜き取り確認します。大切なのは順番です。安くて決定論的な層が大半を捕まえ、高価なAIは疑わしいケースだけを見ます。そして、自動の判定が最終決定になることはありません。

すべての裏にある原則はこうです。保護の機能は、それが守る対象と同じくらい簡単でなければなりません。何か変なことがあった子は、/report と打つだけ。それ以上は求められません。