为孩子而设计:举报、反馈,和一双时刻留意的眼睛
一个孩子们会玩的在线游戏,需要的不只是小字里的一个“举报”按钮。我们是怎样把保护机制当作一贯的设计原则来落实的——截至今天,也坦诚地看看还缺什么。
在事情发生的地方举报。游戏里有 /report 聊天命令:它会自动把最近几行聊天一并引用进去——举报的人不用重新打字,也不用自己去证明什么。每份举报都带有世界 ID,这样我们就知道上下文。进入世界时,会有一条简短的提示指出这个功能,/help 里也提到了它。
反馈不是投诉。在门户网站里,我们特意把“反馈与想法”和“举报玩家”分开了——各有自己的卡片和友好的措辞。想分享一个点子的人,不该去填一张感觉像在报案的表格。另外,首页和规则页面里,也都为家长设了专门的说明部分。
正在推进的:分层审核。对于名字和聊天,一套分层方案已经准备好:先把各种伪装还原(把“B4dW0rd”变成“badword”),再做模糊规则检查,然后——只针对临界情况——做一次 LLM 检查,最后永远有一个由真人管理员处理的队列。聊天会立刻在本地屏蔽,并异步抽查。重要的是顺序:便宜的确定性层挡住绝大部分,昂贵的 AI 只看有疑问的情况,而且没有任何自动裁决是最终的。
这一切背后的原则:保护功能必须和它要防范的东西一样简单。遇到怪事的孩子,只要输入 /report 就够了——不能再要求他们做更多。
留言