설계부터 아이 친화적으로: 신고, 피드백, 그리고 지켜보는 눈

아이들이 하는 온라인 게임에는 작은 글씨 속 “신고” 버튼 이상이 필요해요. 보호 장치를 일관된 설계 원칙으로 어떻게 구현하는지, 아직 부족한 점에 대한 솔직한 시선과 함께 오늘 시점의 상황을 소개할게요.

일이 벌어지는 곳에서 바로 신고. 게임 안에는 /report 채팅 명령어가 있어요. 마지막 채팅 몇 줄이 자동으로 함께 인용되기 때문에, 신고하는 사람이 다시 입력하거나 증명할 필요가 없어요. 모든 신고에는 월드 ID가 붙어서 우리가 상황을 알 수 있어요. 월드에 들어갈 때는 짧은 안내가 이 기능을 알려 주고, /help에서도 언급해요.

피드백은 불만이 아니에요. 포털에서는 “피드백 & 아이디어”와 “플레이어 신고”를 일부러 나눴어요. 각자의 카드와 친근한 말투로요. 아이디어를 나누고 싶은 사람이 고소장을 쓰는 듯한 양식을 채워야 해서는 안 되니까요. 부모님을 위한 별도의 안내 영역도 시작 페이지와 규칙 페이지 양쪽에 있어요.

진행 중인 일: 단계별 모더레이션. 이름과 채팅을 위한 단계별 계획이 준비되어 있어요. 먼저 “B4dW0rd”를 “badword”로 바꾸는 식으로 위장을 정규화하고, 그다음 비슷한 표현까지 잡아내는 규칙 검사를 하고, 애매한 경우에만 LLM 검사를 하고, 마지막에는 언제나 사람 관리자의 대기열을 거쳐요. 채팅은 로컬에서 바로 가려지고, 비동기로 표본 점검을 받도록 할 계획이에요. 중요한 건 순서예요. 저렴하고 결정론적인 단계들이 대부분을 걸러 내고, 비싼 AI는 의심스러운 경우만 보며, 어떤 자동 판정도 최종이 아니에요.

이 모든 것의 원칙은 이거예요. 보호 기능은 막으려는 대상만큼 단순해야 해요. 이상한 일을 겪은 아이가 /report를 입력하면 돼요. 그보다 더 요구할 수는 없어요.