Przyjazne dzieciom z założenia: zgłaszanie, opinie i czujne oko

Gra online, w którą grają dzieci, potrzebuje czegoś więcej niż przycisku „zgłoś” zapisanego drobnym drukiem. Jak wdrażamy mechanizmy ochronne jako spójną zasadę projektową — według stanu na dziś, z uczciwym spojrzeniem na to, czego jeszcze brakuje.

Zgłaszanie tam, gdzie to się dzieje. W grze jest komenda czatu /report: automatycznie dołącza cytat z ostatnich linii czatu — kto zgłasza, nie musi niczego przepisywać ani udowadniać. Każde zgłoszenie zawiera identyfikator świata, żebyśmy znali kontekst. Przy wejściu do świata krótka wskazówka zwraca uwagę na tę funkcję, a wspomina o niej także /help.

Opinia to nie skarga. W portalu celowo oddzieliliśmy „Opinie i pomysły” od „Zgłoś gracza” — z własną kartą i przyjaznym językiem. Ktoś, kto chce podzielić się pomysłem, nie powinien wypełniać formularza, który przypomina składanie doniesienia. A dla rodziców jest osobna sekcja informacji, zarówno na stronie głównej, jak i przy zasadach.

Co jest w toku: moderacja warstwami. Dla nazw i czatu gotowy jest plan warstwowy: najpierw rozszyfrowanie zamaskowanych słów (zamiana „B4dW0rd” na „badword”), potem rozmyte sprawdzanie reguł, potem — tylko w przypadkach granicznych — kontrola przez LLM, a na końcu zawsze kolejka do sprawdzenia przez administratora-człowieka. Czat ma być od razu maskowany lokalnie i wyrywkowo sprawdzany asynchronicznie. Ważna jest kolejność: tanie, deterministyczne warstwy łapią większość, droga AI widzi tylko wątpliwe przypadki, a żaden automatyczny werdykt nie jest ostateczny.

Zasada, która stoi za tym wszystkim: funkcje ochronne muszą być tak proste jak to, przed czym mają chronić. Dziecko, które spotka coś dziwnego, wpisuje /report — więcej nie można wymagać.