Tasarımı gereği çocuk dostu: bildirme, geri bildirim ve tetikte bir göz

Çocukların oynadığı bir çevrimiçi oyunun, küçük puntolu bir "bildir" düğmesinden fazlasına ihtiyacı var. Koruma mekanizmalarını tutarlı bir tasarım ilkesi olarak nasıl uyguluyoruz: bugünkü durumuyla, hâlâ neyin eksik olduğuna dürüst bir bakışla.

Olduğu yerde bildirme. Oyunda /report sohbet komutu var: son sohbet satırlarını otomatik olarak alıntılıyor; bildiren kişinin yeniden yazması ya da bir şey kanıtlaması gerekmiyor. Her bildirim dünya kimliğini taşıyor, böylece bağlamı biliyoruz. Bir dünyaya girerken kısa bir ipucu işleve dikkat çekiyor ve /help de ondan söz ediyor.

Geri bildirim bir şikâyet değildir. Portalda "Geri bildirim & fikirler"i "Bir oyuncuyu bildir"den bilerek ayırdık: kendi kartı ve dostça bir dille. Bir fikrini paylaşmak isteyen, suç duyurusu gibi hissettiren bir form doldurmak zorunda kalmamalı. Ebeveynler için de hem açılış sayfasında hem de kurallarda özel bir bilgilendirme bölümü var.

Devam eden iş: katmanlı moderasyon. İsimler ve sohbet için katmanlı bir plan hazır: önce gizlemelerin normalleştirilmesi ("B4dW0rd"ü "badword"e çevirmek), sonra bulanık kural denetimi, sonra, yalnızca sınırda vakalar için, bir LLM denetimi ve sonunda her zaman bir insan yönetici kuyruğu. Sohbetin hemen yerelde maskelenmesi ve eşzamansız olarak örneklemeyle denetlenmesi planlanıyor. Önemli olan sıra: ucuz, deterministik katmanlar çoğunu yakalıyor, pahalı yapay zeka yalnızca şüpheli vakaları görüyor ve hiçbir otomatik hüküm kesin değil.

Hepsinin ardındaki ilke: koruyucu işlevler, karşı korumaları gereken şey kadar basit olmalı. Tuhaf bir şey yaşayan bir çocuk /report yazar; bundan fazlasını beklemek olmaz.