A misura di bambino fin dal progetto: segnalazioni, feedback e un occhio vigile

Un gioco online a cui giocano i bambini ha bisogno di più di un pulsante «segnala» scritto in piccolo. Ecco come realizziamo i meccanismi di protezione come principio di design coerente, allo stato di oggi, con uno sguardo onesto a ciò che ancora manca.

Segnalare dove succede. Nel gioco c'è il comando di chat /report: cita automaticamente le ultime righe della chat, così chi segnala non deve riscrivere né dimostrare niente. Ogni segnalazione porta con sé l'ID del mondo, così conosciamo il contesto. Quando si entra in un mondo, un breve suggerimento indica la funzione, e anche /help la menziona.

Il feedback non è una denuncia. Nel portale abbiamo separato di proposito «Feedback & idee» da «Segnala un giocatore», con una scheda propria e un linguaggio amichevole. Chi vuole condividere un'idea non deve compilare un modulo che sembra una denuncia. E per i genitori c'è una sezione di avvisi dedicata, sia nella pagina iniziale sia insieme alle regole.

Cosa è in corso: la moderazione a strati. Per nomi e chat è pronto un piano a strati: prima la normalizzazione delle storpiature (trasformare «B4dW0rd» in «badword»), poi un controllo con regole approssimate, poi, solo per i casi dubbi, un controllo con LLM e alla fine sempre una coda di admin umani. La chat deve essere mascherata subito in locale e controllata a campione in modo asincrono. Conta l'ordine: gli strati economici e deterministici prendono la maggior parte dei casi, l'IA costosa vede solo i casi dubbi e nessun verdetto automatico è definitivo.

Il principio dietro a tutto: le funzioni di protezione devono essere semplici quanto ciò da cui devono proteggere. Un bambino che vive qualcosa di strano scrive /report: non si può chiedere di più.