Pensado para niños desde el diseño: reportes, opiniones y una mirada atenta

Un juego en línea al que juegan niños necesita algo más que un botón de “Reportar” en la letra pequeña. Así aplicamos los mecanismos de protección como un principio de diseño coherente: el estado actual, con una mirada honesta a lo que todavía falta.

Reportar donde pasa. En el juego existe el comando de chat /report: cita automáticamente las últimas líneas del chat, así que quien reporta no tiene que copiar ni demostrar nada. Cada reporte lleva el ID del mundo para que conozcamos el contexto. Al entrar en un mundo, un breve aviso señala esta función, y /help también la menciona.

Dar tu opinión no es quejarse. En el portal separamos a propósito “Opiniones e ideas” de “Reportar a un jugador”, con su propia tarjeta y un lenguaje amable. Quien quiere compartir una idea no debería rellenar un formulario que parece una denuncia. Y para los padres hay una sección de avisos propia, tanto en la página de inicio como junto a las reglas.

Lo que está en marcha: moderación por capas. Para los nombres y el chat hay un plan por capas listo: primero, normalizar los camuflajes (“B4dW0rd” se convierte en “badword”), luego una comprobación difusa con reglas, después (solo para los casos dudosos) una revisión con un LLM y, al final, siempre una cola de revisión para administradores humanos. El chat se ocultará localmente al instante y se revisará por muestreo de forma asíncrona. Lo importante es el orden: las capas baratas y deterministas atrapan el grueso, la IA cara solo ve los casos dudosos y ningún veredicto automático es definitivo.

El principio detrás de todo: las funciones de protección tienen que ser tan sencillas como aquello de lo que deben proteger. Un niño que vive algo raro escribe /report; no se le puede pedir más que eso.