Roblox Usa IA para Filtrar Insultos en el Chat en Tiempo Real

Roblox, la popular plataforma de juegos en línea, ha anunciado el lanzamiento de una función que reemplaza las cadenas de signos de hash que aparecen cuando sus filtros de chat detectan groserías, por versiones reescritas de mensajes señalados, informó la compañía el jueves.

Esta función, llamada reescritura de chat en tiempo real, modifica la grosería en los mensajes para que las conversaciones sean legibles en lugar de aparecer como texto bloqueado.

“Por ejemplo, un mensaje que violaría las políticas de groserías de Roblox, como ‘¡Apúrate TF!’ aparecería anteriormente como ‘####’ en el chat del juego”, explicó la compañía. “Ahora se reescribirá como ‘¡Apúrate!’”

Según Rajiv Bhatia, Vicepresidente de Productos de Usuario y Descubrimiento de Roblox, este nuevo enfoque busca mantener la civilidad al reescribir el lenguaje y reemplazar las «señales de alto» por palabras reales.

“El chat es central para cómo las personas se conectan, coordinan y juegan en Roblox”, comentó Bhatia en un comunicado. “La reescritura en tiempo real ayuda a mantener el flujo del juego y las conversaciones en buen camino, guiando el lenguaje hacia lo que es apropiado.”

En mayo de 2025, Roblox introdujo alertas en tiempo real que advierten a los usuarios cuando los mensajes pueden violar las reglas de la plataforma, animándolos a reconsiderar su redacción.

“En experimentos del año pasado, Roblox observó que las notificaciones de texto en el juego y los tiempos de espera resultaron en una reducción del 5% en los mensajes filtrados y un 6% en las consecuencias por informes de abuso”, indicó la compañía.

A pesar de esta disminución, Roblox aseguró que el nuevo cambio aborda un problema de larga data donde el lenguaje filtrado aparece como cadenas de caracteres aleatorios, lo que puede dificultar la lectura de los chats durante el juego.

Si bien los jugadores en el chat son notificados cuando el texto es reescrito, la compañía aclara que el nuevo sistema no altera sus políticas de aplicación sobre groserías.

“Para ser claros, cuando reescribimos un mensaje que viola nuestra política de groserías, sigue siendo una violación y las mismas reglas aún aplican”, dijo Bhatia en una declaración por separado. “Un usuario que continúe intentando usar groserías en el chat seguirá enfrentándose a las mismas consecuencias por violar repetidamente nuestra política.”

La función de reescritura, según Roblox, está disponible únicamente en chats entre usuarios verificados por edad en grupos de edad similares, y soporta todos los idiomas actualmente disponibles a través de las herramientas de traducción automática de Roblox. Para entender cómo hablan los jugadores adolescentes durante el juego, Roblox desarrolló esta nueva función en colaboración con miembros de su Consejo Juvenil.

La empresa también está mejorando su sistema de filtrado de texto para detectar mejor los intentos de evadir las reglas de moderación, incluidas las variaciones del lenguaje que sustituyen números o símbolos por letras, conocidas como leetspeak.

La reescritura de chat de Roblox es parte de una tendencia creciente en la industria del gaming, donde las empresas están utilizando cada vez más la IA para moderar el comportamiento de los jugadores en juegos multijugador. En 2024, Activision reportó que más de 2 millones de cuentas fueron señaladas por chats disruptivos tras implementar su sistema de moderación ToxMod impulsado por IA en varios títulos de Call of Duty. La compañía mencionó que esta herramienta ayudó a reducir los infractores reincidentes y a disminuir las instancias severas de chat de voz disruptivo.

Roblox también ha ampliado su uso de IA en la plataforma. En febrero de 2024, la compañía introdujo una función de traducción de chat en tiempo real que permite a los jugadores comunicarse en más de 16 idiomas dentro del chat de Roblox.

“Este es un enfoque audaz y no siempre reescribiremos las cosas a la perfección”, comentó Bhatia sobre esta última iniciativa, añadiendo que la compañía continuará aprendiendo y experimentando con la función. “Nuestro objetivo final es empoderar a los usuarios para que colaboren y se conecten de una manera que sea tanto entretenida como respetuosa.”

Roblox no respondió de inmediato a la solicitud de comentarios de Decrypt.