'Call of Duty: Modern Warfare III' utilizará IA para acabar con los chats de voz tóxicos

Los juegos tienen el poder de conectar a personas de todo el mundo en el disfrute y el trabajo en equipo, pero también pueden crear un espacio propicio para el discurso tóxico y el odio. Activision está intentando minimizar esto último y anunció una nueva colaboración con Modulate, una empresa que utiliza tecnología para identificar estos problemas, para la moderación directa del chat de voz en Call of Duty.

El sistema de inteligencia artificial de Modulate, ToxMod, intenta identificar amenazas como el discurso de odio, la radicalización y las autolesiones en tiempo real. Afirma funcionar en tres pasos: clasificar, analizar y escalar. ToxMod escucha todos los chats de voz y señala los puntos que merecen una revisión más detallada. Estos datos marcados se almacenan en sus servidores, mientras que todos los demás datos se procesarán directamente en el dispositivo inicial. La compañía dice que luego evalúa todo, desde el tono hasta la emoción, analizando no sólo "lo que se dice, sino también cómo se dice y cómo otros jugadores responden a ello". Finalmente, intenta alertar a los moderadores sobre los incidentes más tóxicos y les deja a ellos tomar medidas. La compañía afirma que es la "única solución de moderación nativa de voz" disponible actualmente, que ha protegido a "decenas de millones de jugadores".

La integración de ToxMod podría ayudar a prevenir respuestas tóxicas en su conjunto, trabajando junto con los sistemas de informes y centrados en texto existentes. "Abordar el disruptivo chat de voz en particular ha sido durante mucho tiempo un desafío extraordinario en los juegos", dijo el director de tecnología de Activision, Michael Vance, en un comunicado. "Con esta colaboración, ahora ofrecemos la tecnología de aprendizaje automático de última generación de Modulate que puede escalarse en tiempo real para un nivel global de aplicación de la ley. Este es un paso crítico hacia la creación y el mantenimiento de una experiencia divertida, justa y acogedora para todos los jugadores. " El año pasado, Activision comenzó a permitir que los equipos de moderación de juegos silenciaran a los jugadores que usaban lenguaje tóxico en los chats de voz y texto.

ToxMod ya está disponible como versión beta en inglés en Norteamérica para Call of Duty: Modern Warfare II y Call of Duty: Warzone. Se lanzará a nivel mundial, con excepción de Asia, cuando Call of Duty: Modern Warfare III se lance el 10 de noviembre.