Blog

Jun 21, 2023

Activision se asocia con Modulate para combatir en

ACTUALIZADO A LAS 12:40 EDT / 31 DE AGOSTO DE 2023 por Kyt Dotson Activision Blizzard Inc. está asumiendo un papel más importante en el manejo de la toxicidad del chat de voz en sus juegos con una asociación con Modulate, el desarrollador de

ACTUALIZADO A LAS 12:40 EDT / 31 DE AGOSTO DE 2023

por Kyt Dotson

Activision Blizzard Inc. está asumiendo un papel más importante en el tratamiento de la toxicidad del chat de voz en sus juegos con una asociación con Modulate, el desarrollador de tecnología de voz de aprendizaje automático que puede evaluar la seguridad de los chats en línea.

La nueva tecnología, anunciada el miércoles, se implementará en América del Norte en los títulos de disparos en primera persona de Activision “Call of Duty: Modern Warfare II” y “Call of Duty: Warzone”. “Call of Duty” es uno de los títulos más populares de Activision y “Modern Warfare II” fue el lanzamiento más vendido de la compañía en su primer fin de semana. Generó más de 800 millones de dólares en ingresos en solo tres días durante su lanzamiento en noviembre de 2022, alcanzando un recuento máximo de jugadores simultáneos de 169.000 jugadores solo en la plataforma Steam de Valve Corp.

Las plataformas de juegos en línea a menudo han tenido problemas con lo que podría denominarse “comportamiento tóxico” en el chat de juegos en línea, tanto de texto como de voz, donde los jugadores se maltratan entre sí. Esto puede ocurrir a través del ciberacoso, el discurso de odio, el lenguaje discriminatorio y el acoso. Puede surgir especialmente en medio de la alta intensidad y adrenalina de la competición.

El nuevo sistema de moderación del chat de voz utilizará ToxMod, un sistema de Modulate impulsado por inteligencia artificial que puede identificar comportamientos tóxicos en tiempo real y ayudar a aplicarlos. La tecnología ayudará al equipo antitoxicidad de Activision, que ya rastrea tanto el chat de texto como el de voz filtrando en 14 idiomas diferentes para el chat dentro del juego.

Según Modulate, ToxMod funciona aplicando aprendizaje automático avanzado para marcar el chat de voz analizando los matices de la conversación para que pueda distinguir entre "¡f-sí!" y "¡Que te jodan!" así como las emociones del usuario al observar el contexto conversacional y las reacciones de otros jugadores.

Además de ayudar a detectar discursos tóxicos e intimidación, la compañía también agregó recientemente “categorías de riesgo”, que permiten que el algoritmo de aprendizaje automático detecte tendencias de comportamiento a lo largo del tiempo que sugieran un riesgo significativo de radicalización violenta o acoso infantil.

Las nuevas categorías de riesgo abarcan escalas de tiempo mayores que la moderación en tiempo real que utiliza expresiones simples e intenta utilizar patrones de intención para señalar comportamientos. De esta manera, los moderadores obtienen una visión integral del comportamiento de los jugadores en una línea de tiempo para ver si hay algo con lo que deban lidiar en su comunidad.

"Nunca hay lugar para comportamientos disruptivos o acoso en los juegos", dijo Michael Vance, director de tecnología de Activision. “Abordar el chat de voz disruptivo en particular ha sido durante mucho tiempo un desafío extraordinario en los juegos. Este es un paso fundamental para crear y mantener una experiencia divertida, justa y acogedora para todos los jugadores”.

Los desarrolladores de juegos como Riot Games Inc., el editor del juego de deportes electrónicos altamente competitivo “League of Legends”, y otros se han enfrentado durante mucho tiempo a la toxicidad en sus juegos y han luchado por frenar el comportamiento en el chat. Para ayudar a combatir estos comportamientos, Riot y Ubisoft Entertainment SA, un editor francés de videojuegos con una gran cantidad de juegos, se asociaron para crear una base de datos para la moderación impulsada por IA para ayudar a lidiar con el lenguaje y el comportamiento tóxicos.

"Este es un gran paso adelante para apoyar a una comunidad de jugadores del tamaño y escala de 'Call of Duty', y refuerza aún más el compromiso continuo de Activision de liderar este esfuerzo", dijo el director ejecutivo de Modulate, Mike Pappas.

Activision se jactó de que desde el lanzamiento de “Modern Warfare II”, “el equipo de moderación existente de Call of Duty ha prohibido el chat de voz o texto en más de 1 millón de cuentas que utilizan su tecnología actual. Según la propia investigación de la empresa, cuando se combina el filtrado con la denuncia, el 20% de los jugadores tóxicos no reinciden tras recibir una primera advertencia. Aquellos que lo hacen sufren sanciones adicionales, como restricciones en el chat de voz y texto o pérdida temporal de los privilegios de la cuenta.

Como ocurre con muchos otros sistemas de moderación basados ​​en IA, siempre existe el riesgo de falsos positivos. Como resultado, ToxMod no toma medidas coercitivas por sí solo. Clasifica y analiza los chats de voz y los envía al equipo de moderación. Trabajará junto con herramientas existentes, como filtros e informes de jugadores, para brindarle al equipo de moderación una mejor manera de comprender lo que está sucediendo, y los equipos aún tienen la última palabra.

El sistema se está implementando actualmente para títulos en América del Norte, pero se planea su lanzamiento mundial junto con el lanzamiento de “Call of Duty: Modern Warfare III” el 10 de noviembre. Actualmente es compatible con el idioma inglés, pero seguirán idiomas adicionales en una fecha más tarde.

GRACIAS

Meta publica el conjunto de datos FACET para evaluar la equidad de la IA

Redefiniendo la seguridad en la nube: ideas sobre la modernización del enfoque de Google

El phishing como servicio sigue afectando a los usuarios empresariales

Context.ai recauda 3,5 millones de dólares para ayudar a las empresas a crear mejores productos impulsados ​​por LLM

Microsoft separará Teams de Office en Europa en medio de una investigación antimonopolio

Los movimientos de IA de Google Cloud despiertan interés en lo que AWS ofrecerá a continuación

Meta publica el conjunto de datos FACET para evaluar la equidad de la IA

AI - POR MARIA DEUTSCHER . 1 HORA ANTES

Redefiniendo la seguridad en la nube: ideas sobre la modernización del enfoque de Google

AI - POR CHAD WILSON . 1 HORA ANTES

El phishing como servicio sigue afectando a los usuarios empresariales

SEGURIDAD - POR DAVID STROM . HACE 2 HORAS

Context.ai recauda 3,5 millones de dólares para ayudar a las empresas a crear mejores productos impulsados ​​por LLM

AI - POR KYT DOTSON. HACE 2 HORAS

Microsoft separará Teams de Office en Europa en medio de una investigación antimonopolio

POLÍTICA - POR MARIA DEUTSCHER . HACE 3 HORAS

Los movimientos de IA de Google Cloud despiertan interés en lo que AWS ofrecerá a continuación

NUBE - POR MARK ALBERTSON. HACE 4 HORAS