Microsoft utiliza IA para proteger los juegos en línea: detalles en el informe de Xbox

Microsoft utiliza IA para ayudar a identificar contenido dañino y garantizar que la comunidad de jugadores se mantenga segura cuando juega en línea.

Uso de IA para la seguridad de los jugadores

En una publicación de blog para su Informe de Transparencia de Xbox, la compañía reiteró sus “avances en la promoción de la seguridad de los jugadores” y su “compromiso con la transparencia”, así como su “enfoque progresivo hacia el uso de la IA”.

Se utilizan dos métodos específicos: autoetiquetado y coincidencia de patrones de imágenes.

Aplicación de la IA para identificar contenido nocivo

El autoetiquetado utiliza IA para identificar palabras o frases dañinas en los informes de los jugadores, lo que permite a los moderadores de la comunidad clasificar rápidamente los informes falsos y centrarse en los casos más críticos.

La coincidencia de patrones de imágenes también se utiliza para identificar y eliminar rápidamente imágenes dañinas y tóxicas.

Uso de IA para mejorar la seguridad

El uso de IA sigue a la introducción el año pasado de una nueva función de informes de voz, que permite a los jugadores de Xbox capturar clips de vídeo del chat de voz del juego para enviarlos al equipo de seguridad de Xbox para su revisión.

Microsoft dice que ha capturado 138.000 grabaciones de voz desde que se lanzó la función. Cuando estos informes resultaron en una sanción, el 98% de los jugadores mejoraron su comportamiento y no recibieron más sanciones.

Luchando contra la toxicidad en línea

Sin embargo, la toxicidad y el sexismo siguen prevaleciendo en el chat de voz del juego. Ejemplos como el del streamer de Twitch Taylor Morgan resaltan la necesidad de mejorar la seguridad de los juegos en línea.

Estos ejemplos ponen de relieve que aún queda mucho por hacer para mejorar la seguridad de los juegos en línea. Si bien Microsoft está utilizando la IA de manera positiva, es importante recordar que el año pasado la compañía despidió a todo su equipo de ética y sociedad de IA como parte de 10,000 recortes de empleo en toda la empresa.

Aun así, Microsoft sigue promocionando los beneficios de la IA. En noviembre pasado, la compañía anunció una “asociación de codesarrollo de varios años” con Inworld AI para proporcionar a los estudios de juegos de Xbox herramientas de inteligencia artificial, como un copiloto de diseño y un motor de ejecución de personajes.

En conclusión, el uso de la IA por parte de Microsoft para mejorar la seguridad de los jugadores en línea es un paso adelante positivo, aunque se necesitan más esfuerzos para eliminar la toxicidad generalizada en la industria del juego.

Fuente: www.eurogamer.net