Contenidos
Microsoft anunció hoy que ha adquirido Two Hat, una plataforma de moderación de contenido impulsada por IA, por una cantidad no revelada. Según el CVP de Xbox Product Services Dave McCarthy, la compra combinará la tecnología, las capacidades de investigación, los equipos y la infraestructura en la nube de ambas compañías para servir a los clientes nuevos y existentes de Two Hat y “más experiencias de productos y servicios: en Microsoft.
“Al trabajar con el equipo diverso y experimentado de Two Hat a lo largo de los años, ha quedado claro que estamos completamente alineados con los valores fundamentales inspirados en la visión del fundador Chris c de brindar un enfoque holístico para comunidades en línea positivas y prósperas”, dijo McCarthy. en una publicación de blog. “Durante los últimos años, Microsoft y Two Hat han trabajado juntos para implementar la tecnología de moderación proactiva en las experiencias de juego, no para detectar y eliminar contenido malicioso antes de que llegue a los miembros de nuestras comunidades”.
Moderación
Según el Pew Research Center, 4 de cada 10 estadounidenses han experimentado personalmente alguna forma de acoso en línea. Además, el 37% de los usuarios de Internet con sede en EE. UU. Dicen que han sido blanco de ataques graves, incluido el acoso sexual y el acecho, en función de su orientación sexual, religión, raza, etnia, identidad de género o discapacidad. Los niños en particular están siendo abusados en línea, y una encuesta encontró un aumento del 70% en el acoso cibernético en las redes sociales y las plataformas de juegos durante la pandemia.
Priebe fundó Two Hat en 2012 cuando dejó su puesto como especialista sénior en seguridad de aplicaciones en Disney Interactive, la división de desarrollo de juegos de Disney. Priebe, ex desarrollador principal del equipo de seguridad y protección de Club Penguin, fue impulsado por el deseo de abordar los problemas del ciberacoso y el acoso en la web social.
Hoy, Two Hat dice que su plataforma de moderación de contenido, que combina inteligencia artificial, lingüística y “mejores prácticas de gestión líderes en la industria”, clasifica, filtra y escala más de un billón de interacciones humanas, incluidos mensajes, nombres de usuario, imágenes y videos por mes. La compañía también trabaja con las fuerzas del orden canadienses para entrenar inteligencia artificial para detectar nuevo material de explotación infantil, como contenido que podría ser pornográfico.
“Con énfasis en la aparición de daños en línea, incluido el acoso cibernético, el abuso, el discurso de odio, las amenazas violentas y la explotación infantil, permitimos a los clientes de una variedad de redes sociales en todo el mundo promover experiencias de usuario seguras y saludables para todas las edades”, Two Hat escribe en su sitio web.
Asociación de Microsoft
Hace varios años, Two Hat se asoció con el equipo de Xbox de Microsoft para aplicar su tecnología de moderación a las comunidades de Xbox, Minecraft y MSN. La plataforma de Two Hat permite a los usuarios decidir qué contenido quieren ver y qué no, lo que Priebe cree que es un diferenciador clave de las soluciones de moderación basadas en inteligencia artificial como Sentropy y la API de perspectiva de Jigsaw Labs.
“Hemos creado una de las soluciones de gestión comunitaria más adaptables, receptivas e integrales disponibles y hemos encontrado formas interesantes de combinar la mejor tecnología con conocimientos únicos”, dijo Priebe en un comunicado de prensa. “Como resultado, ahora tenemos la tarea de ayudar a las interacciones en línea para muchas de las comunidades más grandes del mundo”.
Vale la pena señalar que la moderación semiautomática sigue siendo un desafío sin resolver. El año pasado, los investigadores demostraron que Perceive, una herramienta desarrollada por Google y su subsidiaria Jigsaw, a menudo clasificaba los comentarios en línea escritos en lengua vernácula afroamericana como tóxicos. Otro estudio reveló que la mala gramática y la ortografía vergonzosa, como “Te odio” en lugar de “Te odio”, hacen que el contenido tóxico sea mucho más difícil de detectar para la IA y los detectores de máquinas.
Como lo demuestran concursos como el Desafío de noticias falsas de Facebook y el Desafío de memes odiosos, incluso los algoritmos de aprendizaje automático todavía luchan por obtener una comprensión holística de las palabras en contexto. De manera reveladora, Facebook admitió que no pudo entrenar a un modelo para encontrar nuevos casos de una categoría específica de información errónea: noticias engañosas sobre COVID-19. Y el sistema de moderación automatizado de Instagram una vez deshabilitó a los miembros negros un 50% más a menudo que a los usuarios blancos.
Pero McCarthy expresó su confianza en el poder del producto Two Hat, que incluye un sistema de reputación de usuario, admite 20 idiomas y puede suspender, prohibir y silenciar automáticamente a miembros de comunidades potencialmente abusivas.
“Entendemos los complejos desafíos que enfrentan las organizaciones hoy en día mientras se esfuerzan por moderar de manera efectiva las comunidades en línea. En nuestro mundo digital en constante cambio, existe una necesidad urgente de soluciones de moderación que puedan administrar el contenido en línea de una manera eficaz y escalable “, dijo.” Hemos sido testigos del impacto que han tenido dentro de Xbox. Y estamos emocionados de que esto La adquisición acelerará aún más nuestras soluciones patentadas de moderación de contenido en juegos, en una amplia gama de servicios al consumidor de Microsoft, y creará más oportunidades para nuestros socios externos y el uso de estas soluciones de los clientes existentes de Two Hat “.
VentureBeat
La misión de VentureBeat es ser una plaza urbana digital para que los responsables de la toma de decisiones técnicas obtengan información sobre la tecnología y las transacciones transformadoras. Nuestro sitio proporciona información esencial sobre tecnologías y estrategias de datos para guiarlo en el liderazgo de sus organizaciones. Te invitamos a convertirte en miembro de nuestra comunidad, para acceder a:
- información actualizada sobre temas de su interés
- nuestros boletines
- contenido privado líder en el pensamiento y acceso con descuento a nuestros valiosos eventos, como Transformar 2021: Para saber mas
- funciones de red y más
Hágase miembro