Google declara la guerra a los “trolls” en las redes

COMPARTIR

La herramienta creada por el gigante tecnológico Google Perspective utiliza inteligencia artificial para identificar todos aquellos “comentarios tóxicos” para que puedan moderarse, revisarse o excluir de las conversaciones en las noticias.

El estudio llevado a cabo por e Instituto de Investigación Data Society, Acoso online y abuso digital en noviembre del año pasado, recoge datos con respecto a los comportamientos de los usuarios en la red y confirma que el 47% de los usuarios de internet en Estados Unidos ha sufrido acoso y un 72% ha sido testigo de este abuso. Esas son las principales razones que han llevado a Google a la creación de esta herramienta. Casi un tercio de los usuarios se autocensura a la hora de poner un mensaje, por miedo a las consecuencias, según este estudio y Google no ha dudado en la responsabilidad que debe adquirir para luchar contra los trolls de la Red y “convertir Internet en un espacio más seguro”. El fundador y presidente de Jigsaw -antigua Google Ideas-  Jared Cohen. El es el encargado de la creación de esta herramienta  que  ha explicado en conferencia telefónica del “desafío actual, que es crear una buena conversación en Internet. Hay muchísima gente tratando de entablar debates en las secciones de comentarios de las páginas webs, pero terminan marchándose y dejando la conversación por culpa de otra gente que insulta o falta al respeto”.

Google Perspective podrá ser utilizada de forma gratuita por todos los editores y desarrolladores de contenido, ya que es de código abierto. El objetivo principal es el de empoderar a los editores de publicaciones y plataformas para que ellos puedan decidir lo que se puede o no decir en sus páginas webs”, apuntaba Cohen. La herramienta permite varias opciones entre las que se encuentran: marcar los comentarios para que sean revisados por sus propios moderadores y decidir si los incluyen en una conversación; permitir que los usuarios vean la toxicidad potencial de su comentario cuando lo están escribiendo, o clasificar los comentarios según este criterio principal que es el de “facilitar la búsqueda de grandes debates escondidos en conversaciones tóxicas”.

De momento la herramienta está disponible en inglés y es probable que la herramienta presente errores en su comienzo, “Perspective no es perfecta todavía porque está en una etapa muy inicial, pero cuántos más datos tenga, mejor funcionara. Cuántos más comentarios analice, más perfecta será”, ha asegurado Cohen. Su funcionamiento es sencillo, un equipo de personas se dedica a revisar comentarios y crea una base de datos en la que se incluyen aquellos que consideran “Toxicos” o comentarios no interesantes para el medio, esos pueden incluir faltas de respeto, insultos o palabras malsonantes. La herramienta se encargará de forma autónoma de analizar decenas de miles de comentarios de páginas webs y evaluará a través de comparación de una serie de logaritmos si existe similitud con los que ya se consideran perjudiciales, los identifica y añade. “Así, si alguien está diciéndole a otro feo, estúpido o idiota, se comprueba si esas palabras se identifican con algunos de los comentarios tóxicos que el sistema ya tiene almacenados. Es una manera de entrenarlo”, describe Cohen.

Actualmente otras periódicos como The New York Times y empresas como Twitter o Mozzila han comenzado a tomar acciones al respecto de los comentarios “tóxicos”. En el caso de la red social, se tomó la decisión de plantar cara a los trolls, ya que esta no fue comprada por Salesforce o Disney, debido a que las compañías declinaron la compra por los problemas de moderación y la falta de una comunidad saludable. Twitter cuenta ya con botones en su interfaz, que silencian las conversaciones y permiten marcar aquellas palabras intolerables en los perfiles de los usuarios. El personal del periódico americano analiza en tiempo real alrededor de 11.000 comentarios cada día. Una cantidad que ha provocado que solo se permita comentar en un 10% de los artículos. El objetivo de Google Perspective es ayudarles a clasificarlos con más rapidez al mismo tiempo que nutren a su algoritmo con todos esos ejemplos.

Dejar una respuesta

19 + 7 =