Google lanza nueva herramienta contra palabras ofensivas

 

 

 

Google lanza una herramienta contra palabras y comentarios ofensivos que posee inteligencia artificial. Identifica los comentarios ofensivos on line y es claro que se va a utilizar en las plataformas para frenar la incitación al odio.

El software de Google, que se llama Perspective y es gratuito, ya lo han probado en varios medios de comunicación, como el New York Times, The Guardian y The Economist, para simplificar la labor de revisar los comentarios de cada una de sus publicaciones.

“Los medios de comunicación pretenden con su contenido fomentar la participación y la discusión. No obstante, cuesta mucho dinero, trabajo y tiempo buscar entre millones de comentarios aquellos que son ofensivos”, declaró Jared Cohen, presidente de Jigsaw, la incubadora social de Google que ha desarrolla esta herramienta.

“En consecuencia, muchas páginas han eliminado la posibilidad de redactar comentarios. Sin embargo, no es la solución que estas plataformas deseaban adoptar”, añadió Cohen.
En la actualidad, pueden acceder a este software todas las compañías que forman parte de la Digital News Initiative de Google, entre las que se hallan la BBC, el Financial Times, Les Echos y La Stampa, y algunas redes sociales como YouTube, Twitter y Facebook.

“Estamos prestos a trabajar con todo el mundo, desde con pequeños desarrolladores hasta con las mayores plataformas de internet. Todos compartimos un mismo interés y deseamos beneficiarnos de los debates positivos”, afirmó CJ Adams, gerente de producto de Jigsaw.

Perspective ayuda a filtrar los comentarios ofensivos para que el proceso de revisión resulte más sencillo. El algoritmo se creó desde cientos y cientos de comentarios de páginas webs, como Wikipedia o el New York Times, que los revisores humanos habían etiquetado como “tóxicos”.

La herramienta clasifica los comentarios on-line dependiendo de su similitud con los comentarios “tóxicos” o bien de si pueden provocar que alguien abandone la charla.

“Cada vez nos acostumbramos más a encontrar comentarios ofensivos en conversaciones en línea”, aseveró Cohen. “Muchas personas no dicen nada por este problema. Por esta razón, deseamos ayudar a las plataformas a recuperar a sus usuarios.”

Merced a que el algoritmo reduce el número de posibilidades, los revisores del New York Times ahora pueden comparar el doble de comentarios.

“Nuestro objetivo es que la revisión se realice 10 veces más rápido, por lo que el proyecto sigue adelante”, declaró Lucas Dixon, encargado de la investigación científica en Jigsaw.

Google no es la primera compañía que trata de frenar los comentarios ofensivos. A principios del actual mes, Twitter redobló sus esfuerzos para esconder los comentarios ofensivos a sus usuarios, en vez de eliminarlos de forma terminante.

El consejero encargado de la red social, Jack Dorsey, declaró que Twitter evalúa a diario sus progresos en su lucha contra los comentarios ofensivos.

En el mes de mayo, múltiples conjuntos tecnológicos de Estados Unidos, entre los que se incluían Google, Fb, Twitter y Microsoft, firmaron un “código de conducta” con Bruselas en el que se les exige “repasar la mayoría” de los comentarios que hayan denunciado los usuarios en las últimas 24 horas, suprimirlos si fuera preciso y también, incluso, responder a esos mensajes para solventar al inconveniente.