Sábado, 2 PM. Mi amigo H. espera mesa afuera de un restaurante, cuando se le acerca un vagabundo para pedirle dinero. Él contesta que no tiene y entonces el hombre comienza a insultarlo violentamente. Mi amigo piensa contestarle pero se frena. Cuando un rato después postea la anécdota en Facebook, añade: “No reaccioné, sólo de imaginar el video viral”. Otro amigo, J., bromea: “#LordFondita”. “Claro”, responde, “me convertiría en el tipo que agredió a un mendigo indefenso”.

Otro caso emblemático: en estos días, la escritora mexicana Valeria Luiselli publicó en el diario español El País un artículo breve al que tituló “Nuevo feminismo”. En él, con mucha ironía, cuestiona el feminismo del déjà vu, el que marchas-de-por-medio cree resolver cualquier cosa. “Todas las mujeres brillantes que conozco han tenido que remplazar el libre ejercicio del pensamiento complejo por el aburrido derecho a salir a la calle con cartulinas”, afirma, y sostiene que ese feminismo le produce “largos bostezos”. La avalancha de críticas que recibió, sobre todo en Twitter, en general no se dirigió a su texto, sino a su persona: por ser hija de diplomático, de familia acomodada, escritora de prestigio y encima guapa (cómo se atreve) Luiselli es insensible a la problemática de las mujeres que se desangran en los hospitales públicos.

En ambos casos, uno hipotético y otro real, el discurso agresivo o trolleo es bandera en línea de las limpias conciencias, de los buenos ciudadanos que salen a las redes sociales para odiar a través de burlas, agresiones, amenazas. Así, de gratis, aunque digan que es por exhibir a los nocivos.

Según el Instituto de Investigación sobre Información y Sociedad, citado por The Washington Post, 50 por ciento de los usuarios de Internet en Estados Unidos dice haber sido intimidado en línea, mientras un tercio señala haberse autocensurado de postear algo por miedo a las reacciones que podría generar. Ahora tal vez las cosas empiecen a cambiar. Al menos es lo que Google anuncia: “queremos convertir Internet en un espacio más seguro”. Y es que ayer la empresa anunció una nueva herramienta de inteligencia artificial contra las agresiones en línea, llamada Perspective. Desarrollada por Jigsaw, incubadora de ideas de Google, escanea contenido en tiempo real y califica su nivel de toxicidad, ello a partir de evaluaciones realizadas por miles de personas. Es decir que uno puede escribir una frase y ver cómo es valorada, en un rango que va de “muy venenosa” a “muy inocua”. La idea es que Perspective analice las opiniones vertidas en la red y localice las que son irrespetuosas, con el fin de excluirlas de la conversación.

A partir de 17 millones de comentarios vertidos en el periódico The New York Times, además de otros en Wikipedia y el análisis de casos específicos de acoso en línea, la empresa Jigsaw contrató a varios miles de personas que calificaron las palabras y expresiones según una escala que iba de tóxicas a potencialmente abusivas. Esos criterios fueron tomados en cuenta para crear una base de datos de código abierto, es decir, que todo el mundo puede usar, la cual crea patrones y establece el posible nivel de agresividad. De nuevo según Jigsaw, editores y desarrolladores podrán adaptar la herramienta a sus necesidades, para determinar qué se puede decir y qué es intolerable en sus páginas web. Aunque de momento Perspective se encuentra en etapa inicial y sólo está disponible en inglés, la organización planea lanzarla en otros idiomas.

De bote pronto, la noticia da gusto: la tecnología puede poner freno a los discursos de odio, tanto de espontáneos como de trolls. Es decir que si Perspective cobra fuerza, para mostrar inconformidad se volverá indispensable argumentar y no sólo proferir insultos. Sin embargo, la iniciativa camina en la muy delgada línea que divide la corrección política de la censura. ¿Cómo definir qué es un insulto? ¿Lo es decirle a alguien “gorda”, “negro”, “vieja” o “chaparro”? ¿O se trata de una descripción objetiva? Ya se sabe que a lo largo de su campaña, Trump dijo ser “políticamente incorrecto” como excusa para llamar a gente que no le gusta “cerdos”, “animales molestos” y, claro, “violadores” o “bad hombres”. De un lado está la violencia verbal. Del otro, la prohibición de usar el lenguaje para expresar una postura impopular sobre temas sensibles, como violencia de género, racismo, medio ambiente.

A ver cómo le hace Google para encontrar un justo medio.