Acaba de entrar plenamente en vigor en Alemania una ley que ya ha generado fuerte controversia y que pinta para levantar más discusión: la German Network Enforcement Act (en alemán, NetzDG). De acuerdo con sus postulados, las plataformas digitales podrían tener que pagar hasta 57 millones de dólares en multas si no eliminan, en un plazo máximo de 24 horas, contenidos claro de odio o violencia.

En este contexto, Facebook permitió el acceso de un grupo de periodistas a uno de sus centros para control de contenido, en este caso, el que se ubica en la ciudad de Essen, Alemania, mismo que comenzó a operar en meses pasados. Las instalaciones constan de cinco pisos, donde 500 empleados se turnan para filtrar 24/7 posteos, comentarios, fotos y videos compartidos por los dos mil millones de usuarios activos mensuales de Facebook en el mundo. La empresa responsable de operar el centro se llama Competence Call Center (CCC) y fue contratada por la compañía de Zuckerberg. Según explicaron ejecutivos del CCC al reportero Max Hoppenstedt, de la revista Motherboard, de Vice, la mayor parte del contenido censurado corresponde a discursos de odio, spam y noticias falsas, además de fotos y videos “explícitos”. El contenido más agresivo, aquel que involucra propaganda terrorista, violencia extrema o pornografía infantil debe ser evaluado en las oficinas de Berlín, que operan desde 2015 y donde laboran más de 600 empleados. Así, en el país germano se concentra una sexta parte del personal moderador de Facebook a nivel mundial, señala The Guardian.

Hay varios problemas. Uno es que el sistema de regulación no es transparente y genera suspicacias, pues los criterios sobre qué debe ser censurado resultan vagos. Al menos así lo dijeron empleados de las oficinas de Berlín, quienes hace unos meses se quejaron con el medio alemán Süddeutsche Zeitung por el estrés al que están sometidos y la falta de precisión de las normas que deben implementar. La publicación narra que realizó 19 preguntas específicas a la empresa sobre cómo aplica las pautas de regulación de contenido, a lo cual recibió como respuesta: “No comentamos esos temas”. Por otro lado, varios trabajadores dijeron estar afectados por su diaria exposición durante horas a imágenes de extrema violencia, asesinato y abuso a menores. “Desde que vi videos de pornografía infantil siento que me he vuelto una monja. Ya no puedo concebir la idea de tener sexo. Hace más de un año que no tengo relaciones con mi pareja, empiezo a temblar en cuanto me toca”, dijo una empleada, según la publicación.

La nueva ley alemana y las consecuentes medidas adoptadas por plataformas digitales, que seguramente comenzarán a replicarse en países europeos, me dejan con muchas preguntas:

¿Qué credenciales laborales, educativas y personales deben tener los empleados que deciden la eliminación de contenido?

¿Qué criterios específicos aplican para quitar un posteo que alguien considera “explícito”? Sé de casos en los que FB ha censurado fotografías artísticas de desnudos, incluso de obras de arte clásicas. Hace unos meses, yo compartí una imagen bellísima de la fotógrafa Yamina del Real, para anunciar una exposición de su trabajo: la plataforma la consideró inadecuada y la borró de mi muro. Al tratarse de una cuestión discrecional, ¿ante la amenaza de altas multas, va a privilegiarse siempre la censura?

¿Qué posibilidad tiene de argumentar un usuario cuyo comentario, foto o video fue borrado?

Finalmente, dado que ese bicho llamado “libertad de expresión” enfrenta nuevos retos en el mundo digital, ¿veremos crecer organismos inquisidores oficiales? Digo “oficiales”, porque de por sí las redes sociales tienen su propio sistema flamígero para condenar y linchar: el anonimato.

A ver qué sigue.