Facebook cierra cuentas relacionadas a venganzas pornográficas

Lo difícil es detectar juicios sobre interacciones como odio y explotación

Facebook se convirtió en una de las empresas de medios de comunicación más importante del mundo. Esta bestia híbrida también se posicionado en el negocio mediático. Pero cuenta con una ventaja frente a sus competidores de medios: No podía considerarse el mismo tipo de responsabilidades legales que sus competidores. En cambio, fue, y sigue siendo, en gran medida libre de establecer sus propios estándares editoriales.

La política principalde la red social, es que será retirado si no existen quejas o reclamos de otros usuarios. La empresa ha respondido a las críticas y ha contratado a miles de nuevos moderadores para filtrar determinados contenidos. El caso de la pornografía y la propiedad intelectual pirateada pueden detectarse y eliminarse mediante análisis algorítmico. Pero eso es lo fácil. La parte difícil es hacer juicios sobre las interacciones humanas: intimidación, odio y explotación. Para ello miles de moderadores trabajan duro a diario.

De acuerdo a testimonios recogidos por The Guardian, a los que My Press tuvo acceso, las políticas relacionadas con contenido sexual son las más complejas de seguir por sus moderadores. Estas son las directrices que deben seguir para decidir qué contenido deben censurar. En el mes de enero, la red del millonario Zuckerberg decidió cerrar 14 mil cuentas por haber utilizado imágenes de pornografía en venganza o extorsión sexual. De este número, existieron 33 casos donde había involucrado menores.

Ahora que Facebook se ha hecho tan grande, no es sólo una empresa de medios, sino una máquina que no encaja en ninguna de las categorías tradicionales. La cuestión de quién debe controlar su contenido es difícil de esquivar y más difícil de responder. Por el momento, Facebook reclama el derecho de determinar sus propias reglas, aunque esto está restringido por ciertas leyes, como es el caso de la Unión Europea.

Un aspecto débil de Facebook, es que muestra ciertas limitaciones en la categorización de las personas que la compañía considera "vulnerables", las cuales forman parte central de su política de discurso abusivo o violento.Las personas "vulnerables" son definidas como aquellas que son impotentes, como las personas sin hogar. Pero esta definición no hace nada para combatir el verdadero problema de la intimidación. La cuestión de si las palabras o las imágenes constituyen intimidación sólo puede determinarse a partir del contexto, no examinándolas individualmente en una lista de verificación.

En un ambiente donde todo es monetizado, hasta se podría defender cosas desagradables dichas en grupos privados entre adultos que consienten, pero en ninguna parte de la red social es verdaderamente privado. Eso hace que la defensa tradicional de la libertad de expresión, se convierta en un verdadero desafío. El problema de la moderación desafía las respuestas fáciles. Tiene que haber límites en lo que se puede publicar allí. Pero, ¿quién debería establecerlas y hacerlas cumplir? Es urgente un amplio debate democrático: se trata de un problema social, no de los tecnócratas.