La Internet superficial es aquella porción de la Red accesible gracias a los buscadores como Google. Un usuario promedio de Internet navega diariamente por ella, encontrando habitualmente todo lo que demanda a golpe de clic. Pero la inmensidad de Internet va mucho más allá y, como en todo, hay un lado oscuro llamado deep web.
Plagada de contenidos ilegales y violentos, y dada la imposibilidad de eliminarlos por completo, el objetivo de los sistemas de indexación de los buscadores es que este tipo de material no trascienda a la Internet superficial, donde estaría a la vista de todo el mundo. Sin embargo, no es necesario navegar por la Internet profunda para encontrar contenido desagradable, ya que podemos toparnos con ello bastante a menudo en las redes sociales.
Todas las plataformas de interacción social cuentan con una serie de normas y condiciones de uso, que en el caso de incumplirse pueden ocasionar la eliminación del contenido en cuestión. Normalmente, son otros usuarios los que alertan del problema para que el equipo de moderadores de turno lo revise y tome una decisión.
Una mejor IA de cribado elimina más rápidamente los contenidos dañinos
Es el caso de Facebook, que cuenta con un sistema de aprendizaje automático que realiza un primer filtro. Posteriormente, el contenido es visionado por humanos moderadores, quienes determinan si debe o no ser suprimido de la red social. Una difícil tarea de la que Facebook quiere que se encargue el máximo posible la Inteligencia Artificial.
Para lograr mayor eficacia han mejorado el algoritmo de cribado, que hasta ahora acumulaba los contenidos a revisar en una cola por orden de llegada. Sin embargo, ahora se hará por orden de prioridad, es decir, en base a la gravedad del material: los más urgentes serán los que antes lleguen a ojos de los moderadores para que se mantengan el menor tiempo posible en Facebook.
Según informa The Verge, en el futuro se utilizarán un conjunto de algoritmos de aprendizaje automático para ordenar la cola de contenidos a revisar, priorizando las publicaciones en función de tres criterios: su viralidad, su gravedad y la probabilidad de que estén rompiendo las reglas.
El objetivo es lidiar en primer lugar con las publicaciones más dañinas, aquellas que involucren un daño en el mundo real, y también aquellas que más se compartan y difundan. Por otra parte, el spam se situará en último lugar para su revisión, ya que se trata de contenido molesto pero no traumático.
Facebook pagó 52 millones para no ir a juicio
El pasado mayo conocíamos la noticia de que Facebook indemnizaría con 52 millones de dólares a trabajadores actuales y antiguos de su equipo de moderación en Estados Unidos para evitar ir a juicio.
El caso se remonta a septiembre de 2018, cuando una antigua moderadora, Selena Scola, denunció las condiciones en las que ella y sus compañeros trabajaban. Scola, a la que posteriormente se unieron varios trabajadores del gremio, demandó a la compañía de Mark Zuckerberg tras sufrir estrés postraumático derivado del desempeño de sus tareas como moderadora en esta red social.
Finalmente, Facebook ha esquivado la batalla legal con una indemnización de apenas unos 1.000 dólares para cada trabajador afectado, que se utilizarán para financiar el tratamiento psicológico que requieran. La plataforma también se comprometió a mejorar distintas herramientas del proceso de moderación para reducir el impacto, como por ejemplo que los vídeos comiencen sin audio de manera predeterminada y que se visualicen en blanco y negro.
Los moderadores de Facebook se enfrentan diariamente a todo tipo de contenido de carácter violento, como actos terroristas, maltrato animal, asesinatos o abuso infantil. Esta labor, sin una formación adecuada y un apoyo psicológico constante, puede acarrear graves problemas relacionados con la salud mental para quien la desarrolla.
Imagen de Gerd Altmann en Pixabay.
