Un grupo de ingenieros de Facebook ha identificado un «fallo masivo de clasificación» que expuso hasta la mitad de todas las visualizaciones de la sección de noticias a potenciales «riesgos de integridad» durante los últimos seis meses, según un informe interno sobre el incidente obtenido por The Verge.
Los ingenieros detectaron el problema por primera vez el pasado mes de octubre, cuando una repentina oleada de desinformación comenzó a circular a través de la sección de noticias, según señala el informe, que fue compartido dentro de la empresa la semana pasada.
La desinformación se difundía con más facilidad, en vez de ser suprimida
En lugar de suprimir las publicaciones de personas que reincidían a la hora de difundir desinformación que había sido revisada por la red de verificadores externos de la empresa, la sección de noticias distribuía las publicaciones y aumentaba las visualizaciones hasta en un 30% a nivel mundial. Al no poder encontrar la causa principal, los ingenieros observaron cómo el aumento disminuía unas semanas más tarde y luego volvía a aparecer repetidamente hasta que el problema de clasificación se solucionó el 11 de marzo.
Además de las publicaciones marcadas por los verificadores de información, la investigación interna descubrió que, durante el periodo del fallo, los sistemas de Facebook no degradaron adecuadamente los posibles desnudos, la violencia e incluso los medios de comunicación estatales rusos que la red social se comprometió recientemente a dejar de recomendar en respuesta a la invasión de Ucrania por parte del país. El problema fue designado internamente como un SEV de nivel uno, o evento del sitio web, una etiqueta reservada para las crisis técnicas de alta prioridad, como el actual bloqueo de Facebook e Instagram por parte de Rusia.
El portavoz de Meta, Joe Osborne, confirmó el incidente en una declaración a The Verge, diciendo que la compañía «detectó inconsistencias en el downranking en cinco ocasiones distintas, que se correlacionaron con pequeños aumentos temporales en las métricas internas».
«Downranking»: el sistema que devalúa el contenido controvertido en la sección de noticias
Los documentos internos dijeron que el problema técnico tuvo lugar por primera vez en 2019, pero no creó un impacto notable hasta octubre de 2021. «Rastreamos la causa raíz a un error de software y aplicamos las correcciones necesarias», dijo Osborne, y añadió que el error «no ha tenido ningún impacto significativo a largo plazo en nuestras métricas» y no se aplicó al contenido que cumplió con el umbral de su sistema para la eliminación.
Durante años, Facebook ha promocionado el «downranking» (devaluación del contenido) como una forma de mejorar la calidad de la sección de noticias y ha ampliado constantemente los tipos de contenido sobre los que actúa su sistema automatizado. El downranking se ha utilizado en respuesta a las guerras y las noticias políticas controvertidas, lo que ha aumentado la preocupación general por el «shadow banning» e incentivado las peticiones para reforzar la legislación al respecto.
En 2018, el director ejecutivo, Mark Zuckerberg, explicó que el downranking combate el impulso que la gente tiene intrínsecamente para interactuar con el contenido «más sensacionalista y provocativo». «Nuestra investigación sugiere que, independientemente de dónde tracemos los límites de lo que está permitido, a medida que un contenido se acerca a esa línea, la gente interactuará más con él en promedio, incluso cuando nos digan después que no les gusta el contenido», escribió en un post de Facebook en ese momento.
Foto de Solen Feyissa en Unsplash
