Meta, la compañía conocida anteriormente como Facebook, anunció recientemente sus planes de retrasar el despliegue del cifrado de extremo a extremo en la totalidad de sus servicios de mensajería hasta algún momento de 2023, citando varias preocupaciones de los defensores de la seguridad infantil que advirtieron que el cambio protegería a los acosadores de menores.
Ayer, la empresa ofreció más detalles sobre cómo piensa abordar la necesidad de prevenir este tipo de daños junto con el eventual despliegue del cifrado de extremo a extremo.
IA + machine learning para prevenir el acoso a menores
Mientras que su tecnología sería capaz de escanear los mensajes privados no cifrados para detectar patrones de comportamiento maliciosos, no es el caso en un entorno cifrado de extremo a extremo, según explicó Meta. En su lugar, la empresa planea utilizar la inteligencia artificial y el aprendizaje automático (machine learning) para examinar las partes no cifradas de su plataforma, como los perfiles y las fotos de los usuarios, en busca de otras señales que puedan indicar una actividad maliciosa.
Por ejemplo, si un adulto creara nuevos perfiles y siguiera intentando contactar con menores a los que no conoce, o si empezara a enviar mensajes a un gran número de desconocidos, la empresa podría intervenir para tomar medidas, según la publicación del blog de Meta.
Recientemente, Meta ha puesto en marcha una serie de medidas de protección para las cuentas de menores, entre las que se incluye el establecimiento por defecto de cuentas privadas o «solo para amigos» en Facebook e Instagram. Además, este año la compañía ha introducido funciones que impiden a los usuarios adultos de Instagram ponerse en contacto con menores de edad que no les siguen.
Y en Messenger, ahora aparecen avisos de seguridad que ofrecen consejos para detectar actividades sospechosas y cómo tomar medidas como bloquear, denunciar, ignorar o restringir a otros usuarios, desarrolladas mediante aprendizaje automático. En el último mes, más de 100 millones de usuarios han visto estos consejos. Meta afirma que este tipo de función también podría funcionar en un entorno cifrado de extremo a extremo.
Meta incentiva la denuncias a publicaciones maliciosas que involucren a menores de edad
La empresa citó además la serie de funciones para los usuarios que les permiten controlar mejor quién puede llegar a ellos a través de su bandeja de entrada. Los creadores de contenido que busquen un mayor alcance pueden querer menos controles, pero querrán filtrar los comentarios abusivos y el spam, mientras que las personas con cuentas privadas pueden querer restringir totalmente el contacto solo a las personas que conocen.
Otras funciones de mensajería difuminan las imágenes y los vídeos y bloquean los enlaces de las solicitudes de mensajes (conversaciones privadas iniciadas por personas que no conoces).
Meta también ha señalado que, a principios de este año, introdujo un cambio en sus funciones de denuncia que hace más fácil denunciar los contenidos que violan las políticas de abuso infantil, añadiendo una opción que dice «implica a un niño» en la función de reporte, e hizo más accesible el sistema de denuncia. La empresa afirma que, debido a esto, se ha producido un aumento de casi el 50% de las denuncias de un año a otro.
Cuando se denuncian los mensajes, esa parte de la conversación se descifra para que la empresa pueda tomar medidas, como denunciar el intento de abuso infantil a las fuerzas del orden o al NCMEC, por ejemplo. Meta afirma que también advierte a los usuarios de que compartir imágenes de abuso infantil, incluso con motivo de indignación, es perjudicial, y ha lanzado la campaña «Denúncialo, no lo compartas» para concienciar a los usuarios.
Foto de Dima Solomin en Unsplash
