Meta ha incorporado nuevas medidas de protección en su asistente de inteligencia artificial para adolescentes. La compañía ha anunciado que Meta AI podrá enviar notificaciones proactivas a los padres cuando detecte que sus hijos tratan temas especialmente sensibles en una conversación, como el suicidio o las autolesiones. La medida busca reforzar los recursos de apoyo ya disponibles y facilitar que los adultos puedan intervenir cuando un menor pueda estar atravesando una situación difícil.
Hasta ahora, cuando un adolescente expresaba en una conversación con Meta AI que podía estar pensando en hacerse daño o en suicidarse, el sistema mostraba recursos para contactar con líneas de ayuda y le animaba a hablar con un adulto de confianza. Con la nueva función, Meta añade un paso más: informar a los padres que ya utilizan herramientas de supervisión parental cuando el asistente identifique señales de posible riesgo.
La compañía aplicará este sistema tanto en referencias claras a suicidio o autolesiones como en señales más sutiles que puedan sugerir que el adolescente necesita apoyo. En estos casos, las conversaciones marcadas por Meta AI no activarán automáticamente la alerta, sino que pasarán por la revisión de un equipo humano de moderación antes de que se envíe la notificación a los padres. Meta ha indicado que, cuando la intención del menor resulte ambigua, actuará con cautela y priorizará el aviso a los adultos.
La herramienta sigue la línea de una función anunciada previamente para Instagram. En esa red social, Meta ya había empezado a notificar a los padres cuando sus hijos adolescentes buscaban de forma repetida términos relacionados con el suicidio o la autolesión en un corto periodo de tiempo. La extensión de este planteamiento a Meta AI refleja el creciente peso de los chatbots en la vida digital de los menores y la necesidad de adaptar los controles de seguridad a nuevas formas de interacción.
Por el momento, las alertas de Meta AI estarán disponibles para padres que utilicen la supervisión parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá. La intención de la compañía es ampliar esta función al resto de padres en todo el mundo antes de que termine el año.
Meta también ha señalado que los padres disponen de una configuración de contenido limitado, pensada para restringir la aparición de contenidos clasificados como +13 en las cuentas de adolescentes. Esa protección se aplicará ahora también a las conversaciones que los menores mantengan con Meta AI, con el objetivo de que la experiencia con el asistente sea más adecuada a su edad.
Además, la tecnológica afirma que trabaja con expertos en salud mental y adolescencia para mejorar la forma en que Meta AI responde a consultas relacionadas con suicidio y autolesiones. Esta colaboración pretende ajustar el tono, los recursos y las respuestas del chatbot ante situaciones de especial sensibilidad.
La medida llega en un contexto de mayor atención regulatoria y social sobre el impacto de las plataformas digitales en los menores. Para Meta, el reto consiste en combinar la expansión de sus herramientas de inteligencia artificial con mecanismos de supervisión, apoyo y seguridad que permitan detectar señales de riesgo sin sustituir la intervención de adultos, familias o profesionales.
