Meta, la empresa matriz de Instagram, anunció que próximamente comenzará a enviar alertas a padres cuyos hijos adolescentes realicen búsquedas repetidas de términos relacionados con el suicidio o la autolesión en la plataforma. La medida entrará en vigor la semana siguiente al anuncio y se aplicará inicialmente en Estados Unidos, Reino Unido, Australia y Canadá, para usuarios que ya utilicen las herramientas de supervisión parental.
Alcance y notificación a familias
Las alertas estarán disponibles a través de correo electrónico, mensajes de texto o WhatsApp, así como mediante notificaciones directas en la aplicación, dependiendo de los datos de contacto registrados. Al hacer clic en la notificación, los padres verán un mensaje a pantalla completa indicando que su hijo ha buscado reiteradamente frases vinculadas a la autolesión o el suicidio en un periodo corto. Además, se les ofrecerán recursos especializados para facilitar conversaciones sensibles con sus hijos.
«Estas alertas están diseñadas para brindar a los padres la información necesaria para apoyar a sus hijos adolescentes e incluyen recursos especializados para ayudarlos a abordar estas conversaciones delicadas», señaló la compañía en un comunicado.
Contenido sensible y uso de inteligencia artificial
Meta indicó que mantiene políticas estrictas contra cualquier contenido que promueva o glorifique el suicidio o la autolesión, aunque permite que los usuarios compartan experiencias personales sobre estos temas. Dicho contenido, sin embargo, es restringido para menores de edad, incluso si lo publica alguien a quien siguen.
La empresa también reveló que está desarrollando alertas parentales relacionadas con el uso de inteligencia artificial (IA) en Instagram. Actualmente, su sistema de IA ya responde de forma segura a adolescentes que buscan apoyo en estos temas, ofreciéndoles recursos. Ahora, se implementarán notificaciones similares a los padres si un menor inicia ciertos tipos de conversaciones con herramientas de IA sobre autolesión o suicidio.
Presión legal y responsabilidad social
Este anuncio coincide con un creciente número de demandas judiciales contra Meta, que acusan a la compañía de diseñar algoritmos en Instagram que afectan negativamente la salud mental de los adolescentes. La empresa aseguró que se trata de un trabajo importante y que compartirá más detalles en los próximos meses.
«Sabemos que los adolescentes recurren cada vez más a la inteligencia artificial (IA) en busca de apoyo. Si bien nuestra IA ya está entrenada para responder de forma segura a los adolescentes y proporcionar recursos sobre estos temas según corresponda, ahora estamos creando alertas parentales similares para ciertas experiencias de IA»
