Instagram vai alertar pais sobre buscas de risco entre adolescentes

A Meta lançou uma nova ferramenta que enviará alertas aos pais quando seus filhos adolescentes realizarem buscas repetidas por termos relacionados à autolesão. A implementação começará nos Estados Unidos, Reino Unido, Austrália e Canadá.

A funcionalidade de controle parental notificará os responsáveis sempre que os adolescentes buscarem repetidamente conteúdos que indicam comportamentos de risco. Essas notificações poderão ser enviadas por e-mail, mensagem de texto, WhatsApp ou diretamente dentro do aplicativo.

As mensagens informativas incluirão detalhes sobre os hábitos de busca preocupantes dos adolescentes. Os pais também terão acesso a recursos adicionais de ajuda. Para que a funcionalidade funcione, tanto pais quanto adolescentes devem estar inscritos nas ferramentas de supervisão parental.

A empresa afirmou que os alertas visam garantir que os pais estejam cientes das buscas repetidas e que tenham os recursos necessários para apoiar seus filhos.

Contexto dos processos judiciais

Essa ação é uma resposta às acusações enfrentadas pela empresa, que alega que o design dos aplicativos, como o Instagram, pode ter efeitos negativos na saúde mental de jovens usuários. Especialistas comentam sobre vários processos legais envolvendo plataformas como YouTube, TikTok e Snap, que estão sendo avaliados em tribunais por seus supostos impactos prejudiciais.

O CEO da Meta, Mark Zuckerberg, recentemente prestou depoimento em um tribunal da Califórnia, onde foi alegado que uma usuária se tornou viciada em redes sociais na adolescência. Durante seu depoimento, Zuckerberg destacou que as empresas responsáveis pelos sistemas operacionais, como Apple e Google, estão em melhor posição para verificar a idade dos usuários do que os desenvolvedores de aplicativos.

Documentos legais divulgados revelaram comunicações internas que discutiam como os esforços de criptografia da empresa poderiam dificultar a denúncia de material de abuso sexual infantil às autoridades. A Meta negou as alegações apresentadas nos processos.

A empresa classificou a nova ferramenta como um “bom começo” e reconheceu que alguns alertas poderiam não indicar uma preocupação real. A Meta se comprometeu a continuar ouvindo o feedback dos usuários sobre o recurso e anunciou planos para lançar alertas semelhantes relacionados a interações com inteligência artificial.

Esses futuros alertas surgem em meio a preocupações sobre chatbots de IA que podem ter interações questionáveis com usuários. A Meta está desenvolvendo um novo modelo de IA, denominado “Avocado”, que deve ser lançado ainda este ano.

Decisão da Comissão Federal de Comércio

A Comissão Federal de Comércio dos EUA decidiu que não tomará medidas contra operadores de sites que coletam dados para verificação de idade, como parte de uma revisão da COPPA Rule.