X, Meta e TikTok são suspeitos de IA em abuso infantil

Espanha investiga X, Meta e TikTok por uso de IA em abuso infantil

A Espanha decidiu que o Ministério Público investigue as plataformas X, Meta e TikTok devido à suspeita de que estejam circulando materiais de abuso sexual infantil gerados com o uso de inteligência artificial (IA), conforme informações da Reuters.

O anúncio foi feito pelo primeiro-ministro Pedro Sánchez, que tem promovido uma agenda mais rigorosa de controle sobre plataformas digitais. De acordo com o governo, a medida é baseada em um relatório técnico elaborado por três ministérios, que aponta indícios de que ferramentas de IA estão sendo usadas para criar e disseminar conteúdos ilegais envolvendo menores.

Essa ação faz parte de um pacote mais amplo de propostas regulatórias apresentado por Sánchez em um encontro internacional realizado em Dubai neste mês. Além da investigação, o governo pretende restringir o acesso de adolescentes às redes sociais, propondo uma proibição para menores de 16 anos, que ainda precisa ser aprovada pelo parlamento.

Pressão sobre algoritmos e responsabilidade das plataformas

A porta-voz do governo, Elma Saiz, enfatizou que as autoridades não podem permitir que sistemas algorítmicos ampliem ou ocultem crimes dessa natureza. A avaliação do Executivo é de que a segurança, a privacidade e a dignidade de crianças e adolescentes estão ameaçadas pela capacidade das ferramentas de IA de produzir imagens e vídeos manipulados.

Dados mencionados pelo governo, com base em pesquisa da organização Save the Children, mostram que um em cada cinco jovens na Espanha, principalmente meninas, relatou que imagens falsas de nudez, criadas por IA, foram produzidas e compartilhadas enquanto ainda eram menores.

Em declaração pública, Sánchez afirmou que o Estado não pode tolerar a impunidade de grandes empresas em relação a conteúdos que afetam os direitos fundamentais das crianças. O Ministério da Justiça deverá solicitar aos promotores que investiguem a possível criação e disseminação desse tipo de material com o apoio de ferramentas de IA.

Respostas das empresas e investigações paralelas

Até o momento, a única empresa a emitir uma resposta foi o TikTok, que afirmou que conteúdos de abuso infantil são proibidos em sua plataforma e que mantém sistemas voltados para a prevenção da exploração de menores, incluindo investimentos em tecnologias de detecção.

X e Meta ainda não se manifestaram publicamente sobre a investigação.

Paralelamente, a Comissão de Proteção de Dados da Irlanda iniciou uma investigação formal sobre o chatbot Grok, desenvolvido pela xAI e integrado ao X. A investigação busca avaliar o processamento de dados pessoais e o potencial de geração de imagens e vídeos sexualizados, incluindo os que envolvem crianças. A autoridade irlandesa é a principal reguladora da União Europeia para a empresa de Elon Musk, já que suas operações europeias estão sediadas no país.

Movimento global de endurecimento regulatório

A iniciativa espanhola ocorre em um contexto de crescente escrutínio internacional sobre plataformas digitais. A Comissão Europeia está conduzindo investigações contra Meta, TikTok e também contra o Grok, com base na Lei de Serviços Digitais da União Europeia, que impõe obrigações mais rigorosas para o combate a conteúdos ilegais e a proteção de usuários.

Outros países, como França, Brasil e Canadá, também estão implementando medidas semelhantes para lidar com a distribuição de conteúdos considerados ilegais por sistemas automatizados. No Reino Unido, a Internet Watch Foundation relatou a identificação de milhares de vídeos de abuso infantil gerados por IA no último ano, um número significativamente maior do que o registrado anteriormente.

Na Espanha, além da investigação atual, o Parlamento já havia sinalizado apurações sobre possíveis violações de privacidade envolvendo usuários do Facebook e Instagram. A nova frente de investigação amplia o foco para o uso de inteligência artificial como ferramenta na produção de material ilícito.