X responsabiliza usuários por conteúdo ilegal gerado pelo Grok

Plataforma X responsabiliza usuários por conteúdo ilegal gerado pelo Grok

A plataforma X decidiu atribuir responsabilidade aos usuários pelo conteúdo de abuso sexual infantil (CSAM) gerado pelo chatbot Grok, em vez de realizar atualizações no sistema de inteligência artificial (IA).

A empresa anunciou que irá excluir contas que induzirem a IA a criar material ilegal, após o chatbot produzir imagens sexualizadas de menores. O comunicado foi feito quase uma semana após o início da controvérsia.

A equipe de segurança da X declarou que a responsabilidade recai sobre os usuários que fazem solicitações inadequadas ao Grok, alertando sobre possíveis suspensões de contas e consequências legais. Contudo, a plataforma não apresentou planos para melhorar os filtros do chatbot, que permitiram a criação de imagens sexualmente explícitas de pessoas reais, incluindo menores, sem consentimento.

A equipe de segurança do X informou: “Tomamos medidas contra conteúdo ilegal na plataforma, removendo material de abuso sexual infantil, suspendendo contas permanentemente e colaborando com autoridades locais e policiais, conforme necessário.” Além disso, enfatizou que quem usar ou incentivar o Grok a gerar conteúdo ilegal enfrentará as mesmas consequências que aqueles que fizerem upload desse tipo de material.

Especialistas questionam a falta de mecanismos preventivos na plataforma para evitar que o Grok produza CSAM em suas respostas. A controvérsia envolve diretamente a plataforma X e seu chatbot, além de potencialmente afetar a Apple como reguladora por meio das políticas da App Store.

A X já possui sistemas para combater material de abuso infantil. Em 2025, a empresa suspendeu mais de 4,5 milhões de contas por violação de políticas relacionadas a CSAM e reportou centenas de milhares de imagens ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC).

Kylie McRoberts, chefe de segurança da X, afirmou que “em 2024, 309 denúncias feitas pela X ao NCMEC resultaram em prisões e condenações em 10 casos”, e no primeiro semestre de 2025, “170 denúncias levaram a prisões”.

Elon Musk, proprietário da X, reforçou as consequências para usuários que fizerem solicitações inadequadas. Ele respondeu a um usuário que defendia que o Grok não poderia ser responsabilizado por criar imagens inapropriadas, comparando a situação a culpar uma caneta por escrever algo ruim. No entanto, especialistas ressaltam que geradores de imagens como o Grok não precisam produzir exatamente o que o usuário solicita.

Em setembro passado, a X Safety informou que possui uma “política de tolerância zero em relação a conteúdo CSAM”, utilizando tecnologia proprietária para detectar a maioria dos casos automaticamente. A empresa se comprometeu a agir rapidamente ao identificar material de abuso sexual infantil, suspendendo permanentemente contas e denunciando-as ao NCMEC.

Críticos pedem a proibição do aplicativo Grok na App Store da Apple, argumentando que, até que filtros transparentes contra CSAM sejam implementados, tanto o chatbot quanto a plataforma X deveriam ser banidos da loja.

Uma possível proibição na App Store poderia provocar uma forte reação de Musk, que processou a Apple no ano passado, alegando favorecimento ao ChatGPT, o que prejudica a competitividade do Grok no mercado de chatbots.