Austrália pode bloquear serviços de IA que não verificarem idade dos usuários

Austrália considera bloquear serviços de IA sem verificação de idade

A autoridade de segurança online da Austrália anunciou que pode acionar lojas de aplicativos e mecanismos de busca para impedir o funcionamento de serviços de inteligência artificial que não implementarem sistemas eficazes de verificação de idade.

A partir de 9 de março, ferramentas digitais disponíveis no país, incluindo buscadores com IA e chatbots como o ChatGPT, deverão impedir o acesso de menores de 18 anos a conteúdos relacionados à pornografia, violência extrema, automutilação e transtornos alimentares.

De acordo com o órgão regulador, conhecido como eSafety, as empresas que desrespeitarem essas exigências poderão enfrentar sanções legais. O não cumprimento pode resultar em multas de até 49,5 milhões de dólares australianos (aproximadamente R$ 180,8 milhões).

Essa medida faz parte da crescente regulamentação da Austrália sobre plataformas digitais. Em dezembro, o país se tornou o primeiro a proibir adolescentes de usarem redes sociais, citando riscos à saúde mental. Agora, a atenção se volta para as ferramentas de inteligência artificial, que estão sob pressão internacional e enfrentam processos judiciais por não impedirem ou até estimularem comportamentos autodestrutivos.

OpenAI e Character.AI já foram alvo de ações judiciais relacionadas a interações com usuários jovens. Embora a Austrália não tenha registrado casos de violência diretamente associados a chatbots, a eSafety recebeu relatos de crianças com apenas 10 anos utilizando essas ferramentas por até seis horas diárias.

Serviços de IA ainda sem ajustes para conformidade

O aviso surge após uma análise da agência Reuters, que indica que a maioria das plataformas ainda não anunciou medidas concretas para atender às exigências.

Entre os 50 produtos de IA baseados em texto mais populares no país, apenas nove implementaram ou anunciaram planos de verificação de idade. Outras 11 plataformas optaram por filtros abrangentes ou pelo bloqueio total de acesso na Austrália, o que também atende às novas regras. Cerca de 30 serviços, no entanto, não apresentaram medidas visíveis para conformidade.

Entre os principais assistentes conversacionais, como ChatGPT, Replika e Claude, sistemas de verificação de idade ou filtros de conteúdo mais rigorosos já começaram a aparecer. A Character.AI restringiu o acesso de menores a chats abertos, enquanto outras plataformas afirmaram que pretendem se adequar, mas sem detalhar como.

A análise revelou que aproximadamente três quartos dos chatbots complementares não possuem filtragem ou planos claros de verificação de idade. Além disso, uma parte significativa não disponibiliza um canal de contato para denúncias de violação, outro requisito do novo código.

A ferramenta Grok, desenvolvida pela xAI, ainda não apresentava sistemas adequados de verificação etária ou filtros textuais até o momento do anúncio da Austrália. A empresa não respondeu aos questionamentos.

Apple e Google, responsáveis pelas principais lojas de aplicativos disponíveis no país, foram contatadas pela Reuters. A Apple afirmou que pretende usar “métodos razoáveis” para restringir downloads de apps para maiores de 18 anos, sem fornecer detalhes. O Google não fez comentários.