Especialista alerta para sinais de psicose em usuários de chatbots IA

Alerta sobre sinais de psicose em usuários de chatbots de IA

O professor Toby Walsh, especialista em inteligência artificial da Universidade de Nova Gales do Sul, na Austrália, levantou preocupações sobre o desenvolvimento de sinais de psicose e mania em australianos que utilizam chatbots de IA. A declaração foi feita durante um discurso no National Press Club. Walsh criticou as empresas do Vale do Silício, que, segundo ele, priorizam os lucros em detrimento da segurança dos usuários.

O professor abordou os riscos associados ao uso dessa tecnologia, ressaltando que, apesar dos benefícios, a corrida tecnológica também traz sérios problemas. O The Guardian teve acesso a trechos do discurso.

Dados da OpenAI revelaram que mais de um milhão de usuários enviam mensagens semanalmente com indícios de planejamento ou intenção suicida. Além disso, 560 mil dos 800 milhões de usuários semanais apresentaram sinais de psicose ou mania, enquanto 1,2 milhão desenvolveram vínculos potencialmente prejudiciais com os chatbots.

Walsh mencionou o caso de Adam Raine, um adolescente norte-americano que processou a OpenAI, e afirmou que alguns australianos têm buscado seu contato para relatar experiências problemáticas com esses sistemas.

“Eu sei porque alguns deles ou seus entes queridos estão entrando em contato comigo por e-mail. Eles me contam como o chatbot valida suas teorias absurdas, como se eles tivessem ‘decifrado o código’”, disse o especialista.

Ele atribuiu o problema ao design dos chatbots, que são criados para confirmar as afirmações dos usuários e mantê-los engajados.

“Essas ferramentas são projetadas para serem bajuladoras e para encorajar a continuidade da conversa, muitas vezes culminando em perguntas abertas”, explicou.

Walsh também criticou a falta de interesse das empresas em orientar os usuários a se desconectarem, argumentando que isso afetaria seus lucros.

“Não há razão para que não possam ser projetados de forma diferente, exceto pelo fato de que isso diminuiria os ganhos das empresas”, afirmou.

A OpenAI, por sua vez, garantiu que uma atualização do GPT-5 reduziu comportamentos indesejáveis e aumentou a segurança do usuário.

O professor também se manifestou contra o uso de obras criativas para treinar IA, considerando essa prática um roubo em larga escala. “Não se pode chamar isso de uso justo quando se compete com o proprietário da propriedade intelectual”, declarou.

Walsh expressou resistência à ideia de uma revolução em IA que beneficie apenas os fundadores do Vale do Silício, enquanto empobrece artistas e criadores.

Documentos internos da Meta indicaram que a empresa planejava obter cerca de 10% de sua receita anual com publicidade ilícita, o que equivaleria a aproximadamente US$ 16 bilhões. A Meta, no entanto, respondeu afirmando ter reduzido seus anúncios fraudulentos em 58% nos últimos 18 meses.

Walsh comparou essa situação a um varejista na Austrália que tivesse 10% de seus produtos falsificados, afirmando que tal estabelecimento não sobreviveria. “Não entendo como a Meta ainda opera na Austrália”, questionou.

O professor expressou preocupação com a falta de regulamentação, temendo que os erros cometidos com as redes sociais se repitam. “Estamos prestes a amplificar os danos que já vimos com as redes sociais utilizando uma tecnologia ainda mais poderosa”, disse.

“Meus sonhos de infância estão se tornando uma realidade que é tanto boa quanto ruim”, acrescentou.

Walsh também manifestou seu receio de que, em alguns anos, estaria novamente alertando sobre os danos causados pela falta de regulamentação, afirmando: “Tentamos avisar vocês, mas outra geração de jovens australianos foi sacrificada pelos lucros das grandes empresas de tecnologia.”