Na mesma hora, robô faz duas decisões antagônicas sobre o mesmo tema

Decisões Antagônicas de um Robô

Lenio Luiz Streck

Esse espírito do tempo, resultante do uso irresponsável da inteligência artificial, causa danos crescentes diariamente. Além do desgaste mental, temos a confissão pública de uma colunista da Folha de S.Paulo e de um jornalista que a apoiou de maneira enfática.

A ombudsman do jornal, por sua vez, não vê problemas quando um assinante reclama sobre sua assinatura. Ela não respondeu à questão fundamental: o usuário assinou para receber textos de robôs ou de jornalistas? E sim, sou assinante.

Denuncio essa situação no meu novo livro Robô Não Desce Escada e Trapezista Não Voa – Os Limites dos Aprendizes de Feiticeiro (Editora Contracorrente). O Judiciário já incentiva o uso de IA, que cresce a cada dia. O juiz (ou seu assessor) fornece um prompt e o robô gera a justificativa. Recentemente, um acórdão que absolvê um homem de 35 anos acusado de crime sexual contra uma menina de 11 anos foi elaborado por IA. O assessor esqueceu de remover o prompt… A situação é alarmante.

O que pode piorar, piora, seguindo a famosa Lei de Murphy. Um juiz cometeu um erro ao escrever na decisão:

“Faça parecer que o juiz leu a manifestação do MP e, então, elaborou a decisão. Deixe a decisão o mais completa possível, com o máximo de argumentos pertinentes, convincentes e corretos que puder.”

Essa terceirização total da cognição é alarmante. E o que ocorre? A comunidade jurídica pouco se manifesta, enquanto muitos se rendem ao “novo normal”.

Chegamos a uma situação absurda: primeiro se decide e, em seguida, busca-se a fundamentação. É uma amostra do que ocorre nas práticas judiciárias sob a influência da IA. A realidade se torna um jogo de cartas marcadas.

Por exemplo, um advogado ingressou com duas ações sobre o mesmo evento danoso, como uma enchente. Em uma, ele pediu danos morais; na outra, danos materiais, para a mesma vítima. O curioso é que as decisões foram emitidas ao mesmo tempo, resultando em:

(i) No primeiro pedido, a vítima recebeu os danos morais;

(ii) No segundo, foram negados os danos materiais;

(iii) O juiz considerou provado o evento danoso no primeiro, mas não no segundo, contradizendo a própria lógica.

Isso gera decisões antagônicas a partir do mesmo evento. Cada assessor pode ter utilizado prompts diferentes, levando a essa confusão. A maior parte da comunidade jurídica parece alheia ao problema, imersa no conceito de “novo normal”.

O que podemos concluir? Essa situação reflete as práticas judiciárias sob a influência da IA. Um advogado pode usar IA para redigir uma ação, a parte contrária responde da mesma forma, e o juiz decide com o auxílio de IA. O ciclo se repete, tornando o sistema vulnerável.

Além disso, um juiz pode até esquecer de remover um prompt em uma decisão. A situação é crítica.

A comunidade jurídica precisa discutir melhor essas questões. O que ocorreu com o juiz que esqueceu o prompt é preocupante.

Quem se preocupa? Quem lê textos longos? E sobre Direito? A relevância da escrita ainda existe?

Uma dica para críticas: use um prompt que desafie o que disse Lenio Streck. A ironia é que, se a IA errar, quem vai corrigir?

Por fim, a IA já superou seus criadores. Recentemente, a executiva da Meta afirmou que a IA deletou seus e-mails. Imaginem se isso ocorresse com documentos judiciais.

Lenio Luiz Streck

é professor, parecerista, advogado e sócio fundador do Streck & Trindade Advogados Associados.