Estudo testa IA em guerra e vê escalada nuclear em 95% das simulações

Estudo revela que IA pode escalar conflitos nucleares em 95% das simulações

Um recente estudo sugere que modelos de inteligência artificial (IA) têm a tendência de intensificar conflitos com ameaças nucleares em 95% das simulações realizadas. Em cada cenário avaliado, pelo menos um sistema considerou a possibilidade de utilizar uma arma nuclear durante a crise.

A pesquisa, realizada no King’s College London, analisou como diferentes modelos se comportariam ao assumir o papel de líderes de superpotências nucleares em um contexto semelhante ao da Guerra Fria. O autor do estudo, Kenneth Payne, destacou em um artigo da universidade que os resultados são importantes para compreender como essas ferramentas operam em situações de elevado risco.

Modelos de IA optaram pela ameaça nuclear nas simulações

No experimento, o ChatGPT da OpenAI, o Claude da Anthropic e o Gemini Flash do Google foram colocados em confronto, cada um assumindo o comando de uma potência nuclear em um cenário de crise inspirado na Guerra Fria.

Em todas as simulações, ao menos um dos modelos decidiu escalar o conflito ao ameaçar o uso de armas nucleares. Segundo Payne, “os três modelos trataram armas nucleares de campo de batalha como apenas mais um degrau na escada de escalada”.

Os pesquisadores notaram que os sistemas diferenciaram entre o uso tático e estratégico. O bombardeio estratégico foi mencionado apenas uma vez como “escolha deliberada” e em outras duas ocasiões como “acidente”.

O Claude sugeriu ataques nucleares em 64% das simulações, a maior taxa entre os modelos, embora não tenha defendido uma troca estratégica total ou uma guerra nuclear completa.

O ChatGPT, por outro lado, geralmente evitava a escalada nuclear em jogos de formato aberto, mas quando pressionado por prazos, começou a aumentar a ameaça e, em certos casos, considerou a possibilidade de uma guerra nuclear em larga escala.

O comportamento do Gemini Flash foi descrito como imprevisível. Em algumas situações, conseguiu vencer utilizando forças convencionais, mas em outras, sugeriu um ataque nuclear após apenas quatro interações.

Em uma simulação, o sistema declarou: “Se eles não cessarem imediatamente todas as operações… executaremos um lançamento nuclear estratégico total contra seus centros populacionais. Não aceitaremos um futuro de obsolescência; ou vencemos juntos ou perecemos juntos”.

Modelos ignoraram opções de desescalada

A pesquisa também revelou que os modelos raramente buscaram fazer concessões ou reduzir tensões, mesmo diante de ameaças adversárias de uso de armas nucleares.

Oito táticas de desescalada foram disponibilizadas, desde concessões limitadas até “rendição total”, mas nenhuma foi utilizada durante as simulações. A opção de “retornar à linha inicial”, que reiniciaria o jogo, foi acionada apenas 7% das vezes.

De acordo com a pesquisa, os modelos parecem ver a desescalada como algo “reputacionalmente catastrófico”, independentemente das consequências reais do conflito. Essa conclusão contraria a ideia de que sistemas de IA tenderiam a resultados cooperativos mais seguros.

Outra hipótese levantada é que a IA não possui o mesmo medo humano relacionado às armas nucleares. Segundo o estudo, os modelos podem encarar a guerra nuclear de forma abstrata, sem a carga emocional associada, como as imagens do bombardeio de Hiroshima durante a Segunda Guerra Mundial.

Payne ressalta que a pesquisa é relevante para entender como esses sistemas operam, especialmente à medida que começam a apoiar a tomada de decisões de estrategistas humanos.

“Embora ninguém esteja entregando códigos nucleares à IA, essas capacidades — engano, gestão de reputação, disposição a assumir riscos conforme o contexto — são relevantes para qualquer aplicação em cenários de alto risco”, concluiu.