OpenAI compartilha ressalvas da Anthropic sobre exigências do Pentágono

OpenAI compartilha preocupações da Anthropic sobre relações com o Pentágono

A OpenAI, desenvolvedora do ChatGPT, manifestou preocupações semelhantes às da Anthropic em relação ao envolvimento com o Pentágono, conforme confirmou um porta-voz da OpenAI à CNN.

Esse alinhamento implica que, caso o Pentágono opte por rescindir o contrato com a Anthropic em favor da OpenAI, enfrentará as mesmas inquietações sobre a aplicação de IA em armamentos e vigilância em massa.

O CEO da OpenAI, Sam Altman, destacou em entrevista à CNBC na manhã de sexta-feira (27) a importância da colaboração com o Pentágono, desde que respeitadas as “proteções legais” e as “restrições” que a OpenAI e outras empresas do setor de IA impõem em relação ao uso da tecnologia nas forças armadas.

“Apesar das minhas divergências com a Anthropic, confio na empresa e acredito que eles se preocupam com a segurança. Fico satisfeito que estejam apoiando nossos militares”, afirmou Altman. “Não sei como isso vai terminar”, completou.

Um funcionário do Pentágono declarou à CNN que o Departamento “continuará a expandir os recursos de IA” e que “implementará recursos de IA para todos os usos legítimos”, em resposta à declaração de Altman.

“O Departamento continuará a garantir a segurança de todos os modelos utilizados, independentemente do nível de classificação”, acrescentou.

Fontes informaram que Altman contatou diretamente o Pentágono nesta semana, expressando preocupação com a afirmação do secretário de Defesa dos EUA, Pete Hegseth, sobre a Anthropic representar um risco para a cadeia de suprimentos. Ele mencionou a possibilidade de utilizar a Defense Procurement Act para obrigar a Anthropic a colaborar com as Forças Armadas.

O sistema Claude, da Anthropic, foi o primeiro modelo de IA a ser empregado em sistemas classificados das Forças Armadas. Entretanto, o Pentágono deu à empresa um prazo até sexta-feira (27) para que aceitasse abandonar as salvaguardas internas, permitindo o uso do sistema para “todas as finalidades legítimas”. Se a Anthropic não concordar, poderá perder um contrato de US$ 200 milhões e ser rotulada como um “risco na cadeia de suprimentos”, classificação similar à de empresas ligadas a adversários estrangeiros.

A Anthropic expressou desejo de colaborar com o Pentágono, mas suas preocupações quanto ao uso de IA em armamentos e vigilância em massa se devem à crença de que a tecnologia ainda não é suficientemente confiável. A empresa também argumentou que as leis e regulamentações atuais não refletem adequadamente os avanços na IA.

Em um memorando enviado à equipe da OpenAI na quinta-feira (26), obtido pela CNN, Altman salientou que “esta não é apenas uma questão entre a Anthropic e o Departamento de Guerra; é uma questão para toda a indústria e é vital esclarecer a posição da OpenAI”. Ele afirmou que a OpenAI possui uma proposta para o Pentágono que permitirá a implementação de seus modelos em ambientes confidenciais, alinhando-se aos princípios da empresa.

“Acreditamos que essa disputa não se refere a como a IA será utilizada, mas sim ao controle. Creio que uma empresa privada americana não pode ser mais poderosa que o governo americano democraticamente eleito, embora as empresas possam ter considerável influência”, destacou Altman no comunicado, divulgado inicialmente pelo Wall Street Journal.

“A situação atual coloca em risco nossa segurança nacional e pode levar o governo a adotar medidas que comprometam a liderança americana em IA. Queremos ajudar a reduzir a tensão”, concluiu Altman.

A OpenAI é uma das várias empresas de IA que firmaram contratos com o Pentágono para “desenvolver protótipos de capacidades de IA de ponta para enfrentar desafios críticos de segurança nacional, tanto em contextos de combate quanto empresariais”, conforme declarado pelo Pentágono. Contudo, o Claude, da Anthropic, permanecia como o único modelo utilizado em sistemas secretos das Forças Armadas até recentemente.

Um oficial do Pentágono informou à CNN que o Grok, de Elon Musk, agora está “aprovado para uso em ambientes secretos”, enquanto outras empresas, incluindo a OpenAI, estavam “próximas de serem aprovadas”.

*Haley Britzky, da CNN, contribuiu com esta matéria.*