Anthropic flexibiliza segurança em IA em meio a disputa com o Pentágono

A Anthropic, fundada por ex-funcionários da OpenAI preocupados com os riscos da inteligência artificial, decidiu flexibilizar seu princípio central de segurança devido à concorrência crescente.

A nova abordagem adotada pela empresa consiste em uma estrutura de segurança não vinculativa, que, segundo ela, pode ser alterada no futuro.

Em uma postagem em seu blog na terça-feira, 24 de outubro, a Anthropic explicou que as falhas na Política de Escalabilidade Responsável, em vigor há dois anos, podem comprometer sua capacidade de competir em um mercado de IA em rápida expansão.

Esse comunicado surge na mesma semana em que a Anthropic enfrenta uma disputa importante com o Pentágono dos Estados Unidos sobre diretrizes de inteligência artificial.

Não está claro se essa mudança está relacionada à reunião da empresa com o Secretário de Defesa dos EUA, Pete Hegseth, que pressionou o CEO da Anthropic, Dario Amodei, a revogar as medidas de segurança de IA, sob pena de perder um contrato de US$ 200 milhões com o Pentágono. O governo ameaçou colocar a Anthropic em uma "lista negra".

A empresa enfatizou que a política de segurança anterior foi criada para promover um consenso na indústria em torno da mitigação dos riscos da IA, medidas que, segundo a Anthropic, foram ignoradas. Além disso, destacou que a política não estava alinhada com o atual clima político em Washington, que tende a ser antirregrulatório.

A política anterior exigia que a Anthropic interrompesse o treinamento de modelos mais avançados caso suas capacidades ultrapassassem o controle e a segurança da empresa. Essa exigência foi removida na nova política. A empresa argumentou que desenvolvedores que pausam o avanço devido a preocupações de segurança podem criar um ambiente menos seguro, enquanto concorrentes menos cuidadosos continuam a desenvolver suas tecnologias.

Na nova abordagem, a Anthropic decidiu separar seus próprios planos de segurança das recomendações direcionadas à indústria de IA.

A Anthropic expressou que esperava que seus princípios de segurança originais incentivassem outras empresas a adotarem políticas semelhantes. A ideia era criar uma "corrida para o topo", onde as empresas seriam motivadas a aprimorar as salvaguardas, em vez de enfraquecê-las.

Contudo, a empresa reconhece que isso não está acontecendo no momento. Um representante da Anthropic não respondeu imediatamente a solicitações de comentários.

A nova política inclui um “Roteiro de Segurança de Fronteira”, que estabelece diretrizes e salvaguardas autoimpostas. No entanto, a companhia admitiu que essa estrutura é mais flexível em comparação à anterior.

“Em vez de compromissos rígidos, estes são objetivos públicos para os quais avaliaremos abertamente nosso progresso”, declarou a Anthropic.

Essa mudança ocorreu um dia após o ultimato imposto por Hegseth, que exigiu a reversão das medidas de segurança até sexta-feira, 27 de outubro, sob o risco de consequências severas.

A empresa ainda mantém firmeza em duas questões: o uso de armas controladas por IA e a vigilância em massa sobre cidadãos americanos. A Anthropic acredita que a IA não é confiável o suficiente para operar armamentos e que as legislações atuais não cobrem adequadamente o uso de IA em vigilância.

Pesquisadores de IA manifestaram apoio à posição da Anthropic nas redes sociais, expressando preocupação com a aplicação da IA em contextos de vigilância governamental.

Historicamente, a Anthropic se posicionou como uma empresa que prioriza a segurança. A companhia já publicou estudos sobre como seus modelos de IA poderiam ser utilizados de forma maliciosa sob certas circunstâncias. Recentemente, a empresa doou US$ 20 milhões para a Public First Action, um grupo político que defende salvaguardas e educação em IA.

Entretanto, a Anthropic enfrenta crescente pressão e competição tanto de agências governamentais quanto de rivais do setor. Hegseth, por exemplo, planeja invocar a Lei de Produção de Defesa contra a empresa, caso não atenda às exigências do Pentágono. Além disso, a Anthropic e a OpenAI estão em uma corrida para lançar novas ferramentas de IA corporativas, visando conquistar o mercado.

O diretor científico da Anthropic, Jared Kaplan, comentou em entrevista à revista Time que a mudança foi motivada mais pela segurança do que pela concorrência. “Sentimos que não ajudaria ninguém se parássemos de treinar modelos de IA”, declarou Kaplan. “Com o rápido avanço da IA, não nos pareceu sensato assumir compromissos unilaterais, enquanto concorrentes estão avançando rapidamente.”