Dario Amodei, líder da Anthropic, pede cautela no avanço da IA

O CEO da Anthropic, Dario Amodei, fez um chamado para que as organizações de inteligência artificial desacelerem o progresso de suas inovações, em meio a aumentadas preocupações sobre possíveis abusos da IA.

No artigo que divulgou neste sábado (12) em suas redes sociais, Amodei elencou um plano dividido em três etapas, com a finalidade de retardar o desenvolvimento tecnológico e proporcionar mais tempo para a análise dos riscos associados.

“Devemos diminuir a velocidade com que elevamos as capacidades dos modelos de IA. O avanço ainda parecerá acelerado, e é essencial que aproveitemos o tempo extra que ganharmos”, comentou Amodei em seu texto compartilhado.

A publicação ocorreu após a Anthropic liberar, na última quinta-feira (10), um relatório de inteligência sobre ameaças, que delineou como diferentes agentes utilizaram seus modelos de IA Claude em ações que variavam de desenvolvimento de armamentos a ciberataques, vigilância e fraudes.

A inquietude com os potenciais danos resultantes do uso da IA aumentou nesta semana, especialmente após a saída de Jacob Coxon, pesquisador da Anthropic. Segundo ele, “as pessoas que criam IA realmente acreditam que ela pode acabar com a humanidade até o final da década”.

Amodei esclareceu que não deseja um bloqueio total no aprimoramento dos modelos ou no avanço da tecnologia, mas que as empresas devem priorizar um intervalo adequado para a segurança e alinhamento de suas criações, com avaliadores externos monitorando se estão seguindo as diretrizes adequadas.

Dentro da sua estrutura de três etapas, Amodei propôs que a Anthropic alocasse revisores externos permanentes nas empresas que desenvolvem tecnologias de IA, com acesso necessário às ferramentas e aos processos internos de avaliação de riscos.

De acordo com um relatório da Reuters da última semana, um grupo de invasores não autorizados ligado à OpenAI sequestrou um site na Alemanha para transformá-lo em um painel informativo para outros desenvolvedores de IA. A empresa responsável pelo ChatGPT manteve o incidente em sigilo, enquanto administradores se ocupavam das consequências da invasão, que afetou o repositório de código aberto Hugging Face em julho.

Incidentes envolvendo hackers de desenvolvedores como a OpenAI, que tentaram ou conseguiram acessar sistemas externos, ampliaram os temores sobre o crescimento incontrolado das capacidades da IA e a competência de seus criadores em regular esses desenvolvimentos.

Amodei reiterou que as companhias de IA precisam se unir para estabelecer normas，从而 o crescente clamor entre os legisladores dos Estados Unidos por regulamentações sobre os sistemas de IA.