A empresa de tecnologia Anthropic propôs uma pausa global no desenvolvimento de sistemas de inteligência artificial cada vez mais potentes. A medida visa mitigar riscos de que os modelos mais recentes escapem do controle humano, conforme aponta relatório divulgado pela desenvolvedora do Claude.
Desaceleração mundial como estratégia de segurança
A companhia, sediada em San Francisco, destacou que a desaceleração mundial no desenvolvimento da tecnologia de ponta poderia ser uma boa ideia. Contudo, a empresa alertou que, se apenas uma organização diminuir o ritmo, ela corre o risco de ser ultrapassada pela concorrência.
“Acreditamos que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia”, manifestou a Anthropic.
Para que uma pausa seja efetiva, seria necessária a concordância de grandes potências, como China e Estados Unidos, sob regras verificáveis. A empresa reforçou que, sem um mecanismo de coordenação global, governos e corporações enfrentarão decisões complexas sobre segurança sob pressões competitivas e geopolíticas.
Desafios regulatórios e o avanço da inteligência
A proposta enfrenta resistência em Washington e no Vale do Silício, onde executivos e funcionários argumentam que desacelerar o setor poderia conferir vantagem estratégica à China. Recentemente, o presidente Donald Trump assinou um decreto que permite ao governo realizar avaliações preliminares dos modelos de IA mais poderosos antes de seus lançamentos.
A Anthropic planeja reunir nos próximos meses cientistas, grupos de defesa, concorrentes e representantes governamentais para discutir a viabilidade desse sistema de coordenação. O alerta da empresa ganha peso à medida que dados internos indicam que a tecnologia acelera seu próprio desenvolvimento de forma dramática.
Essa aceleração pode gerar um ciclo de “melhora recursiva de si mesma”, onde o sistema seria capaz de ensinar a si próprio a se tornar mais inteligente. Embora a Anthropic negue que esse cenário seja inevitável, a empresa ressaltou que “as evidências sugerem que o papel humano está diminuindo em cada etapa do processo de desenvolvimento da IA”.
Fonte: G1
