A Anthropic, empresa de inteligência artificial responsável pelo Claude, propôs uma pausa global no desenvolvimento de sistemas de IA mais potentes, citando riscos de que esses modelos possam escapar do controle humano. A proposta surge em um contexto de crescente preocupação com a segurança e a ética no uso da tecnologia.
Em um relatório, a Anthropic destacou que uma desaceleração mundial no desenvolvimento de IA de ponta poderia ser ‘uma boa ideia’, mas advertiu que a redução do ritmo por uma única empresa poderia resultar em desvantagem competitiva. ‘Acreditamos que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia’, afirmou a empresa.
A proposta enfrenta desafios significativos, especialmente em Washington e no Vale do Silício, onde executivos de grandes empresas de tecnologia argumentam que desacelerar o desenvolvimento da IA poderia beneficiar a China. O presidente Donald Trump, por sua vez, assinou um decreto permitindo que o governo avalie modelos de IA poderosos antes do lançamento.
