Dario Amodei, cofundador e CEO da Anthropic, pediu que as empresas de inteligência artificial moderem o ritmo de avanço das capacidades de seus modelos diante do aumento das preocupações com o uso indevido da IA. Em um artigo divulgado neste sábado (12), ele apresentou uma estrutura de três etapas com o objetivo de desacelerar o desenvolvimento e criar mais tempo para lidar com seus riscos.
“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e precisamos fazer bom uso do tempo que ganharmos”, afirmou Amodei.
O ensaio foi publicado após a Anthropic divulgar um relatório de inteligência sobre ameaças, detalhando como diversos agentes usaram seus modelos de IA Claude em atividades que variam de desenvolvimento de armas a operações cibernéticas.
A preocupação com os danos potenciais causados pela IA aumentou após a demissão do pesquisador Jacob Coxon, que expressou temores sobre os riscos associados à tecnologia. Amodei esclareceu que não defende a interrupção do treinamento de modelos, mas sim que as empresas reservem tempo suficiente para alinhar e proteger seus modelos.
Como parte de sua proposta, Amodei sugeriu a instalação de revisores externos permanentes nas empresas que desenvolvem IA, com acesso a ferramentas e processos internos de avaliação de riscos. Ele também enfatizou a necessidade de colaboração entre empresas para estabelecer padrões e a crescente demanda por regulamentação nos Estados Unidos.
