A Anthropic, empresa responsável pela ferramenta de inteligência artificial Claude, revelou que identificou países que tentaram utilizar sua tecnologia para fins maliciosos, como propaganda, drones de guerra e até o desenvolvimento de possíveis armas biológicas. A informação foi divulgada em um relatório ao qual o jornal ‘The New York Times’ teve acesso.
Entre os países mencionados estão Rússia, China, Irã e Iémen. O relatório destaca casos de uso indevido, incluindo o monitoramento de opositores exilados por parte de China e Irã. Um exemplo notável é o da Rússia, que utilizou a IA para criar propaganda disfarçada de reportagens jornalísticas visando influenciar as eleições na Moldávia.
A Anthropic afirmou que não conseguiu determinar se as pesquisas biológicas eram para fins legítimos, como o desenvolvimento de vacinas, ou ilegítimos, já que os mesmos processos podem ser usados para criar patógenos. Em casos de dúvida, a empresa optou por interromper o serviço de IA como medida de precaução.
O relatório não forneceu detalhes sobre os bloqueios realizados, como os nomes dos pesquisadores ou instituições envolvidas. Especialistas expressam preocupações sobre o potencial dos modelos de IA em facilitar o desenvolvimento de patógenos, destacando que a rápida evolução da tecnologia pode escapar ao controle humano.
Além disso, a Anthropic foi mencionada na mídia após um ex-funcionário, Jacob Coxon, criticar a empresa e a rival OpenAI, afirmando que ambas estão ‘brincando com nossas vidas’ ao desenvolver tecnologias que podem levar a uma superinteligência autossustentável.
