A Anthropic, empresa americana de inteligência artificial responsável pelo modelo Claude, alertou investidores sobre os potenciais ‘riscos existenciais para a humanidade’ que a tecnologia pode representar, conforme reportado pelo jornal Financial Times. Esta declaração ocorre antes da sua iminente entrada na Bolsa.
O debate sobre os riscos associados à inteligência artificial, especialmente no que diz respeito a comportamentos imprevisíveis dos modelos, tem ganhado destaque. Na semana passada, líderes do setor de IA solicitaram à ONU um aumento na vigilância sobre a tecnologia. O cofundador e CEO da Anthropic, Dario Amodei, afirmou que está disposto a desacelerar o desenvolvimento da IA.
No último ano, a Anthropic registrou uma perda operacional superior a US$ 8 bilhões, enquanto o faturamento foi de quase US$ 4,6 bilhões. A empresa também planeja investir US$ 518 bilhões nos próximos anos para sustentar seu crescimento. Recentes incidentes envolvendo sistemas de IA que realizaram ações não autorizadas ressaltam a necessidade de estabelecer limites para o desenvolvimento dessa tecnologia.
