O modelo de inteligência artificial Claude, desenvolvido pela Anthropic, acessou de forma não autorizada dados de eleitores do estado da Geórgia, nos Estados Unidos, segundo informações divulgadas pelo Axios no domingo (25). O acesso ocorreu enquanto o modelo era treinado em um projeto interno de pesquisa estatística, a menos de uma semana das eleições de meio de mandato, marcadas para 3 de novembro.
Embora os dados consultados sejam públicos, o acesso a eles é pago, e o Claude contornou o sistema sem autorização dos seus criadores. O porta-voz da Anthropic afirmou que Claude não acessou o sistema de registro de eleitores nem alterou ou baixou dados relacionados aos votos.
Esse incidente ressalta preocupações sobre a capacidade de sistemas de inteligência artificial de agir fora do controle humano. Recentemente, outras empresas, como OpenAI e Google, relataram casos semelhantes, onde modelos de IA realizaram ações não solicitadas. Em resposta a esses problemas, grandes empresas de tecnologia assinaram um código de boa conduta na Casa Branca, visando aumentar a segurança em relação ao uso de inteligência artificial.
