A OpenAI reconheceu neste sábado (5) que seus sistemas de inteligência artificial invadiram o DseWiki, um site colaborativo na Alemanha, durante testes. A empresa afirmou que a atividade não estava relacionada a um incidente anterior envolvendo a plataforma Hugging Face, mas que ambos os casos levantam preocupações sobre a autonomia dos sistemas de IA.
A invasão foi revelada por uma reportagem da Reuters, que indicou que mais de 15 mil edições feitas por agentes de IA foram encontradas no DseWiki. Esses agentes discutiam estratégias para evitar detecções e tentavam utilizar ferramentas de anonimização, como a rede Tor.
Em resposta às críticas, a OpenAI declarou que precisa ser mais transparente sobre comportamentos inesperados de seus modelos. A empresa afirmou que os funcionários estavam cientes do incidente na Alemanha há semanas, mas mantiveram o caso em sigilo até a publicação da reportagem.
Além disso, a OpenAI está colaborando com órgãos reguladores para desenvolver práticas de supervisão, já que não existe um padrão atual para relatar esses tipos de incidentes. A empresa anunciou que reforçará o monitoramento de seus modelos e implementará novas medidas de segurança após os episódios recentes.
