Especialistas em tecnologia da OpenAI e da Meta alertaram que os vídeos e áudios falsificados por inteligência artificial (IA), conhecidos como deepfakes, estão se tornando cada vez mais difíceis de distinguir de conteúdos autênticos. O aviso foi feito durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, que discute há três anos como lidar com os riscos de materiais falsificados por IA nos tribunais.
Os avanços da IA generativa, tecnologia capaz de criar conteúdos a partir de comandos, tornaram as falsificações difíceis de identificar, tanto por pessoas quanto por programas de computador. Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por IA estão melhorando constantemente e que não há uma maneira científica garantida de detectá-las.
Desde 2023, o comitê debate como verificar a autenticidade de materiais suspeitos de serem deepfakes e garantir que provas produzidas com IA atendam aos mesmos critérios de confiabilidade exigidos de outros tipos de evidência. Apesar da preocupação, poucos casos foram registrados nos tribunais americanos até o momento.
De acordo com o juiz federal Jesse Furman, que preside o comitê, a maioria dos comentários sobre o tema é teórica, pois ainda não houve muitos casos práticos. Devin Norder, diretor de gestão de produtos da Meta, destacou que conteúdos criados por modelos de IA avançados podem ser indistinguíveis de mídias autênticas, além de serem relativamente fáceis e baratos de produzir.
Na Califórnia e na União Europeia, novas leis exigem o uso de marcas-d’água para ajudar a identificar materiais falsificados. Entretanto, Anderson alertou que não existe um método universal para identificar todas essas marcas ou confirmar a autenticidade de um conteúdo visual, o que limita a verificação.
