Uma nova ferramenta de detecção de conteúdo gerado por inteligência artificial da Meta, apresentada esta semana juntamente com o modelo de geração de imagens Muse Image, falhou em identificar algumas imagens criadas pela tecnologia após serem recortadas, de acordo com uma análise da Reuters.
A análise de 40 imagens geradas com o Muse Image revelou que a ferramenta conseguiu reconhecer todas as versões originais, mas não identificou 55% das imagens após recortes significativos. A Meta afirma que sua ferramenta preliminar pode identificar imagens geradas por seus modelos de IA mesmo após edições, utilizando um sistema de marca d’água invisível chamado Content Seal.
Questionada sobre os resultados da análise, a Meta ressaltou que a ferramenta ainda está em fase de pré-visualização e que a marca d’água pode ser comprometida por recortes severos. Concorrentes como Google e OpenAI também admitiram limitações em suas ferramentas de detecção.
O Conselho de Supervisão da Meta pediu que a empresa ampliasse seus esforços para combater a proliferação de conteúdo enganoso gerado por IA e investisse em ferramentas de detecção mais robustas. Especialistas destacam que métodos baseados em marcas d’água têm suas limitações, especialmente quando a imagem é editada.
