A Meta lançou recentemente uma nova ferramenta de detecção de conteúdo gerado por inteligência artificial, que, segundo análise da Reuters, falhou em identificar algumas imagens criadas pela própria tecnologia após edições simples, como recortes. Este resultado levanta preocupações sobre a eficácia da ferramenta em identificar deepfakes, especialmente em um contexto eleitoral nos Estados Unidos.
Durante a análise, a ferramenta reconheceu todas as imagens originais geradas pelo modelo Muse Image, mas não conseguiu identificar 55% das imagens que foram recortadas. A Meta afirmou que a ferramenta ainda está em fase de pré-visualização e que a marca d’água invisível, projetada para resistir a edições, pode ser perdida em recortes severos.
Concorrentes como Google e OpenAI também admitiram que suas ferramentas de detecção enfrentam desafios semelhantes. O Conselho de Supervisão da Meta já havia solicitado à empresa que ampliasse seus esforços para combater a disseminação de conteúdo enganoso gerado por IA.
Especialistas em ciência da computação destacam que sistemas baseados em marcas d’água têm limitações, pois qualquer modificação que remova ou enfraqueça a marca pode comprometer a eficácia da detecção. Apesar das limitações, pesquisadores reconhecem que essa tecnologia representa um avanço significativo na identificação de conteúdos gerados por IA.
