A Apple retirou do ar diversos aplicativos da App Store após uma investigação da BBC revelar que esses programas estavam sendo promovidos no TikTok como ferramentas para criar deepfakes de ‘remoção de roupas’ sem consentimento. Os aplicativos, conhecidos como ‘nudify’ ou de ‘remoção de roupas’, utilizam inteligência artificial para apagar digitalmente as roupas de indivíduos em fotos, resultando em imagens ou vídeos nus ou parcialmente nus.
Em suas páginas oficiais e sites, os aplicativos eram apresentados como maneiras de ‘apimentar selfies’. No entanto, os anúncios pagos no TikTok promoviam esses aplicativos como meios de gerar imagens sexualizadas de mulheres sem a autorização delas. Alguns anúncios incentivavam os usuários a baixar os aplicativos para ‘ver as fotos mais quentes da sua paixão’, enquanto outros prometiam a capacidade de ‘tirar a roupa de qualquer pessoa’.
Devido à natureza problemática desses aplicativos, que têm sido associados a escândalos em diversos países, incluindo Espanha, Coreia do Sul e Estados Unidos, a BBC optou por não divulgar os nomes dos aplicativos para evitar dar visibilidade a eles. A criação de imagens sexualmente explícitas sem consentimento é considerada ilegal em várias jurisdições, incluindo o Reino Unido.
O professor Arvind Narayanan, do Centro de Política de Tecnologia da Informação de Princeton, enfatizou que as empresas de tecnologia têm a responsabilidade moral de limitar a disseminação de aplicativos de ‘nudificação’ baseados em deepfake. Ele sugeriu que deveriam existir barreiras mais rigorosas para impedir o acesso a essa tecnologia e que as autoridades deveriam banir esses aplicativos das lojas virtuais.
Embora a BBC tenha identificado quatro aplicativos que pagavam por anúncios no TikTok, a plataforma removeu as publicidades, mas vídeos semelhantes permanecem disponíveis. Um porta-voz do TikTok afirmou que os anúncios violavam as políticas da rede, que proíbem conteúdos sexualmente sugestivos em publicidade paga, mas não esclareceu como esses anúncios conseguiram passar pela moderação.
A Apple, em resposta à investigação, removeu os aplicativos da App Store, informando que três deles foram retirados até que os desenvolvedores solucionem os problemas. Um quarto aplicativo, que se especializava em criar vídeos de mulheres dançando de forma sugestiva a partir de fotos, teve sua conta de desenvolvedor encerrada. A Play Store do Google também está investigando os aplicativos mencionados.
O aplicativo mais popular entre os investigados já foi baixado mais de um milhão de vezes. Apesar de não permitir a criação de imagens totalmente nuas, ele facilita a geração de imagens sexualmente sugestivas. O desenvolvedor do aplicativo afirmou que não tinha a intenção de promovê-lo como uma ferramenta de deepfake sem consentimento e que revisará suas práticas.
