Índice
Aplicativos de deepfake são removidos após denúncias de abuso de imagem
A Apple removeu aplicativos de deepfake da App Store após uma investigação revelar o uso dessas ferramentas para criar imagens sexualizadas sem consentimento. A decisão foi tomada após denúncias que apontaram a promoção desses apps no TikTok, incentivando usuários a gerar imagens falsas de nudez, principalmente de mulheres, a partir de selfies ou fotos públicas.
Aplicativos usavam inteligência artificial para simular nudez
Esses aplicativos funcionavam com o auxílio da inteligência artificial, prometendo “apimentar selfies” ou mostrar “fotos quentes da sua paixão”. Apesar de parecerem inofensivos, as ferramentas serviam, na prática, para simular a remoção digital de roupas. O uso dessas imagens manipuladas levanta sérias questões sobre consentimento e privacidade, principalmente quando são utilizadas para assediar ou chantagear mulheres, incluindo menores de idade.
TikTok também é pressionado por permitir divulgação
Os anúncios dos aplicativos circulavam abertamente no TikTok, mesmo sendo contra as regras da plataforma. Um porta-voz da empresa afirmou que conteúdos sexualmente sugestivos são proibidos, mas não explicou como os vídeos foram aprovados. Quatro aplicativos foram identificados promovendo esses conteúdos por meio de publicidade paga.
Apesar da remoção inicial, vídeos similares ainda permanecem na plataforma, o que gerou críticas sobre a efetividade da moderação do TikTok. A situação mostra como a tecnologia pode ser mal utilizada e exige medidas urgentes das empresas envolvidas.
Apple e Google tomam medidas de contenção
Após as denúncias, a Apple removeu três dos aplicativos e exigiu mudanças antes que eles possam voltar à loja. Um quarto aplicativo teve sua conta de desenvolvedor encerrada permanentemente. O Google também iniciou uma investigação para verificar se apps semelhantes estão disponíveis no Android.
A decisão da Apple de remover aplicativos de deepfake destaca a crescente preocupação com o uso indevido da tecnologia. Além da violação de privacidade, há riscos reais de danos emocionais e reputacionais para as vítimas, especialmente adolescentes e jovens mulheres.
Especialistas cobram regulamentação mais rígida
O professor Arvind Narayanan, da Universidade de Princeton, afirmou que essas ferramentas deveriam ser completamente proibidas. Segundo ele, as lojas de aplicativos precisam implementar barreiras mais eficazes para impedir o acesso a tecnologias que violam o consentimento e colocam a segurança digital das pessoas em risco.
A retirada desses aplicativos pela Apple é um passo importante, mas especialistas alertam que o problema vai além das lojas virtuais. A sociedade precisa avançar na discussão sobre ética digital, especialmente em tempos em que a inteligência artificial torna mais fácil a criação de conteúdos falsos e prejudiciais.
Perguntas frequentes
O que levou a Apple a remover os aplicativos de deepfake?
A decisão foi motivada por uma investigação da BBC, que revelou o uso de inteligência artificial para criar imagens sexualizadas sem consentimento.
Esses aplicativos estavam disponíveis apenas para iOS?
Não. Embora estivessem na App Store, também há indícios de que versões similares existiam para Android, o que levou o Google a iniciar sua própria investigação.
O TikTok permitiu os anúncios desses aplicativos?
Sim. Os anúncios foram promovidos no TikTok, apesar de irem contra as diretrizes da plataforma. A empresa alegou que conteúdos desse tipo não são permitidos.
Como os especialistas veem o uso desses aplicativos?
Especialistas defendem a proibição total de ferramentas que permitem a criação de deepfakes sem consentimento, devido aos riscos éticos, legais e psicológicos envolvidos.
