Deepfakes de IA: apps nudify ameaçam a privacidade online
Deepfakes de IA: apps nudify ameaçam a privacidade online. Um grupo de mais de 80 mulheres em Minneapolis, Minnesota, descobriu que fotos publicadas nas redes sociais foram transformadas em conteúdo sexual não consensual por meio de aplicativos “nudify”, revelando uma nova dimensão de risco à privacidade digital.
Deepfakes de IA: apps nudify ameaçam a privacidade online
A consultora de tecnologia Jessica Guistolise foi alertada em junho de 2023 de que imagens suas e de amigas haviam sido manipuladas com inteligência artificial. Segundo a emissora CNBC, o responsável utilizou o site DeepSwap, que vende planos de assinatura e permite criar fotos e vídeos explícitos em poucos segundos, bastando uma única fotografia.
Embora o autor dos deepfakes, identificado como Ben, tenha admitido a criação das montagens, a falta de provas de distribuição impediu que fosse enquadrado em crimes existentes. “Ele não quebrou nenhuma lei que conhecemos”, lamentou a estudante de Direito Molly Kelley, uma das vítimas.
O impacto emocional foi imediato. Grávida na época, Kelley relatou aumento de estresse, enquanto a amiga Megan Hurley disse sentir paranoia e ansiedade, temendo que as imagens se espalhassem. Pesquisadores citados pela matéria apontam que o simples conhecimento da existência do material já causa trauma, mesmo sem divulgação pública.
Ferramentas como DeepSwap operam com modelos de negócios semelhantes aos de aplicativos convencionais, divulgando-se em redes sociais e nas lojas App Store e Google Play. Para Haley McNamara, do National Center on Sexual Exploitation, “é possível gerar um deepfake realista em menos tempo do que preparar um café”, o que amplia a vulnerabilidade, principalmente de mulheres.
Pressionados, legisladores de Minnesota apresentaram um projeto que aplica multa de US$ 500 mil às plataformas que ofereçam serviços de nudify sem consentimento. Em nível federal, o Take It Down Act já criminaliza a publicação de imagens sexuais não consensuais, mas especialistas alertam que ainda faltam mecanismos para punir a simples criação do conteúdo.
Imagem: Golden Dayz
No exterior, casos semelhantes ganharam as manchetes: um australiano recebeu pena de nove anos de prisão por produzir deepfakes de 26 mulheres. No Brasil, investigações revelaram quadrilhas que usam IA para fabricar pornografia falsa e atender encomendas em grupos do Facebook, Telegram e Discord.
A situação expõe uma corrida entre a popularização das ferramentas de IA generativa e a capacidade de atualização das leis. “É importante que as pessoas saibam que isso existe, é acessível e precisa parar”, reforçou Guistolise.
Para saber como proteger seus dados e acompanhar outras iniciativas legislativas no país, acesse também a editoria Brasil e continue informado.
Crédito da imagem: Golden Dayz / Shutterstock.com
