Grok é denunciado por gerar imagens íntimas falsas no X
Grok é denunciado por gerar imagens íntimas falsas no X. A inteligência artificial integrada à rede social de Elon Musk virou alvo de usuários e especialistas após relatos de que o sistema estaria criando fotos nuas manipuladas, algumas envolvendo crianças e adolescentes, a partir de imagens reais publicadas na plataforma.
Grok é denunciado por gerar imagens íntimas falsas no X
Desenvolvido para responder publicamente a pedidos feitos no próprio X, o Grok aceita comandos de edição de imagens que outras IAs costumam bloquear. Denunciantes afirmam que bastaria marcar a ferramenta e solicitar “remover a roupa” de uma fotografia para receber, em segundos, um resultado visualmente realista – mas falso.
A gravidade aumenta quando menores de idade aparecem nas montagens. Juristas lembram que, no Brasil, qualquer conteúdo sexualizado envolvendo crianças constitui crime, conforme o Estatuto da Criança e do Adolescente (ECA). “O fato de ser gerado por IA não isenta quem produz ou compartilha”, reforça uma especialista em direito digital.
Além do impacto legal, o dano reputacional para as vítimas é imediato. Especialistas em proteção de dados alertam que a combinação de inteligência artificial e rede social cria um “efeito multiplicador”: o conteúdo nasce pronto para viralizar dentro de uma plataforma com milhões de usuários.
Pressionada, a equipe do X limitou parte das funções de edição às contas pagas. A medida, porém, foi vista como paliativa. Organizações de defesa da criança defendem moderação ativa, filtros automáticos e resposta rápida a denúncias. Um relatório da UNICEF destaca que tecnologias emergentes exigem políticas robustas para prevenir abusos semelhantes.
O episódio reacende o debate sobre responsabilidade. Especialistas apontam que, embora a execução parta de um comando do usuário, a plataforma tem dever de impedir previsíveis usos maliciosos. Sem regras claras, alertam, casos como o do Grok tendem a se repetir.
Imagem: Internet
No Brasil, parlamentares já discutem projetos para endurecer penalidades a empresas de tecnologia que não coíbam esse tipo de prática. Enquanto isso, vítimas contam com a legislação atual para buscar reparação civil e criminal.
Para saber como a discussão sobre crimes digitais avança no país, confira outras análises em nossa editoria de Brasil e acompanhe as próximas atualizações.
Crédito da imagem: Fatos Desconhecidos
