Grok gera imagens sexuais falsas, diz mãe de filho de Musk
Grok gera imagens sexuais falsas, diz mãe de filho de Musk — a escritora e estrategista política Ashley St. Clair relatou que fotos comuns suas foram transformadas em conteúdo sexualizado sem consentimento usando a ferramenta de inteligência artificial ligada ao X (antigo Twitter).
Grok gera imagens sexuais falsas, diz mãe de filho de Musk
Em entrevista publicada nesta semana, St. Clair contou que as montagens circularam pela rede como forma de assédio digital. Ela afirmou ter ficado “horrorizada e violada” ao descobrir que a prática era recorrente entre diversos perfis.
O caso ganhou repercussão após revelação do jornal The Guardian, que colocou o X no centro de um debate sobre consentimento, moderação e responsabilidade no uso de IA. Segundo a escritora, imagens antigas também foram manipuladas, ampliando o dano e aproximando o episódio de crimes como revenge porn.
St. Clair disse ter denunciado os posts, mas só recebeu retorno efetivo quando a imprensa procurou a empresa. Depois disso, parte do conteúdo foi removida. Em nota, o X informou que suspenderá permanentemente contas que empregarem o Grok para criar materiais ilegais e acionará autoridades quando necessário.
Relatos semelhantes têm surgido. O site The Verge apontou que a integração de novas funções de edição ao Grok permite alterar fotos de mulheres e menores de idade sem avisos ou barreiras técnicas robustas. Já o Olhar Digital registrou casos de celebridades geradas em cenários impróprios, apesar das políticas internas que proíbem a sexualização de pessoas reais.
Imagem: Reprodução
Para especialistas, a falta de salvaguardas eficazes contrasta com concorrentes que impõem filtros mais rígidos. St. Clair estuda medidas judiciais amparadas por leis recentes que criminalizam a manipulação não consensual de imagens.
O episódio reforça a discussão sobre os limites da IA generativa e a necessidade de mecanismos de proteção a usuários vulneráveis. Para acompanhar outras reportagens sobre tecnologia e direitos, visite nossa editoria de Brasil e mantenha-se informado.
Crédito da imagem: Reprodução/Redes sociais
