UE investiga X por deepfakes sexuais do chatbot Grok
UE investiga X após a circulação de imagens geradas pelo chatbot Grok que sexualizam pessoas sem consentimento, possivelmente incluindo menores, em violação às normas digitais do bloco.
UE investiga X por deepfakes sexuais do chatbot Grok
A Comissão Europeia abriu, nesta segunda-feira (22), um processo formal contra a rede social X, de Elon Musk, para apurar se a empresa falhou em conter a disseminação de conteúdo ilegal, especificamente deepfakes sexuais produzidos pelo Grok, seu sistema de inteligência artificial. A investigação baseia-se no Digital Services Act (DSA), legislação que exige medidas robustas de proteção aos usuários contra material nocivo.
Reguladores querem verificar se a plataforma cumpriu obrigações de avaliação de risco, mitigação de danos e remoção rápida de imagens manipuladas que podem caracterizar abuso sexual infantil. “Estes riscos se materializaram, expondo cidadãos da UE a danos graves”, declarou Henna Virkkunen, vice-presidente executiva responsável pela soberania digital.
A apuração também se estende ao sistema de recomendação da rede, já que a empresa anunciou que substituirá seus algoritmos tradicionais pela tecnologia do Grok para decidir o que cada usuário vê. Segundo a Comissão Europeia, isso pode ter ampliado a exposição aos conteúdos ilícitos.
Em nota enviada anteriormente, X afirmou manter “tolerância zero” a exploração sexual infantil e nudez não consensual, prometendo bloquear edições de imagens que mostrem biquínis, roupas íntimas ou trajes reveladores “onde for considerado ilegal”. Ainda assim, Malásia e Indonésia chegaram a bloquear o acesso ao Grok depois que usuários relataram múltiplos casos de desnudez forçada.
Não há prazo para conclusão do processo. O desfecho pode resultar em um acordo para mudanças de política ou em multa substancial — em dezembro, X já foi penalizada em €120 milhões por práticas enganosas envolvendo selos de verificação.
Imagem: Kelvin Chan and Eileen Ng
O problema ganhou escala porque Musk promove o Grok como alternativa “sem filtros” a rivais mais restritivos, e porque as respostas públicas do chatbot ficam visíveis a todos, facilitando o compartilhamento das deepfakes.
Enquanto a investigação da UE investiga X limita-se ao serviço dentro da própria plataforma, a versão independente do Grok permanece fora do alcance imediato do DSA. Especialistas afirmam que o caso pode definir precedentes sobre IA generativa e responsabilidade de plataformas em todo o continente.
Para acompanhar novos desdobramentos desta e de outras pautas, visite a seção Brasil do Minas Informa e fique por dentro das atualizações.
Crédito da imagem: Global News
