Imagem: Mojahid Mottakin
IA do X apresenta riscos de manipulação de imagens de cunho sexual
Ferramenta de edição levanta alerta sobre consentimento e violência digital.
Atualizado há 85 dias
O Grok, ferramenta de inteligência artificial vinculada à plataforma X (antigo Twitter, plataforma que foi renomeada após ser comprada por Elon Musk), reconheceu nesta sexta-feira (02/01) “falhas nos mecanismos de proteção” após a geração e publicação de imagens de nudez de mulheres e crianças na rede social. Em comunicado, a empresa afirmou que atua com urgência para corrigir o problema, classificado como uma falha do sistema.
O caso provocou reação do governo francês. Ministros denunciaram o episódio à Arcom, órgão regulador de mídia do país, para avaliar se o conteúdo viola a legislação europeia de serviços digitais. Em nota, autoridades classificaram o material como “sexual e sexista”.
A controvérsia ocorre em meio ao lançamento de uma ferramenta de edição de imagens do Grok capaz de manipular fotos reais com alto grau de realismo, incluindo a simulação de remoção de roupas e a criação de cenas sexualizadas sem consentimento. Especialistas apontam que a capacidade técnica amplia riscos já conhecidos no uso de IA para a produção de imagens íntimas falsas.
Pesquisas internacionais indicam que mulheres são as principais vítimas de deepfakes pornográficos, frequentemente sem conhecimento prévio da manipulação. Os impactos relatados incluem danos à reputação, sofrimento psicológico e riscos profissionais, além de dificuldades de responsabilização quando o conteúdo é gerado por sistemas automatizados.
O episódio reacende o debate sobre limites, salvaguardas e responsabilidade no desenvolvimento e na liberação de tecnologias de inteligência artificial, especialmente quando afetam direitos à imagem, à privacidade e à dignidade no ambiente digital.

Rayza Espírito Santo
Redatora, repórter de editorias diversas, social media e fotojornalista.
Veja também
Mais
lidas- 1
Carro usado no sequestro de jovem em Itaipu é encontrado carbonizado em

- 2
Corpo de idoso desaparecido em Maricá é encontrado na Estrada da Restinga

- 3
Denúncia expõe trama política e familiar contra Paulo Melo

- 4
Homem é preso após agredir idosa para roubar cerveja em Nova Iguaçu

- 5
Homem é encontrado morto com marcas de tiros na restinga de Maricá

Comentários (0)