Menu

Imagem da notícia Imagem: Mojahid Mottakin

IA do X apresenta riscos de manipulação de imagens de cunho sexual

Ferramenta de edição levanta alerta sobre consentimento e violência digital.

Atualizado há 85 dias

O Grok, ferramenta de inteligência artificial vinculada à plataforma X (antigo Twitter, plataforma que foi renomeada após ser comprada por Elon Musk), reconheceu nesta sexta-feira (02/01) “falhas nos mecanismos de proteção” após a geração e publicação de imagens de nudez de mulheres e crianças na rede social. Em comunicado, a empresa afirmou que atua com urgência para corrigir o problema, classificado como uma falha do sistema.

O caso provocou reação do governo francês. Ministros denunciaram o episódio à Arcom, órgão regulador de mídia do país, para avaliar se o conteúdo viola a legislação europeia de serviços digitais. Em nota, autoridades classificaram o material como “sexual e sexista”.

A controvérsia ocorre em meio ao lançamento de uma ferramenta de edição de imagens do Grok capaz de manipular fotos reais com alto grau de realismo, incluindo a simulação de remoção de roupas e a criação de cenas sexualizadas sem consentimento. Especialistas apontam que a capacidade técnica amplia riscos já conhecidos no uso de IA para a produção de imagens íntimas falsas.

Pesquisas internacionais indicam que mulheres são as principais vítimas de deepfakes pornográficos, frequentemente sem conhecimento prévio da manipulação. Os impactos relatados incluem danos à reputação, sofrimento psicológico e riscos profissionais, além de dificuldades de responsabilização quando o conteúdo é gerado por sistemas automatizados.

O episódio reacende o debate sobre limites, salvaguardas e responsabilidade no desenvolvimento e na liberação de tecnologias de inteligência artificial, especialmente quando afetam direitos à imagem, à privacidade e à dignidade no ambiente digital.

Foto do Jornalista

Rayza Espírito Santo

Redatora, repórter de editorias diversas, social media e fotojornalista.

Comentários (0)

Veja também

Mais

lidas
  1. 1
    Carro usado no sequestro de jovem em Itaipu é encontrado carbonizado em
  2. 2
    Corpo de idoso desaparecido em Maricá é encontrado na Estrada da Restinga
  3. 3
    Denúncia expõe trama política e familiar contra Paulo Melo
  4. 4
    Homem é preso após agredir idosa para roubar cerveja em Nova Iguaçu
  5. 5
    Homem é encontrado morto com marcas de tiros na restinga de Maricá
Mais do Gazeta