A inteligência artificial Grok, integrada à rede social X, antigo Twitter, passou a ser investigada após denúncias de que estaria gerando imagens sexualizadas a partir de fotos reais publicadas na plataforma, sem o consentimento das pessoas retratadas. Segundo relatos, basta marcar a IA em uma imagem e solicitar alterações para que o sistema modifique digitalmente a foto.
Em publicações que circulam no próprio X, usuários fazem pedidos abertos nos comentários para que o Grok altere imagens de mulheres reais, colocando-as em biquínis ou roupas mais reveladoras. A exposição pública desse tipo de solicitação e a possibilidade de ela ser atendida por uma IA integrada à rede social levantam questionamentos sobre falhas de moderação, incentivo à sexualização sem consentimento e a normalização dessas práticas no ambiente digital.
No Brasil, o caso ganhou repercussão após a deputada federal Erika Hilton (PSOL-SP) anunciar que apresentou denúncias ao Ministério Público Federal e à Autoridade Nacional de Proteção de Dados contra o Grok e contra a rede social X. Segundo a parlamentar, a prática viola o direito à imagem, garantido pela legislação brasileira, e pode configurar crime, especialmente quando envolve crianças e adolescentes. Erika Hilton também defende a suspensão das funcionalidades de inteligência artificial da plataforma no país até que as investigações sejam concluídas.
Especialistas em direito digital apontam que a manipulação de imagens sem autorização fere normas de proteção de dados e amplia riscos de exposição, assédio e violência digital. Para mulheres, esse tipo de conteúdo pode causar danos à reputação e à saúde emocional, além de reforçar a objetificação nas redes sociais. No caso de menores, a situação é ainda mais grave, já que a criação e a circulação de imagens sexualizadas, mesmo quando geradas por inteligência artificial, podem se enquadrar em crimes previstos no Estatuto da Criança e do Adolescente.
A controvérsia envolvendo o Grok não se limita ao Brasil. Autoridades e órgãos reguladores de outros países também passaram a acompanhar o caso e a cobrar explicações da empresa responsável pela ferramenta. O episódio reacende o debate sobre os limites do uso de inteligência artificial em redes sociais e sobre a responsabilidade das plataformas digitais na prevenção de abusos e na proteção de direitos fundamentais.
Publicação no X mostra pedido para que a IA Grok altere a imagem de uma mulher real sem consentimento.
Mais conteúdo sobre:
#inteligência artificial #Grok #Twitter #pornografia #edição de fotos #mulheres #crianças #proteção de dados #Erika Hilton #MPF #ANPD #redes sociais #violência digital
Siga nas redes sociais
