Mulher registra B.O. no Rio após ter foto editada com biquíni por IA do X

Após denúncias, publicações foram removidas pela plataforma

Folhapress Folhapress -
biquíni
Golpes com inteligência artificial têm sido aplicados principalmente pelas redes sociais. (Foto: Tânia Rêgo / Agência Brasil)

PEDRO VILAS BOAS

SÃO PAULO, SP (UOL/FOLHAPRESS) – Uma mulher de 31 anos, moradora do Rio de Janeiro, registrou na sexta-feira (2) boletim de ocorrência após uma foto que ela publicou no X ser editada com a IA da plataforma, chamada de Grok, para que ela aparecesse de biquíni e compartilhada na rede social.

A jornalista Julie Yukari também denunciou parte das publicações ao X, que foram removidas pela plataforma. O UOL ainda conseguiu localizar um dos posts com a imagem editada.

Mulher publicou a foto ao lado da gata dela celebrando o Ano-Novo. “Quando fui descendo o post, tinha uma pessoa pedindo para o Grok colocar um biquíni em mim. Eu tinha bloqueado o Grok e nem pensei que ele pudesse fazer isso. Depois, quando vi várias pessoas tendo as imagens delas editadas, desbloqueei a IA e vi que também estavam editando minha foto”, conta Julie à reportagem.

Reportagem encontrou diversas publicações, a maioria em inglês, de fotos de mulheres editadas com biquíni.

Usuários homens escrevem “hey Grok” e em seguida pedem para que a ferramenta faça a edição, que é compartilhada publicamente na plataforma.

“Estou lidando da forma que consigo, que é falando sobre isso. Pensei em apagar tudo, não postar mais nada, mas, se eu fizer isso, vai ser uma vitória para eles por estarem controlando minhas ações”, afirma a jornalista.

Grok também gerou imagens que simulam nudez infantil. A reportagem encontrou diversas publicações feitas pela ferramenta após pedidos de um mesmo usuário em inglês. Alguns dos posts foram removidos pela plataforma após serem denunciados.

A reportagem não conseguiu localizar representantes do X. Porém, a IA respondeu a um usuário, que criticava a publicação com nudez infantil, dizendo que houve falhas na segurança e que elas seriam corrigidas com urgência.

Inicialmente, Elon Musk debochou da publicação. O dono do X compartilhou um post em que uma torradeira aparece vestida com biquíni e escreveu: “Não sei porquê, mas não consegui parar de rir disso”. Neste sábado (3), ele fez um novo post em que diz que “qualquer pessoa que utilize o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que quem publica conteúdo ilegal”.

VÍTIMAS PODEM PEDIR INDENIZAÇÃO

As mulheres que forem vítimas desse tipo de edição devem processar o X, diz advogada. Com isso, a empresa pode ser obrigada pela Justiça a apagar a publicação – sem depender da avaliação da própria plataforma – e receber uma indenização pelo caso, explica Isabela Godoy à reportagem.

Usuários que fizeram o pedido à IA e compartilharam a imagem editada podem responder criminalmente.

“Criminalmente, a plataforma não tem responsabilidade penal, tem a responsabilidade civil. Quem terá que responder criminalmente é a pessoa que deu o comando à ferramenta ou divulgou a imagem”, afirma a especialista em Direito Digital e Inteligência Artificial do escritório Failla Lima Riva Advogados.

Os usuários podem ser condenados a uma pena de seis meses a 1 ano de prisão. Já quem produzir ou compartilhar conteúdo sexual de vulneráveis pode receber uma pena entre 4 e 10 anos de prisão.

Folhapress

Folhapress

Maior agência de notícias do Brasil. Pertence ao Grupo Folha.

Você tem WhatsApp ou Telegram? É só entrar em um dos grupos do Portal 6 para receber, em primeira mão, nossas principais notícias e reportagens. Basta clicar aqui e escolher.

+ Notícias