As imagens falsas de crianças nuas geradas por Inteligência Artificial que chocaram cidade da Espanha

Retratos foram criados a partir de fotos das jovens totalmente vestidas, muitas delas retiradas de suas próprias contas nas redes sociais; mais de 20 meninas em Almendralejo já se apresentaram como vítimas. Almendralejo é uma vila pitoresca com uma população de pouco mais de 30 mil habitantes, conhecida pela produção de azeitonas e vinho tinto
BBC
Uma pacata cidade no sul de Espanha está em choque em meio à revelação de que imagens de meninas locais nuas, geradas por Inteligência Artificial (IA), circulavam nas redes sociais sem o conhecimento delas.
Os retratos foram criados a partir de fotos das jovens totalmente vestidas, muitas delas retiradas de suas próprias contas nas redes sociais.
Estes foram então processados por um aplicativo que gera uma imagem imaginária da pessoa sem roupa.
Até agora, mais de 20 meninas, com idades entre 11 e 17 anos, se apresentaram como vítimas do uso do aplicativo no vilarejo de Almendralejo, na província de Badajoz, no sudoeste do país, e também em suas imediações.
“Um dia, minha filha saiu da escola e disse: ‘Mãe, vi fotos minhas de topless circulando nas redes sociais'”, diz María Blanco Rayo, mãe de uma menina de 14 anos
BBC
“Um dia, minha filha saiu da escola e disse: ‘Mãe, vi fotos minhas de topless circulando nas redes sociais'”, diz María Blanco Rayo, mãe de uma menina de 14 anos.
“Perguntei se ela havia tirado alguma foto nua e ela disse: ‘Não, mãe, essas são fotos falsas que estão sendo criadas em grande número agora e há outras meninas na minha turma com quem isso aconteceu também.'”
Ela diz que os pais de 28 meninas afetadas formaram um grupo de apoio na cidade.
A polícia está agora investigando o caso.
Segundo a imprensa espanhola, pelo menos 11 meninos locais foram identificados como envolvidos na criação das imagens ou na circulação delas através dos aplicativos WhatsApp e Telegram.
As autoridades também estão investigando a alegação de que foi feita uma tentativa de extorquir uma das meninas usando uma imagem falsa dela.
O impacto que a circulação das fotos teve nas meninas afetadas varia.
Blanco Rayo diz que a filha está bem, mas que algumas meninas “nem saem de casa”.
Almendralejo é uma vila pitoresca com uma população de pouco mais de 30 mil habitantes, conhecida pela produção de azeitonas e vinho tinto. Mas não está acostumada com a atenção repentina que este caso gerou, tornando a cidade manchete nacional na Espanha.
Isso se deve, em grande parte, aos esforços de uma das mães das meninas, Miriam Al Adib Mendiri.
Filha da ginecologista Miriam Al Adib Mendiri foi uma das vítimas; ela usou seu proeminente perfil nas redes sociais para colocar o assunto no centro do debate público espanhol
BBC
Ela é uma ginecologista que usou seu perfil nas redes sociais, com milhares de seguidores, para colocar o assunto no centro do debate público espanhol.
Embora se acredite que muitas das imagens de IA tenham sido criadas durante o verão, o caso só veio à tona nos últimos dias, depois que Adib Mendiri postou um vídeo tranquilizando as meninas afetadas e seus pais.
“Não sabíamos quantas crianças foram vítimas, se elas tinham sido postadas em sites pornográficos — tínhamos todos esses medos”, diz ela.
“Quando você é vítima de um crime, se você é assaltado, por exemplo, você faz queixa e não se esconde porque a outra pessoa lhe causou mal. Mas nos crimes de natureza sexual, a vítima muitas vezes fica envergonhada e se esconde, sentindo-se responsável pelo que aconteceu. Então, eu queria passar esse recado: a culpa não é sua.”
Os suspeitos do caso têm idades entre 12 e 14 anos. A lei espanhola não cobre especificamente a geração de imagens de natureza sexual envolvendo adultos, embora a criação de tal material utilizando menores possa ser considerada pornografia infantil.
Outra possível acusação seria a de violação das leis de privacidade.
Mas, na Espanha, os menores só podem responder por um crime a partir dos 14 anos.
O caso causou preocupação até mesmo para a população local que não está envolvida.
“Aqueles de nós que têm filhos estão muito preocupados”, diz à BBC Gema Lorenzo, uma moradora local que tem um filho de 16 anos e uma filha de 12 anos.
“Você está preocupada com duas coisas: se você tem um filho, você se preocupa que ele possa ter feito algo assim; e se você tem uma filha, você fica ainda mais preocupada (com ela), porque é um ato de violência”, acrescenta.
Para Francisco Javier Guerra, pintor e decorador local, culpa é dos pais dos meninos envolvidos
BBC
Francisco Javier Guerra, pintor e decorador local, diz que a culpa é dos pais dos meninos envolvidos.
“Eles deveriam ter feito algo antes, como retirar seus telefones ou instalar um aplicativo que lhes informasse o que seus filhos estão fazendo com seus telefones”, afirma.
Esta não é a primeira vez que um caso deste tipo se torna notícia em Espanha.
No início deste ano, imagens de topless da cantora Rosalía geradas por IA foram postadas nas redes sociais.
“Mulheres de diferentes partes do mundo me escreveram explicando que isto lhes aconteceu e que não sabem o que fazer”, diz Adib Mendiri.
“Neste momento, isso está acontecendo em todo o mundo. A única diferença é que em Almendralejo fizemos barulho por causa disso”.
A preocupação é que aplicativos como os utilizados em Almendralejo se tornem cada vez mais comuns.
Autoridades espanholas estão investigando o caso
BBC
Javier Izquierdo, chefe da proteção infantil na unidade de crimes cibernéticos da polícia nacional espanhola, disse, em entrevista a jornalistas, que esses tipos de crimes não estão mais confinados “ao cara que baixa pornografia infantil da Dark Web ou de algum fórum oculto da Internet”.
“Isso obviamente ainda está acontecendo, mas agora os novos desafios que enfrentamos são o acesso que os menores têm em idade tão precoce [a essa tecnologia], como neste caso”, acrescentou.