Coreia do Sul enfrenta escândalo de pornografia deepfake em larga escala no Telegram

No mês pretérito, a Coreia do Sul foi saída por um escândalo de pornografia deepfake que revelou a utilização crescente das imagens que são geradas por perceptibilidade sintético que combinam o rosto de uma pessoa real com um corpo falso (normalmente em situações sexualmente explícitas), para assediar mulheres e meninas. O caso, que envolveu mais de 500 instituições educacionais, trouxe à tona o uso sistemático do aplicativo de mensagens Telegram para a disseminação dessas imagens.

A denúncia foi feita pela jornalista Ko Narin, que expôs a existência de grupos de bate-papo no Telegram onde usuários compartilhavam fotos de mulheres conhecidas e as transformavam em deepfakes pornográficos em questão de segundos. A prática, que começou a ser investigada pela polícia em duas das principais universidades do país, se estendeu para escolas de ensino médio e fundamental, onde as vítimas eram expostas em salas de bate-papo rotuladas porquê “salas de humilhação”.

Governo e ativistas reagem

A reação pública foi imediata, levando o governo a prometer punições mais severas para os envolvidos. A Escritório Vernáculo de Polícia de Seul anunciou que investigaria o Telegram por permitir a distribuição de imagens pornográficas falsas de crianças, seguindo o exemplo da França, que recentemente acusou o fundador do Telegram, Pavel Durov, de crimes relacionados à plataforma.

No entanto, ativistas de direitos das mulheres criticam as autoridades sul-coreanas por não agirem antes, apontando que o país já enfrentou crises semelhantes no pretérito. Em 2019, uma rede de sexo no Telegram coagia mulheres e crianças a criarem e compartilharem imagens sexualmente explícitas, mas a falta de ação efetiva por segmento do governo e da plataforma resultou em um agravamento do problema.

“Eles condenaram os principais atores, mas negligenciaram a situação, e acho que isso agravou a situação”, disse a jornalista Ko Narin.

A situação atual tem levado muitas jovens a desativarem suas contas nas redes sociais e a temerem por sua segurança online. A sofreguidão gerada pela possibilidade de terem suas imagens manipuladas e compartilhadas tem feito com que adolescentes e jovens mulheres se tornem hipervigilantes em suas interações sociais.

Enquanto isso, o governo prometeu aumentar as penas para quem gerar, compartilhar ou visualizar deepfakes pornográficos, reconhecendo a urgência de abordar a raiz do problema, que reside no sexismo estrutural da sociedade sul-coreana.