NOTÍCIA | DEEPFAKE: UM DESAFIO ENFRENTADO NA COREIA DO SUL

O uso de deepfakes — tecnologia que manipula imagens e vídeos por meio da inteligência artificial — tem se tornado um grave problema na Coreia do Sul. Neste ano, o Ministério da Educação sul-coreano reportou que 799 estudantes e 34 funcionários escolares (incluindo 31 professores) foram vítimas dessa prática, que insere rostos de mulheres em conteúdo pornográfico.

Outro dado preocupante é que dos 387 suspeitos presos por crimes sexuais relacionados a deepfakes, 324 (83,7%) eram adolescentes. Destes, 66 eram menores de 14 anos, ficando isentos de punição criminal.

Para Shin Kyung-ah, professora de Sociologia da Universidade Hallym, as adolescentes (meninas) devem estar inseguras sobre a confiabilidade de seus colegas homens, pois “a confiança mútua foi completamente destruída” (PBS News, 2024). Como sinal dessa desconfiança, muitas meninas e mulheres excluíram fotos e vídeos de suas contas em redes sociais. Além disso, milhares de mulheres protestaram exigindo medidas mais firmes contra a pornografia deepfake.

O impacto desses crimes é também ilustrado pelo caso de Heejin (nome fictício), que recebeu uma mensagem anônima no Telegram: “Suas fotos e informações pessoais vazaram. Vamos conversar”. Ao abrir a mensagem, encontrou uma foto sua de alguns anos atrás, quando ainda estava na escola, seguida por uma segunda imagem, que utilizava a mesma foto, mas de maneira sexualmente explícita — e falsificada: “Fiquei petrificada, me senti completamente sozinha”, relatou à BBC. Porém, ela não foi a única vítima. 

Dois dias antes, a jornalista Ko Narin havia publicado no Hankyoreh (jornal sul-coreano) sobre grupos de bate-papo no Telegram em que “a cada minuto, as pessoas enviavam fotos de garotas que conheciam, pedindo que fossem transformadas em deepfakes”. A polícia inicialmente investigou este tipo de crime em duas universidades, mas logo se espalhou para escolas de Ensino Fundamental e Médio.

Em resposta ao aumento de casos, a polícia anunciou, em 2 de setembro, a possibilidade de investigar o Telegram, assim como as autoridades francesas fizeram ao acusar o fundador da plataforma de facilitar atividades ilegais. O governo da Coreia do Sul se comprometeu a punir de modo rigoroso e a educar os jovens quanto aos perigos da tecnologia, refletindo a crescente indignação pública a respeito do uso indevido da plataforma para propagação de conteúdo pornográfico.

Após uma reunião em 27 de setembro, a Korea Communications Standards Commission (KCSC) expressou suas preocupações sobre o conteúdo deepfake envolvendo imagens de mulheres sul-coreanas no Telegram nos últimos meses. Em coletiva de imprensa, o presidente da KCSC, Ryu Hee-lim, afirmou: “O Telegram disse que entendeu a situação na Coreia do Sul, onde o conteúdo pornográfico deepfake se tornou um problema social significativo” (The Korea Times, 2024b), acrescentando que a plataforma implementará medidas rigorosas no combate ao problema.

Além de intensificar os esforços contra crimes sexuais digitais, o Telegram se comprometeu a remover conteúdos que envolvam pornografia, prostituição, drogas e jogos de azar. Os responsáveis pela plataforma também afirmaram que irão colaborar com as autoridades e criar uma linha direta para comunicação sobre violações.

Uma nova linha direta será criada entre o Telegram e o KCSC para agilizar a comunicação sobre violações de conteúdo. Com essa colaboração, espera-se que a remoção de conteúdos ilegais seja mais ágil. Entre 3 e 25 de setembro, o Telegram removeu 148 casos de material de exploração sexual de sua plataforma, conforme solicitado pelo KCSC.

Como parte dos esforços contra deepfakes, a Coreia do Sul aprovou um projeto de lei que criminaliza a posse e visualização de deepfakes sexualmente explícitos, prevendo penas de até três anos de prisão e multas de até 30 milhões de won (aproximadamente 123 mil reais). A nova lei poderá aumentar a pena máxima para a criação e distribuição desse material para sete anos, e ainda aguarda sanção do presidente Yoon Suk Yeol.

O problema de deepfakes na Coreia do Sul revela raízes sociais, evidenciando a objetificação frequente das mulheres. Segundo a professora da Universidade de Seul, Hong Nam-hee, a cultura misógina que permeia a Coreia do Sul colabora para a permanência da prática desses crimes realizados majoritariamente por homens. Mesmo antes dos casos que vieram à tona recentemente, atrizes e cantoras sul-coreanas já correspondiam a mais da metade das pessoas que apareciam em pornografia deepfake no mundo, no ano passado. Esse cenário de vulnerabilidade é resumido pela estudante Kim Haeun: “A maioria dos crimes sexuais tem como alvo mulheres. E quando eles acontecem, muitas vezes ficamos desamparadas”  (PBS News, 2024).