Centenas de artistas femininas, em especial as menores de idade, são alvos das deepfakes e o caso é conhecido como "o novo Nth Room"
(Reprodução / LEVI'S/ Anthony Wallace/AFP)
Nos últimos meses, a Coreia do Sul vem enfrentando um sério problema de aumento dos deepfakes em diversos ambientes - escolas, universidades e até escritórios. As artistas sul-coreanas são as mais afetadas por esse crime - fotos artificialmente alteradas, nas quais utilizam o rosto de uma pessoa real e sobrepõem ao corpo de outra sem consentimento - já que, pela fama, inspiram desejo e atraem a atenção dos grupos que criam e distribuem deepfake na internet e, principalmente, no Telegram. Os casos ganharam notoriedade por causa de grupos escolares no aplicativo russo, que distribuíam fotos e vídeos forjados de estudantes e menores de idade.
No último trimestre, visando blindar suas artistas de pornografia falsa na internet, várias empresas de entretenimento declararam que estão tomando medidas judiciais para proteger suas idols e atrizes. Desde junho, a ADOR, Woollim Entertainment, Cube Entertainment e JYP já se pronunciaram e se manifestaram contra essas práticas, além de já terem aberto ações na justiça contra qualquer um que esteja produzindo e distribuindo as deepfakes. Em nota oficial, a JYP expressou sua preocupação com a reprodução desse tipo de conteúdo na internet: "tomaremos medidas legais e não seremos tolerantes. Não iremos ignorar nenhuma ação que infrinja os direitos dos nossos artistas e tomaremos medidas firmes até o fim".
As cantoras são o alvo mais frequente, mas as atrizes também estão na mira da criação de deepfake. A agência SARAM Entertainment, responsável pela carreira de Park Gyu Young (Sweet Home), publicou uma nota no início do mês (03/09) na qual anuncia que está tomando as medidas cabíveis contra criação de imagens por inteligência artificial contra a atriz. "Nossa companhia responderá a essas questões [criação e distribuição ilegal de deepfake] com máxima seriedade", reforçaram na publicação. A agência frisou que continuará fiscalizando e coletando evidências de atividades relacionadas para proteger todos os seus artistas.
A empresa norte-americana de cyber segurança Security Hero divulgou um relatório no qual aponto a Coreia do Sul como o país mais vulnerável a crimes de deepfake. O relatório aponta que o país asiático lidera a lista com 53% de probabilidade de lidar com conteúdos adultos forjados com IAs. Além disso, identificou que as profissões com mais chances de se tornarem alvo das deepfakes são justamente atrizes e cantoras - cerca de 8 entre as 10 pessoas mais retratadas nas fotos falsas em todo o mundo são cantoras sul-coreanas.
Em 2024, a Coreia do Sul registrou aumento expressivo de denúncias de deepfakes. De janeiro a julho desse ano, a polícia recebeu 297 queixas de fotos íntimas criadas por inteligência artificial, um aumento de 65% em relação a denúncias em todo o ano de 2023 (180). Antes disso, o Centro de Advocacia para Vítimas de Abuso Sexual Online da Coreia do Sul (ACOSAV) já havia reportado crescimento dos casos envolvendo menores de idade. Em 2023, o ACOSAV aconselhou 86 vítimas adolescentes e, nesse ano, viram esse número subir para 238 apenas nos oito primeiros meses de 2024.
No dia 19 de setembro, a polícia sul-coreana divulgou investimento milionário para combater ativamente as deepfakes. A Agência Nacional de Polícia de Seul planeja investir US$7 milhões nos próximos três anos - aproximadamente US$2,3 milhões por ano - no desenvolvimento de tecnologias baseada em IA para detectar conteúdos fabricados digitalmente e clonagem de voz. Incluso no investimento, a polícia também trabalhará no aprimoramento dos softwares já existentes para monitoramento de deepfakes e vídeos gerados por IA.
No dia 26 de setembro, legisladores sul-coreanos aprovaram uma legislação que proíbe posse e exibição de conteúdos sexualmente explícito. Atualmente, já é crime a produção de deepfakes com intenção de distribuição, com uma pena de até cinco anos de prisão e multa de cerca de R$215.726 (ou US$38 mil). Com esse novo projeto de lei, qualquer cidadão que comprar, baixar ou assistir esses materiais criminosos podem ser condenados a 3 anos de prisão ou uma multa equivalente a R$128.106, aproximadamente US$22.600. Para se tornar lei no país só falta a assinatura do Presidente Yoon Suk Yeol.
A crise escolar das deepfakes
(Reprodução / Andrés Gallardo Albajar)
O grande escândalo das deepfakes ganhou visibilidade internacional pela descoberta de grupos no Telegram cujos alvos eram estudantes universitárias e menores de idade. A princípio, foram descobertas salas de conversa usadas para criar fotos falsas de estudantes e funcionárias de universidades coreanas mas, aos poucos, foram surgindo salas semelhantes focadas em escolas de ensino fundamental e médio, com foco nas alunas. Em pouco tempo, mais de 500 escolas e universidades foram identificadas com alvos das deepfakes.
Leia mais: Cyber Hell na Netflix: Conheça o 'Caso Nth Room', crime sexual que chocou a Coreia do Sul
Diversas estudantes se viram obrigadas a privarem suas contas nas redes sociais como forma de se protegerem da criação das imagens falsas. O número exato de pessoas envolvidas - entre vítimas e criadores - é desconhecido, mas estima-se que a maioria dos ofensores e vítimas desse tipo de crime são adolescentes. Uma aluna universitária deu um depoimento para a BBC, sob o nome falso de Heejin, no qual ela desabafa sobre o medo que sentiu ao receber uma foto falsa sua, e "não conseguia parar de pensar que isso aconteceu porque eu postei fotos minhas nas redes sociais, eu deveria ter sido mais cuidadosa".
A Coreia do Sul tem um longo histórico de misoginia e abuso do corpo feminino, que só se intensificou com a expansão da internet e redes sociais. No início, as mulheres enfrentavam abuso verbal online, em 2013 o problema escalou para as câmeras espiãs, conhecidas como molka, que eram usadas para filmar meninas e mulheres nos banheiros e vestiários e, desde 2023, lidam com a ascensão das IAs e o ambiente propício para a exploração das vítimas com a criação de imagens e vídeos pornográficos.
Desde a exposição das salas de chat, vários deles foram fechados, mas a ameaça continua a espreita. O caso foi revelado pela mídia coreana, com várias jornalistas mulheres se infiltrando nos grupos para reunir mais informações e dados, e foram criados "salas da humilhação" para atacar essas jornalistas que estavam trabalhando no caso. Além disso, na internet as postagens e grupos são como hidras - se corta uma cabeça e surgem mais duas no lugar -, por isso, não é garantia alguma que essas salas de chat foram fechadas permanentemente e nem que o perigo acabou.
Comments