SEUL — Um centro criado pelo governo da Coreia do Sul atua na identificação e remoção de deepfakes sexuais e outros conteúdos ilícitos publicados na internet. O serviço é realizado por uma equipe formada exclusivamente por mulheres, que também oferece apoio psicológico e jurídico às vítimas.
Criado em 2018, o centro funciona na capital sul-coreana e conta com 17 filiais regionais. Ao todo, 23 profissionais rastreiam vídeos e imagens a pedido das vítimas. Desde a inauguração, a estrutura atendeu 53 mil pessoas e removeu mais de um milhão de conteúdos sexuais ilícitos.
A líder da equipe, Kim Hyojung, afirma que muitas vítimas descobrem a circulação dos vídeos depois de serem avisadas por pessoas próximas. Um programa de inteligência artificial é usado para localizar republicações do mesmo material em redes sociais e sites pornográficos. “Contamos com um programa de inteligência artificial que detecta as republicações desse mesmo vídeo na internet”, disse Kim.
Parte dos conteúdos está hospedada em sites ilegais, o que pode dificultar a remoção. Nesses casos, a polícia pode intervir para tentar fechar as páginas. Kim também afirma que há obstáculos quando os servidores estão fora do país. De acordo com ela, em 80% desses casos os sites estão nos Estados Unidos, e as autoridades norte-americanas colaboram para retirar o material hospedado em seu território.
A empresa australiana Security Heroes estima que mais da metade das vítimas de deepfakes pornográficos no mundo seja sul-coreana. O texto também aponta aumento dos casos entre pessoas de diferentes faixas etárias.
O trabalho inclui a análise diária de conteúdos pornográficos, alguns violentos e outros envolvendo pornografia infantil. A exposição provoca efeitos psicológicos nas profissionais. Park, que mantém o anonimato por causa da atividade, relata casos de insônia, choro diante de determinadas publicações e perda de apetite entre colegas.
Para reduzir o desgaste, o centro oferece acompanhamento psicológico contínuo às 23 integrantes da equipe. Park afirma que elas participam de consultas individuais com um psicólogo uma ou duas vezes por mês. Mensagens de agradecimento enviadas pelas vítimas também são citadas por ela como uma fonte de motivação para continuar o trabalho.
