OUTROS OLHARES

TIKTOK VIRA A NOVA ‘CASA’ DE VÍDEOS E FOTOS MANIPULADOS, OS ‘DEEP FAKES’

Montagens são usadas como forma de diversão na rede social chinesa, mas o recurso também ajuda a propagar discursos falsos e teorias da conspiração

Os jacarés do TikTok não são o que parecem. Eles aparecem em postagens espalhadas pelo serviço de vídeo e são inofensivos, como grande parte da mídia na rede disso. Apesar disso, sua existência preocupa as pessoas que estudam a desinformação, porque as mesmas técnicas são aplicadas a estas postagens que semeiam a divisão política, propagam teorias da conspiração e ameaçam princípios da democracia. “Esse tipo de manipulação está se tornando cada vez mais difundido”, disse Henry Ajder, especialista em mídia manipulada e sintética.

O material editado ou sintetizado também aparece em outras plataformas online, como o Facebook. Mas especialistas disseram que é especialmente difícil fiscalizar o TikTok, que incentiva seus 1,6 bilhão de usuários a colocar sua própria marca no conteúdo de outra pessoa. Por lá realidade, sátira e mentira às vezes se misturam.

A disseminação de mídia manipulada é difícil de se quantificar, mas pesquisadores dizem que estão vendo mais exemplos surgirem à medida que as tecnologias que tornam isso possível ficam mais acessíveis. A preocupação é de que, com o tempo, as manipulações podem ficar mais difíceis de se identificar.

Nas últimas semanas, usuários do TikTok compartilharam uma captura de tela falsa da CNN, alegando que as mudanças climáticas são sazonais. Outro vídeo, de 2021, ressurgiu com o áudio alterado para que a vice-presidente Kamala Harris parecesse dizer que praticamente todas as pessoas hospitalizadas com covid-19 foram vacinadas (ela disse o contrário).

Os usuários do TikTok adotaram até as postagens alteradas mais absurdas, como as que retratavam o presidente Joe Biden cantando “Baby Shark” em vez do hino nacional ou que sugeriam que uma criança na Casa Branca disse um palavrão à primeira-dama, Jill Biden.

Os deep fakes, que geralmente são criados ao enxertar um rosto digital no corpo de outra pessoa, estão sendo usados como desculpa por aqueles que esperam desacreditar a realidade e se esquivar da responsabilidade. O consultor político Roger Stone afirmou no Telegram que as imagens verdadeiras que o mostravam pedindo violência antes das eleições de 2020, que a CNN transmitiu, eram “vídeos deep fake fraudulentos”.

Os advogados de pelo menos uma pessoa acusada no motim de 6 de janeiro no Capitólio dos EUA tentaram lançar dúvidas sobre as evidências em vídeo do dia citando a tecnologia de criação de deep fakes. “Quando entramos nesse tipo de mundo, podemos simplesmente descartar fatos inconvenientes”, disse Hany Farid, professor da Universidade de Berkeley, que faz parte do conselho de conteúdo do TikTok.

As empresas de tecnologia passaram anos testando novas ferramentas para detectar manipulações como deep fakes. Durante a temporada eleitoral de 2020, o TikTok, o Facebook, o Twitter e o YouTube prometeram remover ou rotular conteúdo manipulado nocivo.

Uma lei da Califórnia de 2019 tornou ilegal criar ou compartilhar vídeos enganosos de políticos a 60 dias de uma eleição.

O TikTok disse, em nota, que removeu vídeos que violavam suas políticas. Disse ainda proibir falsificações digitais “que enganam usuários ao distorcer a verdade dos eventos e causar danos significativos ao assunto do vídeo”. “O TikTok é um lugar para conteúdo autêntico e divertido; por isso proibimos e removemos desinformação, incluindo mídia sintética ou manipulada, projetada para enganar a comunidade”, disse Ben Rathe, porta-voz do TikTok.