Meio

Deixa eu tocar só um trecho desse robocall pra vocês. Esse é um termo muito comum nos Estados Unidos, robocall. São ligações robotizadas, automatizadas. O político grava uma mensagem, em geral uma mensagem curta, e ela é distribuída por telefone. É literalmente assim. O telefone toca, você atende, entra a mensagem. A gente não vê esse tipo de campanha no Brasil, porque aqui não pode. Mas lá é muito usado. Nessa ligação, a voz é uma que qualquer americano reconhece em dois segundos. É o presidente Joe Biden.

Qual é a mensagem dele, aqui? Você, morador de New Hampshire, não saia de casa pra votar nas primárias. Você vai gastar seu voto em mim e só ajudar Donald Trump. Guarde seu voto para depositá-lo em novembro, no dia da eleição.

Sabe, são duas coisas completamente diferentes. Uma, votar na primária, é escolher quem deve ser o candidato do seu partido. Outra, nas eleições gerais, é escolher quem será o próximo presidente da República. O pedido de Biden não faz qualquer sentido. Então por que foi feito? Não foi. Esta voz é uma falsificação, algo criado com inteligência artificial. Não era possível fazer algo desse tipo quatro anos atrás, mas hoje é. E com facilidade.

Não foi muita gente que recebeu esta ligação falsa, talvez alguns milhares. Então pra quê? Pra testar. O que provavelmente estava sendo feito ali, no estado de New Hampshire, era um teste de uso de IA para desinformar. Porque, sim, temos essas ferramentas capazes de produzir imagens realistas, capazes de construir áudios indistinguíveis dos reais e, claro, escrever como se fossem gente. Mas como é que se usa essas ferramentas para desorientar as pessoas? O que estavam fazendo ali era testar um uso.

Inteligência artificial já produz áudios muito convincentes. Não é só a voz. Tem entonação, maneirismos, sotaque. A gente não tem robocalls no Brasil, mas temos áudios trocados por WhatsApp o tempo todo. Pensamos muito em imagens, mas neste início de ano, é no áudio que falsificações com IA serão mais convincentes. Oproblema é o seguinte, quanto mais velha a pessoa, maior a probabilidade de ela ser enganada por um áudio falso destes. E o tipo de gente que quer distorcer a realidade para arrancar votos já está aprendendo como fazer. Este aprendizado já está sendo documentado e será compartilhado com atores que produzem esse conteúdo aqui no Brasil.

Em 2018, quando estávamos todos desatentos, as técnicas de desinformação desenvolvidas para a campanha de Donald Trump foram fielmente empregadas pela campanha de Jair Bolsonaro. Na última eleição, em 2022, não havia nenhuma grande novidade, a Justiça já conhecia os truques, a população também. Agora tem muita ferramenta nova.
Mas não é só disso que a gente tem de falar, né? Vocês viram as imagens falsas da cantora Taylor Swift, no Twitter, durante o fim de semana? Vem comigo.

Eu sou Pedro Doria, editor do Meio.

Você entende a importância a importância do Meio, que trabalha para mastigar as informações que temos. Mas não existe almoço nem jornalismo grátis. Nosso modelo de negócio é uma espécie de crowdfunding. São os assinantes Premium que custeiam a equipe que faze vídeos como este chegarem de graça a centenas de milhares, milhões de pessoas. Assine o Meio Premium e nos ajude a construir um Brasil bem informado.

E este? Este é o Ponto de Partida.

Eu procurei um bocado alguma das imagens da Taylor Swift para publicar aqui, para dar uma mostra que permitisse a vocês imaginar o que elas trazem. O problema é que, mesmo naquelas em que a cantora aparece vestida, tem alguma coisa na expressão facial, uma força, sabe, uma intensidade sexualizada que eu meio que senti, olha, nenhuma delas é apropriada para publicar aqui. Nenhuma caretice com sexo, não, tá? O problema é a violência. Vamos estender um pouco essa conversa, ela é importante.

Existem algumas dezenas de imagens. Originalmente elas foram distribuídas num grupo de Telegram onde estão rapazes que geram com ferramentas de inteligência artificial imagens de mulheres famosas ou nuas ou em algum tipo de situação sexual. Aí alguém as pegou lá e jogou no Twitter entre a última sexta-feira e o sábado. Explodiu. Foram dois dias até que a equipe do Twitter, do X, começasse a bloquear as buscas. Durante o fim de semana, foi o assunto mais conversado de todas as redes. Milhões de pessoas viram as imagens.

Eu não sou, como minha filha, um especialista em Taylor Swift. Mas as swifties, suas fãs, estão acompanhando no detalhe o namoro dela com Travis Kelce, thight end dos Kansas City Chiefs. Essa posição, a do thight end, é uma posição ofensiva do futebol americano. Seu trabalho costuma ser o de bloquear o caminho de jogadores, para permitir que seus parceiros marquem touchdowns. Os pontos mais importantes do jogo. Os Chiefs venceram o campeonato AFC nesse último domingo. Quer dizer, eles vão jogar contra o meu time, os San Francisco 49ers, na finalíssima. O Super Bowl. E esse namoro da Taylor com o Kelce é o romance do ano. Cheio de afeto, eles parecem realmente muito apaixonados.

Esse contexto é importante porque as imagens falsas da cantora têm tudo a ver com futebol americano. Ela está ou entre os torcedores, na arquibancada, ou dentro do vestiário, no estádio, com os jogadores do time. Ela sempre aparece pintada com as cores vermelho e branco dos Chiefs. E há homens em volta dela, muitos homens. Homens que pegam em seu corpo, ela está ou nua ou com roupas muito curtas nas imagens. Aparecem muitas palavras ofensivas, derrogatórias, pintadas em seu corpo. No sentido geral, tanto as palavras quanto as imagens dizem que ela é uma mulher que serve para ser usada.

Não é possível confundir com fotografias. Mas são ilustrações hiperrealistas. Ninguém que veja estas imagens vai achar que são de verdade. Ao menos, quase ninguém. Só que este não é o ponto. Achar que é verdade ou não é o de menos. O ponto é que durante dois dias, vários milhões de pessoas ficaram se deleitando com imagens dela posta num lugar de submissão aviltante. Pior do que isso. Ela foi colocada num lugar de submissão aviltante no contexto de um amor que é muito importante para ela. Num fim de semana em que o namorado dela estava se sagrando campeão de uma das duas ligas de futebol americano. É um contexto feliz que alguém tentou sujar. De uma forma canalha, né?

Isto é uma violência. Sejam críveis ou não, essas imagens são uma maneira particularmente calhorda de objetificar uma pessoa. A violência não está no fato de serem imagens explícitas, está no fato de que nenhuma mulher quer ser exposta desse jeito sem ser consultada antes. Aliás, nenhum homem tampouco, não é?

Essas tecnologias estão aí. Em poucos anos, não serão ilustrações hiperrealistas. Será um filme inteiro, com riqueza de detalhes. É a mesma coisa com desinformação eleitoral. Hoje é um áudio em robocall sendo testado. Na próxima eleição presidencial, será um vídeo. E esse vídeo, se não mostrar nenhuma situação inacreditável demais, será muito crível. Vai enganar muita gente. As camadas de profundidade que há neste debate não são poucas. Passa por liberdade de expressão e por proteção da privacidade. Passa pelo direito de todo cidadão estar bem informado a respeito do que acontece na República. Passa pelo nosso direito de controlar nossa imagem pessoal.

A gente precisa começar a ter uma conversa sobre isso. Gente, em termos globais existem duas coisas muito, muito importantes acontecendo que exigem a atenção de toda a humanidade. Uma são as mudanças climáticas. A gente precisa mudar a base energética do planeta o mais rápido possível. A descarbonização é uma imposição que o planeta nos apresenta. A outra é inteligência artificial. Ela vai ter um imenso impacto na economia, no trabalho, mas ela vai ter um imenso impacto nisso que nós estamos fazendo aqui. Na comunicação.

O que acontece quando não somos mais capazes de distinguir entre o que é real e o que não é? O que acontece quando texto, som e imagem criados por uma máquina se tornam iguais aqueles produzidos a partir da criatividade humana? Tudo poderá ser falsificável de forma crível. Isto exige que a maneira como pensamos em informação mude de forma radical. É tantador achar que vamos resolver as coisas com leis proibindo isso ou aquilo. Só proibir vai ter, possivelmente, efeito zero.

O robocall de Joe Biden e as imagens de violência sexual coletiva contra Taylor Swift são apenas uma pequena amostra das situações que começaremos a viver. Hoje foi o presidente dos Estados Unidos e a cantora de maior sucesso do mundo. Amanhã posso ser eu. Ou pode ser você.