Deepfake: TSE monitora uso de inteligência artificial para criar conteúdo falso nas campanhas

Em novembro de 2023 circulou nas redes sociais um vídeo que mostrava um homem aspirando um pó branco, parecido com cocaína. Disseminado facilmente, o material acompanhou legendas como “Esse é o candidato do Lula na Argentina (Sérgio Massa) cheirando até trincar. Essa esquerda…” e “Zé droguinha Sergio Massa candidato à presidência da esquerda na Argentina, apenas mais um retrato dessa ideologia nefasta, que por onde passa destrói famílias e lares”.

Foto: Reprodução/G1

Na época, Sergio Massa era o ministro da Economia da Argentina e estava disputando o segundo turno das eleições como candidato à presidência contra Javier Milei, que venceu o pleito. O vídeo era falso. A checagem foi feita por agências especializadas como  Chequeado, AFP e Aos Fatos.  A existência de um vídeo com um homem cheirando o pó branco é real e foi feito em 2016. O material é, inclusive, facilmente encontrado em canais aleatórios do Youtube. 

Foto: Reprodução/Aos Fatos

Mas as imagens reais foram manipuladas com ferramentas digitais para colocar o rosto de Sergio Massa no lugar do rosto original. A prática está cada vez mais comum por causa da Inteligência Artificial (IA), e segundo o especialista em segurança de redes e gestão da tecnologia da informação, Lucieliton Mundim, já ganhou até nome próprio.

“Deepfakes são vídeos, áudios e imagens criadas com a ajuda de inteligência artificial. Então, algo que antes era muito complexo de ser criado porque precisavam de programas avançados de edição de vídeo para colocar alguém numa situação vexatória ao se passar pela voz ou pela imagem da pessoa, hoje é feito com facilidade e está muito acessível”.

Inteligência artificial e eleições

De acordo com o especialista, a deepfake é uma novidade no processo eleitoral e nas relações sociais da sociedade como um todo. “É algo novo que o cidadão comum tem dificuldade de identificar”, alertou. “E até mesmo para os candidatos é um desafio agora”, acrescentou. No entanto, é preciso entender o que há de errado com esse resultado de uma ferramenta digital. 

“Deepfake é um dos usos dado à inteligência artificial. Mas a inteligência artificial pode agregar e muito ao processo eleitoral, por exemplo, barateando custos da produção das peças publicitárias, que é algo caro. E é importante que o eleitor lembre que isso é feito com o nosso dinheiro”, destacou Mundim.

Sendo assim, podemos compreender o termo deepfake da mesma forma que compreendemos as fake news, que são as notícias falsas. Os dois são criados para enganar e desinformar com alguma intenção maliciosa por trás, ao alterar palavras ditas e colocar uma pessoa numa situação de ter feito ou dito algo que ela não fez ou não disse.

IA nas campanhas

Diante do que ocorreu nas eleições da Argentina e em outros países, portanto, o Tribunal Superior Eleitoral (TSE) se antecipou ao início das campanhas eleitorais para os municípios em 2024 e atualizou a Resolução nº 23.610 de 2019, que dispõe as regras de enfrentamento da desinformação, e incluiu as regras sobre o uso de inteligência artificial.

Lucieliton Mundim fala sobre deepfake nas eleições (Foto: Bruno Neiva)

“A preocupação do TSE é muito plausível, porque isso é criar algo complexo como um vídeo de alguém se passando por um candidato numa situação vexatória, dizendo algo que ele não diria. E isso se espalha muito fácil por aplicativos como whatsapp e instagram”, explicou o professor.

O TSE proíbe o uso das deepfakes. Mas as regras incluem em todo o aparato da inteligência artificial a obrigação dos candidatos avisarem o uso de IA na propaganda eleitoral, a restrição de robôs para o contato com os eleitores e a responsabilização das big techs nos casos de retirada de conteúdos falsos do ar.

Por que existe deepfake?

O processo eleitoral vai além das divulgações das propostas dos candidatos e dos seus planos de governos, sendo geralmente marcado por acusações de um candidato contra o outro, por legislações passadas e até mesmo por questões morais. As deepfakes normalmente estão ligadas ao campo moral.

“Vale a pena criar esse tipo de desinformação hoje devido ao impacto que ela vai causar numa eleição”, disse o especialista. 

Acontece que as ferramentas digitais, as IAs, podem empregar facilidades ao processo eleitoral e diminuir desigualdades ao passo que elas geram mais competitividade com o investimento das campanhas.

“Os candidatos que tem uma equipe criativa podem utilizar a inteligência artificial e fazer uma campanha elaborada sem ter que gastar tanto, enquanto no modelo antigo quem tem mais dinheiro consegue fazer campanhas melhores e isso a gente sabe que impacta”, disse.

Um bom exemplo

Se a ferramenta digital tem um objetivo bom, por que está sendo utilizada para fins negativos? No caso político e na importância ideológica que pauta o eleitor atualmente, casos como o de Sergio Massa podem definir o vencedor de uma eleição.

“Até que seja provado que não foi dito ou que é deepfake já pode ter causado uma perda muito grande de voto”, destacou Mundim. Então, o professor pontuou a dificuldade de identificar a origem e a autoria dos conteúdos falsos e destacou pontos positivos das IAs nas eleições. 

“Eu posso, por exemplo, pegar um vídeo real de um candidato onde ele fala dos seus planos políticos para uma  determinada cidade e converter isso em Libras. Tem inteligência artificial que converte automaticamente para Libras ou mesmo traduz para outra língua, se eu não falo inglês”, argumentou.

Como saber se um vídeo é falso?

Impactos da tecnologia
Inteligência Artificial no ensino apareceram entre os debates (Foto: Freepik)

Todo conteúdo caracterizado como deepfake existe a partir de algo real, mas que é submetido a uma inteligência artificial que aprende o tom de voz, as características da pessoa e o rosto. É tão semelhante que é fácil confundir, no entanto, é difícil identificar como falso.

Lucieliton Mundim afirmou que a evolução da IA nos últimos anos tornou características antes usadas para fazer essa distinção em algo muito imperceptível. São questões como a iluminação de vídeo, o piscar de olhos natural, bem como a reprodução das mãos, que ele disse ser uma das coisas difíceis que a inteligência artificial tem dificuldade de criar.

“Uma dica é investir em algumas ferramentas de detecção de áudio e vídeo falso”, contou. São ferramentas, algumas gratuitas, que indicam um índice de probabilidade se um vídeo é verdadeiro ou falso, encontradas no Google ao pesquisar “plataforma de identificação de deepfakes”.

Além disso, tem os meios já indicados para descobrir se uma notícia é falsa: “confirme nos grandes portais se o conteúdo é verdadeiro”, disse. “Mas a dica de ouro é sempre ficar atento. Então, se algo parece muito esdrúxulo, muito vexatório, fica a dúvida se uma pessoa pública faria isso realmente, já comece a suspeitar”, destacou.

Deepfake é crime

Lucieliton Mundim ainda apelou para o bom senso das pessoas. “Não seja um vetor desse tipo de notícia, de desinformação”. Isso é importante porque deepfake é um crime na origem e também no compartilhamento. “Hoje isso se enquadra em calúnia, difamação e uso indevido da imagem”, afirmou.  

Inteligência Artificial na saúde (Foto: Ascom Sinerji)
Inteligência Artificial pode auxiliar na saúde (Foto: Ascom Sinerji)

As IAs auxiliam diariamente muitas pessoas, do uso de GPS ao trabalho de transcrição de áudios. Mundim ressaltou que “não há como nadar contra essa maré”, pois essa tecnologia “ é algo que está posto e o que nós temos que fazer é nos informar”, principalmente diante do uso negativo da ferramenta.

“É muito difícil haver uma  normativa dizendo que não se pode usar, porque qualquer pessoa hoje consegue criar uma deepfake utilizando inteligência artificial no fundo do quintal de casa”, contou. Mas seu uso correto auxilia a humanidade em grandes soluções de problemas, como uma possível cura definitiva para a AIDS e outros medicamentos, explicou o professor.

“Esse é o uso bom, o uso correto da inteligência artificial. E o outro uso que a gente percebe muito nas eleições é o deepfake”. E acrescentou: “uma faca pode ser usada para descascar uma laranja ou ser uma arma branca. Inteligência artificial é isso nas eleições”, finalizou.

Confira a entrevista na íntegra:

*Este conteúdo está alinhado aos Objetivos de Desenvolvimento Sustentável (ODS), da Agenda 2030 da Organização das Nações Unidas (ONU). Nesta matéria, o ODS 16 – Paz, justiça e instituições eficazes. 

Leia mais:

Mais Lidas:

Sagres Online
Privacy Overview

This website uses cookies so that we can provide you with the best user experience possible. Cookie information is stored in your browser and performs functions such as recognising you when you return to our website and helping our team to understand which sections of the website you find most interesting and useful.