1. Introdução

Deep fakes são vídeos criados a partir de inteligência artificial e que reproduzem a aparência, as expressões e até mesmo a voz de alguém. O nome tem origem da junção de duas expressões em inglês: deep learning (aprendizado profundo) e fake (falso).

O deep learning, segundo Goodfellow, Bengio e Courville (2016, p. 483) é uma evolução das metodologias de aperfeiçoamento de Inteligência Artificial (IA), que deriva do machine learning, conceito que significa “colocar o computador para aprender”. O intento da machine learning é fazer com que o cérebro eletrônico estude os algoritmos de modo que entenda como ler dados e tomar decisões acertadas.

A nova tecnologia da deep fake tem viralizado na internet por diversos motivos, dentre os quais a paródia, em que são criados e divulgados conteúdos satíricos geralmente em referência a alguma figura pública, no entanto, também pode ser utilizada na manipulação de informações, prejudicando, assim, o senso de realidade dos indivíduos. Considerando esse cenário, apresenta-se como problema de pesquisa a seguinte pergunta: Quais são os principais riscos advindos das deep fakes no processo eleitoral brasileiro como meio de fragilização da democracia?

O advento dos avanços tecnológicos tem proporcionado facilidades capazes de aperfeiçoar processos e, assim, promover eficiência laboral, bem como qualidade e celeridade. Atualmente, a sociedade percorre um caminho de inovações e nessa ambiência, encontra-se também espaço para uma iminente guerra da desinformação, o que torna o ser humano vulnerável diante do que é real ou falso. Desse modo, o objetivo geral da pesquisa é compreender o fenômeno das deep fakes e seus eventuais agravos ao processo eleitoral brasileiro, analisando os impactos causados na democracia brasileira.

A pesquisa é de natureza explicativa, pois tem como objetivo proporcionar maior familiaridade com o problema (GIL, 2002, p. 42) com vistas a torná-lo mais explícito, bem como constituir novas hipóteses e clarificar os conceitos técnicos da deep fake. Utilizou-se o método dedutivo, partindo de um conceito abstrato (deep fake) que pode aparecer em diversas situações, em destaque no contexto eleitoral, em que se observará como o fenômeno se comporta especificamente no período das eleições, o que permite uma particularização.

2. Deep fakes e os riscos à democracia

Tendo em vista o problema de pesquisa apresentado, Robert Chesney e Danielle Citron (2019a, p. 1777) afirmam que as ameaças representadas pelas deep fakes têm dimensões sistêmicas, ou seja, o dano tende a estender-se a outras coisas: distorção do discurso democrático em importantes questões políticas; manipulações das eleições, erosão da confiança de importantes instituições públicas e privadas; aprimoramento e exploração das divisões sociais; danos às forças armadas ou operações de inteligência; ameaça à economia; e danos às relações internacionais.

Chesney e Citron (2019a, p. 1779) sustentam que as deep fakes corroerão a confiança em uma ampla gama de instituições públicas e privadas e essa descredibilidade afetará além dos órgãos, os funcionários, tais como juízes, legisladores, dentre outros.

Rainer Greifeneder et al. (2021, p. 2) aduzem que o termo disinformation (desinformação) refere-se a falsas informações que são criadas para prejudicar uma pessoa, grupo social, organização ou país, enquanto misinformation (desinformação) refere-se a informações embora erradas, mas que não têm o intento de prejudicar algo ou alguém. O autor alega que, uma vez aceita a falsa informação, é muito difícil corrigir o dano, que é suscetível de continuar a influenciar as crenças, mesmo quando as pessoas não endossam mais as informações falsas.

As fake news ganharam destaque mundial com o escândalo da Cambridge Analytica, assessoria britânica que trabalhou para a campanha eleitoral do presidente americano, Donald Trump. A empresa, que recentemente se declarou culpada, foi condenada por um tribunal de Londres a pagar uma multa de 15 mil libras além dos custos do processo. Tal situação abalou a credibilidade pública da rede social Facebook, ocasionando uma queda de 20% de usuários.

O sociólogo polonês Zygmunt Bauman (2001, passim) aduz que: “vivemos em tempos líquidos. Nada foi feito para durar”. Em seu conceito “modernidade líquida”, o autor define o tempo presente, escolhendo a metáfora da liquidez como principal aspecto do estado dessas mudanças, haja vista que o líquido sofre constante mudança e não conserva sua forma por muito tempo.

3. Deep fakes no contexto eleitoral brasileiro

As notícias falsas sempre existiram, no entanto, atualmente elas se tornaram uma grande fonte de dinheiro para sites que se dedicam a publicar manchetes falsas, sensacionalistas ou incorretas. Em razão do crescimento desse fenômeno, o termo pós-verdade entrou para o dicionário.

Pós-verdade, segundo o Dicionário Oxford (WINCHESTER, 2016) um adjetivo: “que se relaciona ou denota circunstâncias nas quais fatos objetivos tem menos influência em moldar a opinião pública do que apelos à emoção e a crenças pessoais”. Eugenio Bucci (2019, p. 10) cita que essa verdade nada tem de metafísica, de religiosa; não é uma verdade que se manifeste em epifania: ela é simplesmente a verdade dos fatos, ou seja, aquela que poderia ser objetivamente descrita conforme se apresente no plano material daquilo a que chamamos de fatos.

Norberto Bobbio (2006, p. 22) define o regime democrático primeiramente como um conjunto de regras de procedimento para a formação de decisões coletivas, em que está prevista e facilitada a participação mais ampla possível dos interessados.

Verifica-se que a conexão entre democracia, eleições e tecnologia tende a avançar cada vez mais, exigindo não apenas o preparo para lidar com os novos desafios, mas também a capacidade de autotransformação para fazer frente às mudanças e inovações tecnológicas, diante de eventuais prejuízos.

Assim sendo, nota-se que atualmente o termo fake news virou silogismo, por efeito da propagação de notícias falsas em massa. Conforme o entendimento de Robert Chesney e Danielle Citron (2019a, p. 1777), as mentiras prejudiciais não são novidade, contudo, a capacidade de distorcer a realidade deu um salto exponencial com a tecnologia deep fake. Essa capacidade torna possível criar áudio e vídeo de pessoas reais dizendo ou fazendo coisas que nunca disseram ou fizeram. A tecnologia está cada vez mais sofisticada tornando as deep fakes cada vez mais realistas e cada vez mais resistentes à detecção.

De acordo com o autor Zygmunt Bauman (2001, p. 29), nessa sociedade líquida, os sujeitos encontram-se livres para manifestar opiniões e compartilhar deliberadamente um ponto de vista que considerem pertinentes. Nessa senda, a fragilidade das estruturas informacionais proporcionadas pela internet, logo, a sociedade tida como a sociedade do conhecimento, encontra-se à mercê do compartilhamento desenfreado das fake news.

4. A criminalização das fake news

É indispensável enfatizar que estava em tramitação o Projeto de Lei 2.630/2020 (Lei das Fake News) que estabelecia normas, diretrizes e mecanismos de transparências na internet visando combater a desinformação. O projeto foi aprovado pelo Plenário do Senado, no entanto, teve trecho (1) revogado pelo Presidente da República.

Importa salientar que, no presente momento, a própria Suprema Corte Brasileira tem sido alvo de notícias falsas. Isso ocorre em virtude das discussões políticas que têm evidenciado o papel dos Ministros, vez que diversos atos políticos vêm sendo alvo de processos que tramitam na Corte Suprema, incluindo o processo eleitoral e o descontentamento de parte da população com os resultados alcançados no pleito eleitoral.

Nessa seara, levando-se em consideração os riscos advindos dos avanços da inteligência artificial, foi criado um programa de combate à desinformação.

De acordo com o secretário-geral da Presidência do Supremo Tribunal Federal, Pedro Felipe Oliveira, o Programa de Combate à Desinformação é um reforço institucional para identificar notícias falsas ou deturpadas sobre a Corte e os ministros, além de permitir reações e contramedidas para a difusão de informações corretas. A necessidade da criação desse programa já demonstra o enfraquecimento da democracia brasileira.

As consequências das fake news na vida do indivíduo são imensuráveis e incontroláveis; no que diz respeito as deep fakes, vídeos alterados com o intuito de prejudicar a reputação de alguém ou causar motim, tornam cada vez mais difícil a separação entre o real e o falso, nesse sentido, é necessário e urgente a criminalização das fake news, para que sejam punidos aqueles que criam, bem como os que intencionalmente propagam.

5. Conclusão

O Digital News Report (NEWMAN et al., 2019) informou que 84% dos brasileiros estão preocupados com o que é real e falso na internet, no entanto, 62% não sabem reconhecer uma notícia falsa. Esse incidente de desordem das informações ocasiona desassossego social, a julgar pelo modo desenfreado e, por vezes, incontrolável com que as notícias falsas se propagam.

A tecnologia da deep fake também tem trazido certos benefícios, dentre os quais, a situação da Índia, em que o partido Bharatiya Janata (BJP) manipulou a gravação de seu próprio presidente, Manoj Tiwari, para que ele pudesse falar de forma convincente em Haryanyi, um dialeto hindi popular entre os presentes eleitores. O político não fala inglês, nem mesmo o dialeto Haryanyi no vídeo original, então a tecnologia da deep fake entrou em cena para fazer com que a voz de um dublador fosse perfeitamente sincronizada aos movimentos dos lábios do político, demonstrando que é possível utilizar o recurso de maneira inteligente.

No Brasil, tem crescido o interesse em montagens de vídeos realizadas pela tecnologia da deep fake. A Resolução do Tribunal Superior Eleitoral (TSE) 23.610/2019, prevê que a liberdade de expressão no período eleitoral pode ser restringida quando o eleitor: “divulgar fato sabidamente falso”. O próprio TSE já publicou material explicando a manipulação de vídeo, bem como alertando o eleitor a não compartilhar material caso não tenha certeza de sua autenticidade. (2)

Para Chesney e Citron (2019a, p. 1754), o mercado de ideias já sofre com a decadência da verdade à medida que nosso ambiente de informações em rede interage de modo tóxico com nossos preconceitos cognitivos. As deep fakes vão potencializar esse problema significativamente, assim, empresas e indivíduos enfrentarão novas formas de exploração e até mesmo sabotagem, sendo, dessa maneira, um grande risco para a Segurança Nacional e a Democracia.

Portanto, verifica-se que a problemática em comento não é de simples resolução. Ademais, existe uma organização financeira por trás disso, empresas que trabalham arduamente na propagação de todos os tipos de notícias falsas.

Dessa forma, Ronaldo Lemos (2019b) aborda que as estratégias de combate às deep fakes são imprecisas, pois ao treinar uma IA para identificar fraudes, ela também se torna capaz de aperfeiçoar falsificações. O remédio vira veneno. Quanto melhor o detetive, mais astuto se torna o ladrão.

Essa nuance entre o verdadeiro e falso impacta diretamente na concepção de democracia, pois gera uma crise de confiança nas instituições.