As novas regras eleitorais sobre deepfakes

No último dia 27 de fevereiro, os ministros do Tribunal Superior Eleitoral (TSE) se reuniram para aprovar 12 instruções que irão reger as eleições municipais de outubro deste ano. Merece destaque a Instrução 0600751-65.2019.6.00.0000, que disciplina o uso de inteligência artificial em campanhas eleitorais.[1] Importante notar que a norma do TSE não veda o emprego de inteligência artificial pelos partidos políticos e equipes dos candidatos, mas impõe a observância de certos deveres na sua utilização.

Por exemplo, as propagandas eleitorais que utilizarem inteligência artificial para “criar, substituir, omitir, mesclar ou alterar a velocidade ou sobrepor imagens ou sons” deverão conter um aviso explícito de que o conteúdo veiculado foi digitalmente alterado e qual foi a tecnologia empregada.[2] Espera-se, com isso, assegurar que o eleitor seja, ao menos, informado de que a inteligência artificial está sendo utilizada naquilo que visualiza e qual é exatamente o seu efeito em comparação com a realidade inalterada.

O TSE proibiu, por sua vez, a utilização de deepfake, expressão que o artigo 9-C, §1º, da já referida instrução define como “conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia”.

Deepfakes

O uso da inteligência artificial para criar versões falsas de imagens e vídeos não é nenhuma novidade. Aliás, a expressão “deepfakes” tem origem no nome escolhido por um usuário do Reddit, que passou, anos atrás, a publicar vídeos de atrizes famosas em cenas íntimas – conteúdo inteiramente falso, criado com uso de inteligência artificial.[3]

O uso de deepfakes em eleições também não é uma novidade. Nas eleições presidenciais de 2022, foi difundido nas redes sociais um vídeo em que a âncora do Jornal Nacional, Renata Vasconcellos, comentava o resultado de uma pesquisa de intenções de voto. No vídeo, a jornalista informava que o candidato Jair Bolsonaro estaria em primeiro lugar, com 44% das intenções de voto, e que o candidato Lula estaria em segundo lugar, com 32%, quando, na verdade, a pesquisa em questão havia concluído exatamente o oposto: Lula em primeiro lugar, com 44%, e Bolsonaro em segundo lugar, com 32%.[4]

A exatidão com que a inteligência artificial consegue simular falas de pessoas reais amplia-se a cada dia. Se, em 2022, um vídeo falso já era muito próximo à realidade, é possível afirmar que, em 2024, a distinção entre a cena real e a cena simulada será ainda menos perceptível. Não é exagero imaginar que haverá uma avalanche de notícias falsas e, também, de conteúdo falso nas eleições deste ano. É certo que a falsidade pode ser desmentida rapidamente pela pessoa que protagoniza a cena.

Também é certo que o público eleitor está, hoje, mais cauteloso do que estava há dois anos atrás em relação a informações que circulam em redes sociais e aplicativos de mensagens. Há uma desconfiança generalizada das informações envolvendo candidatos e políticos. Isso, contudo, também remete a um efeito extremamente nocivo das deepfakes em nossa realidade social: a superexposição das pessoas a conteúdo falso alimenta uma crise de confiabilidade nas notícias em geral e, também, no funcionamento das instituições.

Quando se torna muito difícil saber se o que estamos vendo ou ouvindo é verdadeiro ou falso, como evitar um estado generalizado de desconfiança? A desconfiança desagua, frequentemente, no relativismo: quem não pode saber se a informação é verídica age como se a informação não tivesse mais tanta importância. Nesse cenário, os debates perdem não apenas qualidade, mas perdem sentido. E, na falta de debates, os discursos vão se tornando cada vez mais extremistas.

Em recente tese apresentada no âmbito do concurso para a vaga de professor titular do Departamento de Direito do Estado da Faculdade de Direito da USP, o candidato Alexandre de Moraes sustenta que “a instrumentalização das redes sociais e de serviços de mensageria privada pelo novo populismo digital extremista, por meio da atuação de suas verdadeiras ‘milícias digitais’, transformou-se em um dos mais graves e perigosos instrumentos de corrosão da Democracia, exigindo nova postura legislativa e da Justiça Eleitoral”.[5]

Postura do TSE e punição de candidatos

A “nova postura” parece ter ganhado corpo no âmbito do TSE, cuja nova instrução pune candidatos que utilizem deepfakes ou veiculem propagandas criadas a partir de inteligência artificial sem o devido aviso com a cassação do seu registro e do seu mandato, sem prejuízo da responsabilização criminal, nos termos do artigo 323 do Código Eleitoral.[6]

Não são apenas os candidatos, contudo, que estão sujeitos à nova instrução do TSE. De acordo com o texto da nova instrução, as redes sociais (ou, mais tecnicamente, “provedores de aplicações”) estão obrigadas a remover conteúdos eleitorais que sejam “notoriamente inverídicos ou gravemente descontextualizados”, mesmo sem decisão judicial prévia.[7]

A diretriz do TSE encontra paralelo em outros países. Nos Estados Unidos, por exemplo, as legislações do Texas, da Califórnia e de Maryland já vedam expressamente o uso de deepfakes para fins eleitorais, desde as eleições de 2020. Por conta das eleições presidenciais que ocorrerão neste ano, voltaram ao centro do debate político estadunidense diversas propostas legislativas para regular o uso de inteligência artificial em campanhas eleitorais, quer em âmbito nacional, quer nos diferentes estados que ainda não contam com normativa sobre o tema.[8]

Trata-se, de resto, de uma tendência mundial, mas o problema não se limita a alterações legislativas e atuação de instâncias de controle. É preciso uma atitude coordenada com a sociedade civil. Os veículos de imprensa, incluindo as plataformas digitais de notícias, devem atuar na linha de frente, checando os fatos e denunciando prontamente as informações e conteúdos falsos que circulam no mundo virtual. E os próprios eleitores precisam checar informações antes de compartilharem conteúdo que recebem via aplicativos e redes sociais.

O apego à verdade deve ser um compromisso de todos. O uso descontrolado de técnicas que manipulam a realidade não pode ser visto como um instrumento legítimo de captação de votos. O Brasil tem problemas demasiadamente reais para enfrentar. O fato de que um candidato esteja se valendo de truques digitais para conquistar eleitorado talvez seja um bom indício de que não tem condições reais de contribuir para a superação das vicissitudes que assolam o país.

Fonte: Jota

VEJA AQUI OS LIVROS DO AUTOR!

LEIA TAMBÉM

• Inteligência artificial e a proteção de crianças e adolescentes: o caso dos fake nudes
• Aspectos jurídicos do gênero true crime
• Elis Regina e reconstrução digital póstuma

NOTAS

[1] A íntegra do texto das instruções aprovadas pelo TSE para as eleições municipais de 2024 pode ser consultada em tse.jus.br.

[2] “Art. 9º-B. A utilização na propaganda eleitoral, em qualquer modalidade, de conteúdo sintético multimídia gerado por meio de inteligência artificial para criar, substituir, omitir, mesclar ou alterar a velocidade ou sobrepor imagens ou sons impõe ao responsável pela propaganda o dever de informar, de modo explícito, destacado e acessível que o conteúdo foi fabricado ou manipulado e a tecnologia utilizada.”

[3] Para mais detalhes, ver a reportagem “O que é deepfake? Inteligência artificial é usada para fazer vídeo falso” (techtudo.com.br, 28.7.2018).

[4] “Deepfake mostra pesquisa falsa na voz de Renata Vasconcellos, do Jornal Nacional” (Exame, 18.8.2022).

[5] Alexandre de Moraes, O Direito Eleitoral e o novo populismo digital extremista: liberdade de escolha do eleitor e a promoção da democracia, Faculdade de Direito da Universidade de São Paulo, 2024, p. 11.

[6] “Art. 323. Divulgar, na propaganda eleitoral ou durante período de campanha eleitoral, fatos que sabe inverídicos em relação a partidos ou a candidatos e capazes de exercer influência perante o eleitorado: (…) Pena – detenção de dois meses a um ano ou pagamento de 120 a 150 dias-multa.”

[7] “Art. 9º-D. É dever do provedor de aplicação de internet, que permita a veiculação de conteúdo político-eleitoral, a adoção e a publicização de medidas para impedir ou diminuir a circulação de fatos notoriamente inverídicos ou gravemente descontextualizados que possam atingir a integridade do processo eleitoral, incluindo: (…) § 2º O provedor de aplicação, que detectar conteúdo ilícito de que trata o caput deste artigo ou for notificado de sua circulação pelas pessoas usuárias, deverá adotar providências imediatas e eficazes para fazer cessar o impulsionamento, a monetização e o acesso ao conteúdo e promoverá a apuração interna do fato e de perfis e contas envolvidos para impedir nova circulação do conteúdo e inibir comportamentos ilícitos, inclusive pela indisponibilização de serviço de impulsionamento ou monetização. (…) § 4º As providências mencionadas no caput e nos § 1º e 2º deste artigo decorrem da função social e do dever de cuidado dos provedores de aplicação, que orientam seus termos de uso e a prevenção para evitar ou minimizar o uso de seus serviços na prática de ilícitos eleitorais, e não dependem de notificação da autoridade judicial”.

[8] Para mais detalhes, ver “States turn their attention to regulating AI and deepfakes as 2024 kicks off” (NBC, 22.1.2024)