Inteligência Artificial e Eleições: Índia e as maiores eleições da história

Inovações com IA nas Campanhas Indianas

A Índia conduziu o maior processo eleitoral da história: ao todo, cerca de 642 milhões de eleitores compareceram às estações de voto ao longo de seis semanas. O país detém o maior eleitorado apto a votar no mundo (mais de 968 milhões de eleitores) e é um dos maiores exportadores mundiais de tecnologia da informação, uma combinação potente para o uso de inteligência artificial nas eleições.

Concluídas no início de junho, as eleições indianas foram marcadas pelo uso diversificado de inteligência artificial: ligações automatizadas, recriação de políticos por meio de avatares, produção de mensagens altamente personalizadas dirigidas ao eleitorado e a tradução de mensagens de discursos eleitorais para diferentes dialetos foram apenas alguns dos usos da IA generativa nestas eleições.

A “ressurreição” de pessoas já falecidas, uma das aplicações de IA que mais tem suscitado debates no campo da ética, tornou-se quase que corriqueira na campanha indiana. Nestas eleições, Muthuvel Karunanidh, ex-presidente do partido político Federação Progressiva dos Drávidas falecido em 2018, foi trazido de volta à vida ao menos três vezes em discursos políticos empregados pelo seu partido. Morta em 2009 em meio à guerra do Sri Lanka, Dwaraka Prabhakaran, filha de Velupillai Prabhakaran, chefe dos Tigres da Liberação do Tamil Eelam, foi recriada envelhecida por IAG em um discurso político que incitava o povo tâmil a lutar pela sua liberdade. Em outro caso, H. Vasanthakumar, vítima da COVID-19 no primeiro ano pandêmico, endereçava o eleitorado num discurso em que dava bênção ao seu filho Vijay, que concorreu nessas eleições ao mesmo assento parlamentar ocupado previamente por si. Vijay Vasanthakumar, por sinal, garantiu seu lugar no parlamento. Os exemplos não se encerram nesses três nomes: uma busca rápida na Internet retornará ainda mais casos, com nomes como Muthuvel Karunanidhi e Jayalalithaa Jayaram.

Estas criações têm sido encomendadas a empresas como a Indian Deepfaker, uma start-up que viu nas eleições uma oportunidade comercial: na sua homepage, é possível ver a personalização de mensagens no contexto eleitoral sendo anunciado como um possível uso de seu serviço. Vamos aos números: cinco minutos de gravação e entre seis a oito horas de pós-produção são o necessário para em quatro minutos gerar cerca de 20 vídeos com cumprimentos personalizados aos eleitores. [3] São os partidos e seus membros quem têm apostado no poder persuasivo dessas novas tecnologias (estima-se um gasto de mais de 50 milhões de dólares em IA nas eleições indianas), inclusive para fins de desinformação. Divyendra Singh Jadoun, fundador da Indian Deepfaker, relata ter declinado atender a vários dos pedidos recebidos de partidos políticos para fabricar áudios em que candidatos rivais cometem erros em seus discursos ou têm seus rostos colocados em imagens sexualmente explícitas. [4] Os conteúdos em áudio e vídeo gerados pela Indian Deepfaker, por exemplo, são acompanhados de avisos que os identificam como gerados por inteligência artificial, mas isso não é uma obrigação na Índia. Junto a duas outras start-ups com quem formou uma coalizão, a Indian Deepfaker assinou um manifesto pelo uso ético da inteligência artificial. O primeiro ponto do documento: eleições e integridade política.

Quando as deepfakes desinformam

Ainda que os deepfakers comerciais demonstrem (ou, pelo menos, aparentem demonstrar) um senso de responsabilidade por suas criações, a desinformação gerada por IAG seguiu se alastrando durante o período eleitoral indiano. Deepfakes em formato de vídeo são um exemplo comum. Na Índia, alterações sutis - em vez de discursos inteiramente fabricados - foram recorrentes. Ranveer Singh, ator proeminente no cinema de Bollywood, estrela um desses vídeos, no qual falsamente demonstra reprovação ao governo do atual primeiro-ministro indiano. Já Rahul Gandhi, oponente político de maior proeminência do primeiro-ministro, teve sua fala manipulada e pode ser visto falando que “não mais pode fingir ser hindu” em deepfake que se vale do momento de seu juramento público como candidato.

Apesar de contar com uma estratégia nacional para a inteligência artificial e adotar princípios para uma IA responsável, o país não conta com uma legislação que regula o uso da Inteligência Artificial. [5] A despeito de movimentações de última hora para regular o tema, manifestações da sociedade civil sobre a integridade eleitoral e o uso de deepfakes [6] [7] e provocações à Corte Suprema Indiana por meio de um litígio de interesse público sobre deepfakes, o pleito transcorreu sem regras específicas definidas para o uso de IA em campanhas políticas. No início de maio, contudo, em meio às eleições já em curso, a Comissão Eleitoral indiana emitiu um comunicado em que solicita aos partidos políticos que se abstenham de certas condutas. [8] A comissão reconhece que “conteúdos manipulados, distorcidos e editados em plataformas de mídias sociais tem o potencial de erroneamente influenciar as opiniões de eleitores, aprofundar divisões sociais e erodir a confiança no processo eleitoral”. [9] Diante disso, solicita aos partidos que não usem plataformas de mídias sociais para disseminar qualquer desinformação ou informação cuja natureza seja patentemente falsa, inverídica ou enganadora assim como conteúdos que podem imitar pessoas, incluindo-se aí qualquer informação que tenha sido artificialmente criada, gerada ou modificada de forma a dar entender que se trata de conteúdo autêntico ou verdadeiro quando, na realidade, engana de maneira desonesta ou fraudulenta qualquer pessoa que receba tal informação. [10] A comissão esclarece ainda que os partidos foram chamados a remover qualquer conteúdo nessas linhas dentro de três horas após lhes ter sido comunicada a problematicidade do conteúdo. Acontece que são os próprios partidos que têm utilizado a tecnologia. [11]

No mesmo dia do lançamento do comunicado da Comissão, o primeiro-ministroprimeiro ministro indiano, Narendra Modi, compartilhou deepfake em que é visto dançando como o rapper Lil Yachty. O caráter satírico do vídeo pode até deixar espaço para uma interpretação que descarta o conteúdo como enganador ou inverídico, mas um detalhe não passa despercebido: Modi compartilhou o conteúdo em resposta a um usuário que fala estar postando o vídeo por saber que “o ditador” não irá prendê-lo.

Conclusão

As eleições indianas trouxeram exemplos práticos de como o uso da inteligência artificial generativa pode ser diverso para fins políticos. É possível ver como a tecnologia pode ser uma ferramenta útil para um engajamento mais persuasivo do eleitorado, como no uso de mensagens personalizadas enviadas por aplicativos de mensageria ou na tradução de discursos entre dialetos locais. No entanto, é notório que a ausência de regras específicas voltadas à regulação do tema torna o pleito um terreno fértil não só para a promoção da desinformação quanto para a manipulação de eleitores. No caso das deepfakes autorizadas que ressuscitam figuras com forte capital político, não se trata de refutar a morte e semear desinformação, mas de torcer a realidade para influenciar eleitores a partir de um forte componente emocional.

Com o refinamento das IAGs, a distinção a “olho nu” entre o real e o fabricado torna-se cada vez mais marcada por nuances. Mais do que prestar atenção aos sinais de que algo pode ser falso, fabricado ou manipulado, em breve pode se esperar que os eleitores usem ferramentas mais técnicas para verificar a autenticidade dos conteúdos. Contudo, o uso massivo da IAG (ainda que não chegue a incorrer em conteúdos falsos) potencializa um dos elementos mais nocivos da desinformação: a erosão da confiança.

Escrito por Pedro Peres. Pedro Peres é mestrando no Mestrado Europeu em Direito, Dados e Inteligência Artificial (EMILDAI), na Dublin City University e bacharel em Direito pela Universidade Federal de Pernambuco (2018). Ele é membro do Laboratório de Políticas Públicas e Internet (LAPIN) desde 2020.

Referências

[1] 2024 is the biggest election year in history. The Economist. 13 novembro 2023.

[2]Different Approaches to Counting Elections. Katie Harbath. 19 dezembro 2023.

[3] How A.I. Tools Could Change India’s Elections. The New York Times. 18 abril 2024 [4] How artificial intelligence is influencing elections in India. Index on Censorship. 13 maio 2024.

[5] AI Watch: Global regulatory tracker - India. White & Case. 13 maio 2024.

[6] Civil society organisations express urgent concerns over the integrity of the 2024 general elections to the Lok Sabha. Internet Freedom Fund. 08 abril 2024.

[7] Open Letter to Electoral Candidates & Parliamentary Representatives on the Impact of Deepfakes on Electoral Outcomes. Internet Freedom Foundation. 26 fevereiro 2024.

[8] Election Comission warns political parties against misuse of AI tools in campaigning. Times of India. 06 maio 2024.

[9] Idem

[10] Election Commission to parties: Don’t post deepfakes, misleading info on social media. The Indian Express. 07 maio 2024.

[11] Idem