Uma cacatua grita “Alexa, play music!” e diante da execução do comando começa a dançar, enquanto a dona grita, exasperada, de fora do quadro, que são duas da manhã. O vídeo curto é engraçado e pode ser real. Ou pode ter sido criado por inteligência artificial. Não sei. Vejo um outro vídeo, um homem mostra os detalhes que atestam que o referido vídeo da cacatua é falso. Ele dá argumentos lógicos e me convence. Porém, não entendo de IA para ter certeza de que o ele fala é fato. Mais, pode ser que esse entendido em IA seja ele também criado por IA - e não saberei identificar, a não ser que outro vídeo venha me provar sua falsidade ou não.
O grau de realismo alcançado com as deepfakes e a facilidade com que são criadas são assustadores. Para além de usos nocivos mais imediatos, como golpes de todos os tipos e interferências nas eleições (que não deixa de ser uma espécie de golpe, mas a vítima é coletiva), vislumbro que essa tecnologia, caminhando para seu paroxismo, sinaliza um problema de ordem epistemológica.
Se a pós-verdade, a hegemonia da opinião sobre o fato, da doxa sobre a episteme, já provocou cisões na sociedade, na sociabilidade; os deepfakes ultra-realistas tem potencial para levar à dúvida de tudo e de todos, em um movimento de descrença generalizado - não se trata mais de desdenhar do fato em prol da explicação mais lógica para seu sistema de crenças, mas de não poder verificar o fato para tirar qualquer conclusão a partir do que se viu. No nosso dia a dia dentro da internet, realidade e falsidade passam a ter exatamente a mesma aparência.
É possível que a ciência, a academia, tenha ferramentas para fazer essa distinção de modo seguro, a ponto de não afetar a produção científica (não vou entrar neste assunto, mas em vídeo na internet, a historiadora portuguesa Raquel Varela sugere a supressão da IA no ensino [bit.ly/4qPa5j5]). Primeiro porém: o tempo da política (entendido aqui como tempo da sociedade) não é o tempo da ciência: o desmentido de uma informação não sai de pronto, exige certo tempo, que por mais que seja curto, dificilmente será da velocidade com que uma notícia falsa, um vídeo deepfake se alastra. Segundo problema: a própria divulgação científica hoje depende da internet, e a lógica de circulação da informação não é de se buscar os canais oficiais, e sim repassar o que se recebe. Novamente o problema da fala de um especialista poder ser uma deep fake dele próprio - Dráuzio Varela é uma das personalidades mais usadas para aplicação de golpes na internet [bit.ly/3LgHqEG].Poderíamos confiar na mídia? Para além do viés de suas publicações, deixando de lado muitas notícias de importância para a população em geral, vale lembrar que ela também não raro acaba por reproduzir seus preconceitos ao invés de se ater ao fatos. Um ótimo exemplo do viés de confirmação da mídia foi a “trolagem” do Não Salvo, enganando quase o mundo todo, do Guardian ao New York Times, passando pelo UOL e Globo, com a notícia de que a Coreia do Norte estaria noticiando que ganhara a copa de 2014 [bit.ly/4b36NEt]. Teríamos ainda os fact-checks, mas esses também são conduzidos majoritariamente pela mídia hegemônica, com auxílio da academia, e recaem nos problemas acima assinalados.
Diante disso, correr atrás de desmentir o deepfake e a fake news não é uma alternativa. De desmentido em desmentido, corrói-se a confiança como um todo - e hoje a internet tem uma relevância enorme como fonte de informação e meio de socialização.
Que tomemos todas as precauções possíveis para não sermos enganados por uma deepfake, como saber que as pessoas dos nossos círculos, com quem compartilhamos dos mesmos pressupostos, tiveram o mesmo cuidado, e a opinião que formaram não foi com base em um vídeo falso? Como confiar nas novidades do mundo que as pessoas próximas nos contam?
Não se trata, portanto, apenas do receio de um deepfake imitar uma pessoa próxima para aplicar um golpe, mas de pôr em dúvida a pessoa em carne e osso na nossa frente, de que aquilo que ela sabe de fato aconteceu, e não são fakenews, deepfakes.
Não acredito que haverá uma regressão na tecnologia, de modo a evitar essa situação; tenho dúvidas que a regulação dará conta dessa questão; creio antes que precisaremos atravessar essa crise epistemológica para criar repertório que nos permita recobrar a confiança nos próximos - e em nós mesmos, em última análise. Até lá, tempos difíceis se desenham.
12 de janeiro de 2026
