Anatoly Kvitnitsky, que criou a AI or Not AI, outra das startups que está a identificar deepfakes de imagem e áudio, relembra a desinformação que marcou as duas últimas eleições nos EUA, em 2016 e 2020. “Na campanha de 2016, uma pessoa com um nível de educação razoável conseguia identificar: ‘ok, isto não parece real’. Este ano, a mesma pessoa não vai poder confiar nos seus olhos.” A desinformação que os deepfakes vão gerar vai ser muito mais intensa, acredita. “Se se olhar para as campanhas de desinformação [de 2016], tudo vai parecer uma piada em comparação com as que aí vêm, devido à IA generativa.”
O termo deepfake tem duas vertentes, explica ao Observador Mário A. T. Figueiredo, professor do Instituto Superior Técnico (IST). Primeiro, “deep, de profundo, no sentido em que é algo falso muito difícil de detetar” e pelo uso da “técnica de inteligência artificial, mais particularmente de aprendizagem automática e da chamada deep networks”, para conceber estas imagens e vídeos manipulados. As deep networks são usadas numa área chamada deep learning, ou aprendizagem profunda. A segunda parte da palavra, fake, representa a manipulação. “São imagens falsas, profundamente falsas, difíceis de distinguir da imagem real.”
As técnicas mais modernas para conceber estes conteúdos, em voga devido à expansão da IA generativa, “conseguem aprender o que é uma imagem ou um vídeo natural a partir de muitos exemplos”. Os modelos de geração de imagem Dall-E ou o Midjourney conseguem “manipular subtilmente, mantendo as características que fazem com que pensemos que são reais, mas mesmo assim mudando o conteúdo de uma imagem”. Por exemplo, mudar uma cara para a de outra pessoa, mas mantendo o aspeto natural da imagem. O que, no final, resultam em imagens manipuladas que geram confusão “porque não conseguimos distinguir se foi, de facto, obtida por uma câmara fotográfica, se é uma representação do mundo físico e real ou se foi gerada por um computador e resultado de uma IA generativa”.
Os últimos anos, marcados pelos avanços da IA generativa, têm resultado num “misto de sensações” em Mário A. T. Figueiredo. Por um lado, “é sempre admirável e espantoso do ponto de vista técnico aquilo que se consegue fazer”, por outro, vê com “preocupação” o tema da manipulação pelos “impactos que pode ter”.
Embora diga que “sempre houve manipulação — já nos anos 30, na época soviética, se apagavam pessoas de fotografias, que eram manipuladas com a tecnologia da altura –”, vê, no entanto, diferenças para os atuais tempos. “Baixou-se a barreira de entrada, que exigia, antes, algum profissionalismo e conhecimento das ferramentas”. Com o uso massificado, Mário A. T. Figueiredo considera que é “relativamente fácil criar deepfakes não de qualidade máxima, mas convincentes” ao ponto de serem partilhados por alguém menos atento.
Reescrevendo a história com tesoura e cola
Entra em cena o aspeto social e emocional, explica o académico. Se o deepfake explorar “algo que bate certo com alguma indignação” da pessoa que vê o vídeo ou a imagem, “baixa imediatamente o nível de espírito crítico” ao ponto de se partilhar uma informação que não é verdadeira. “Preocupa-me como se poderão, muito facilmente, criar imagens falsas de alguém ou colocar uma pessoa a dizer algo que, na realidade, nunca disse.”
Figueiredo acredita que a “ameaça principal não está na tecnologia, que obviamente tem vindo a melhorar e a tornar-se algo desafiante”, mas sim no “ambiente em torno das redes sociais e da facilidade com que as pessoas disseminam algo com pouco espírito crítico”.