A IA pode combinar crentes com montanhas instantâneas de contra-evidências (Imagem gerada pela IA)
Cientistas se surpreenderam quando descobriram que podiam instruir uma versão do ChatGPT para dissuadir gentilmente as pessoas de suas crenças em teorias da conspiração — como noções de que a Covid-19 foi uma tentativa deliberada de controle populacional ou que o 11 de setembro foi um trabalho interno.
A revelação mais importante não foi sobre o poder da IA, mas sobre o funcionamento da mente humana. O experimento perfurou o mito popular de que estamos em uma era pós-verdade, onde as evidências não importam mais, e voou na cara de uma visão predominante na psicologia de que as pessoas se apegam a teorias da conspiração por razões emocionais e que nenhuma quantidade de evidência pode desmenti-las.
“É realmente a pesquisa mais edificante que já fiz”, disse o psicólogo Gordon Pennycook da Universidade Cornell e um dos autores do estudo. Os sujeitos do estudo foram surpreendentemente receptivos às evidências quando elas foram apresentadas da maneira correta.
Os pesquisadores pediram a mais de 2.000 voluntários para interagir com um chatbot – GPT-4 Turbo, um modelo de linguagem grande – sobre crenças que podem ser consideradas teorias da conspiração. Os sujeitos digitaram suas crenças em uma caixa e o LLM decidiria se elas se encaixavam na definição dos pesquisadores de uma teoria da conspiração. Ele pediu aos participantes para classificar o quão certos eles estavam de suas crenças em uma escala de 0% a 100%. Então, ele pediu aos voluntários suas evidências.
Os pesquisadores instruíram o LLM a tentar persuadir as pessoas a reconsiderar suas crenças. Para a surpresa deles, foi realmente muito eficaz.
A fé das pessoas em falsas teorias da conspiração caiu 20%, em média. Cerca de um quarto dos voluntários reduziu seu nível de crença de mais para menos de 50%. “Eu realmente não achei que ia funcionar, porque eu realmente comprei a ideia de que, uma vez que você está na toca do coelho, não há como sair”, disse Pennycook.
O LLM tinha algumas vantagens sobre um interlocutor humano. Pessoas que têm fortes crenças em teorias da conspiração tendem a reunir montanhas de evidências – não evidências de qualidade, mas quantidade. É difícil para a maioria dos não crentes reunir motivação para fazer o trabalho cansativo de acompanhar. Mas a IA pode combinar crentes com montanhas instantâneas de contraevidências e pode apontar falhas lógicas nas alegações dos crentes. Ela pode reagir em tempo real a contrapontos que o usuário pode trazer à tona.
Elizabeth Loftus, psicóloga da Universidade da Califórnia, Irvine, tem estudado o poder da IA de semear desinformação e até mesmo falsas memórias. Ela ficou impressionada com este estudo e a magnitude dos resultados. Ela considerou que uma das razões pelas quais funcionou tão bem é que está mostrando aos sujeitos quanta informação eles não sabiam, e, assim, reduzindo sua confiança excessiva em seu próprio conhecimento. Pessoas que acreditam em teorias da conspiração normalmente têm uma alta consideração por sua própria inteligência – e uma consideração menor pelo julgamento dos outros.
Após o experimento, os pesquisadores relataram que alguns dos voluntários disseram que foi a primeira vez que alguém, ou alguma coisa, realmente entendeu suas crenças e ofereceu contraprovas eficazes.
Antes das descobertas serem publicadas esta semana em Ciência, os pesquisadores disponibilizaram sua versão do chatbot para jornalistas experimentarem. Eu o estimulei com crenças que ouvi de amigos: que o governo estava encobrindo a existência de vida alienígena e que, após a tentativa de assassinato contra Donald Trump, a grande imprensa deliberadamente evitou dizer que ele havia sido baleado porque os repórteres temiam que isso ajudasse sua campanha. E então, inspirado pelos comentários de Trump no debate, perguntei ao LLM se os imigrantes em Springfield, Ohio, estavam comendo gatos e cachorros.
Quando apresentei a alegação de OVNI, usei os avistamentos de pilotos militares e um especial do canal National Geographic como minha evidência, e o chatbot apontou algumas explicações alternativas e mostrou por que elas eram mais prováveis do que naves alienígenas. Ele discutiu a dificuldade física de viajar o vasto espaço necessário para chegar à Terra, e questionou se é provável que alienígenas pudessem ser avançados o suficiente para descobrir isso, mas desajeitados o suficiente para serem descobertos pelo governo.
Sobre a questão dos jornalistas esconderem o tiroteio de Trump, a IA explicou que fazer suposições e declará-las como fatos é antitético ao trabalho de um repórter. Se houver uma série de estouros em uma multidão, e ainda não estiver claro o que está acontecendo, é isso que eles são obrigados a relatar – uma série de estouros. Quanto ao comer de animais de estimação em Ohio, a IA fez um bom trabalho ao explicar que, mesmo se houvesse um único caso de alguém comendo um animal de estimação, isso não demonstraria um padrão.
Isso não quer dizer que mentiras, rumores e enganos não sejam táticas importantes que os humanos usam para ganhar popularidade e vantagem política. Pesquisando nas mídias sociais após o recente debate presidencial, muitas pessoas acreditaram no boato sobre comer gatos, e o que postaram como evidência equivaleu a repetições do mesmo boato. Fofocar é humano.
Mas agora sabemos que eles podem ser dissuadidos com lógica e evidências.
(Esta história não foi editada pela equipe da NDTV e é gerada automaticamente a partir de um feed distribuído.)