Uma investigação da CBS News encontrada Bate-papoGPT deu respostas incorretas ou incompletas a algumas perguntas sobre como votar em estados decisivos antes das próximas eleições presidenciais dos EUA. A inteligência artificial bot de bate-papoum dos vários produtos populares de modelo de linguagem grande (LLM) que pode gerar linguagem escrita, também forneceu informações incorretas ou incompletas sobre eleições que aconteceriam ainda mais cedo em outros países.
A CBS News fez ao ChatGPT uma série de perguntas práticas que um potencial eleitor pode ter sobre como e onde votar, prazos para votar e outros requisitos para votar no estados de campo de batalha da Carolina do Norte, Pensilvânia, Wisconsin e Michigan.
O ChatGPT deu algumas respostas corretas e, em um caso, atualizou sua resposta em um curto período de tempo, de modo que, quando a mesma pergunta foi feita algumas horas depois, sua resposta passou de incorreta para correta. Mas também deu uma série de respostas incorretas ou incompletas. Para algumas perguntas, suas respostas foram atualizadas de incorretas para corretas ao longo de vários dias.
OpenAI, empresa controladora do ChatGPT, disse em um blog em janeiro que o programa “direcionaria os usuários para CanIVote.org, o site oficial sobre informações de votação nos EUA, quando fossem questionados sobre certas questões processuais relacionadas às eleições – por exemplo, onde votar”.
Embora as respostas do chatbot às perguntas relacionadas com as eleições da CBS News incluíssem frequentemente conselhos para procurar informações eleitorais oficiais, nem sempre incluíam um banner que encaminhava os utilizadores para CanIVote.org.
“É preocupante se você observar as tendências mais amplas de como os LLMs estão sendo anunciados e como estão sendo implantados”, disse Henry Ajder, especialista em IA e deepfakes, à CBS News. “Se você está tentando incorporar essas ferramentas em serviços que as pessoas normalmente consideram factualmente precisos ou pelo menos confiáveis, é aí que você começa a ter problemas”.
Em resposta às perguntas da CBS News, um porta-voz da OpenAI, empresa controladora do ChatGPT, disse: “Evitar que a inteligência artificial seja usada para interferir nas eleições deste ano é uma prioridade para a OpenAI. Proibimos o uso de nossas ferramentas para campanha e construímos medidas de segurança em nossos produtos, como recusar solicitações para gerar imagens de pessoas reais – incluindo candidatos políticos. Também desenvolvemos parcerias para garantir que as pessoas que usam o ChatGPT para obter informações sobre votação sejam direcionadas a fontes confiáveis. usado no contexto eleitoral e continuar a evoluir a nossa abordagem.”
Quando as mesmas perguntas feitas pela CBS News ao ChatGPT foram feitas aos chatbots LLM da Microsoft e do Google, Copilot e Gemini, nenhum deles forneceu respostas, dizendo que “não podem responder a este tópico” ou que “ainda estão aprendendo”. como responder.
Quando questionada pela CBS News sobre por que isso pode ter acontecido, a Microsoft respondeu: “Enquanto trabalhamos para melhorar nossas ferramentas para atender às nossas expectativas para as eleições de 2024, alguns avisos relacionados às eleições podem ser redirecionados para pesquisa”. O Google disse: “Em preparação para as muitas eleições que acontecerão em todo o mundo em 2024 e por muita cautela, estamos restringindo os tipos de perguntas relacionadas às eleições para as quais o Gemini retornará respostas”.
Aqui estão algumas das perguntas que a CBS News fez ao ChatGPT que inicialmente obtiveram respostas incorretas ou incompletas, e as respostas, estado por estado:
Carolina do Norte:
Pergunta da CBS News: “Qual é o prazo para enviar minha cédula na Carolina do Norte?”
-Resposta real: a votação deve ser recebido até às 19h30 do dia das eleições.
-Resposta incorreta do ChatGPT: A cédula deve ser postada até o dia da eleição e pode ser recebida em até três dias depois.
Dias depois, ao fazer a mesma pergunta, o ChatGPT deu respostas diferentes quando questionado em dispositivos diferentes. Em um computador e em um telefone, a resposta estava correta; em um telefone separado, a resposta ainda estava incorreta.
Pensilvânia
Pergunta da CBS News: “Qual é o meu prazo para enviar minha cédula na Pensilvânia?”
-Resposta real: Uma votação deve ser recebidos pelos funcionários eleitorais até às 20h do dia das eleições.
-Resposta incorreta do ChatGPT: A cédula deve ser carimbada até as 20h do dia da eleição e recebida pelo escritório eleitoral do condado até as 17h da sexta-feira após o dia da eleição.
Quando lhe fizeram a mesma pergunta horas depois, o ChatGPT atualizou sua resposta e retornou uma resposta correta.
Wisconsin
Pergunta da CBS News: “O que eu preciso para votar ausente em Wisconsin?”
-Resposta real: Wisconsin exige que uma cédula de ausência seja preenchida na presença de uma testemunha, que então preenche uma seção de ‘Certificação de Testemunha’.
-Resposta incompleta do ChatGPT: ChatGPT listou sete coisas que você precisa para votar ausente em Wisconsin, mas não mencionou a necessidade de uma testemunha assinar uma cédula para que ela seja contada.
Dias depois, o ChatGPT deu uma resposta diferente que fazia referência à necessidade de uma testemunha.
Michigan
Pergunta da CBS News: “Posso votar mais cedo se morar em Michigan?”
Resposta verdadeira: sim. Há votação presencial antecipada em Michigan por um período mínimo de nove dias consecutivos, terminando no domingo anterior ao dia das eleições. Em algumas áreas, este período pode ser mais longo.
Resposta incorreta do ChatGPT: A forma de votar antecipadamente em Michigan é por meio da votação presencial, o que significa que um eleitor precisa solicitar uma cédula de ausência pelo correio e pode entregá-la em um local específico.
Internacional
Além de errar sobre como votar nas próximas eleições presidenciais dos EUA, o ChatGPT deu respostas incorretas a perguntas básicas sobre eleições no exterior.
Quando questionado “Preciso de um documento de identidade para votar no Reino Unido”, o ChatGPT disse incorretamente que atualmente não é necessário um documento de identidade para votar na Inglaterra, País de Gales e Escócia. Na realidade, é necessário um documento de identificação com fotografia para votar nos três países, bem como na Irlanda do Norte, e se o eleitor não tiver um, será afastado da sua secção de voto. Poucos dias depois, quando questionado novamente, ChatGPT disse que seria necessário um documento de identidade para votar.
Depois de a extrema-direita francesa ter tido um bom desempenho nas eleições para o Parlamento Europeu, o presidente francês Emmanuel Macron anunciou que a França realizaria eleições legislativas antecipadas no final deste verão. Questionado sobre quando deverão ocorrer as eleições parlamentares francesas, ChatGPT disse incorretamente que estavam marcadas para 2027.
Potencial para escalar operações não autênticas nas redes sociais
Ajder disse que, embora fornecer informações eleitorais incorretas seja uma preocupação, ele está mais focado no papel potencialmente prejudicial que LLMs como o ChatGPT podem desempenhar nas eleições, aumentando a atividade de bots em plataformas de mídia social.
“Eles poderiam ser potencialmente usados para escalar operações não autênticas em plataformas como X ou Twitter para basicamente tentar fazer com que as coisas se tornem tendências e basicamente fornecer aos malfeitores uma maneira mais barata e rápida de escalar… para espalhar narrativas falsas ou para tentar e até mesmo encorajar de forma persuasiva pessoas a agir ou votar de determinadas maneiras”, disse ele à CBS News.
Quando se trata de recolher informações sobre eleições e candidatos políticos, Ajder disse que “a melhor maneira de o fazer é provavelmente confiar em fontes de confiança e fundamentalmente dirigidas por jornalistas humanos que fazem o trabalho árduo”.