Assim como Google, Meta e Microsoft, OpenAI oferece chatbots online e outras ferramentas de IA que podem escrever postagens em mídias sociais, gerar imagens fotorrealistas e escrever programas de computador. No seu relatório, a empresa afirmou que as suas ferramentas foram utilizadas em campanhas de influência que os investigadores acompanharam durante anos, incluindo uma campanha russa chamada Doppelganger e uma campanha chinesa chamada Spamouflage.
A campanha Doppelganger usou a tecnologia da OpenAI para gerar comentários anti-Ucrânia que foram postados no X em inglês, francês, alemão, italiano e polonês, disse a OpenAI. As ferramentas da empresa também foram usadas para traduzir e editar artigos que apoiaram a Rússia na guerra na Ucrânia para inglês e francês, e para converter artigos de notícias anti-Ucrânia em postagens no Facebook.
As ferramentas da OpenAI também foram usadas numa campanha russa até então desconhecida que tinha como alvo pessoas na Ucrânia, na Moldávia, nos Estados Bálticos e nos Estados Unidos, principalmente através do serviço de mensagens Telegram, disse a empresa. A campanha utilizou IA para gerar comentários em russo e inglês sobre a guerra na Ucrânia, bem como sobre a situação política na Moldávia e na política americana. O esforço também usou ferramentas OpenAI para depurar código de computador que aparentemente foi projetado para postar informações automaticamente no Telegram.
Os comentários políticos receberam poucas respostas e “curtidas”, disse a OpenAI. Os esforços também foram pouco sofisticados às vezes. A certa altura, a campanha postou um texto que obviamente foi gerado pela IA “Como modelo de linguagem de IA, estou aqui para ajudar e fornecer o comentário desejado”, dizia um post. Em outros pontos, postou em inglês ruim, levando a OpenAI a chamar o esforço de “Gramática Ruim”.
A Spamouflage, que há muito é atribuída à China, usou a tecnologia OpenAI para depurar código, buscar conselhos sobre como analisar mídias sociais e pesquisar eventos atuais, disse a OpenAI. As suas ferramentas também foram utilizadas para gerar publicações nas redes sociais depreciando pessoas que criticavam o governo chinês.