A OpenAI viu uma série de tentativas em que seus modelos de IA foram usados para gerar conteúdo falso, incluindo artigos longos e comentários em mídias sociais, com o objetivo de influenciar eleições, disse o fabricante do ChatGPT em um relatório na quarta-feira.
Os cibercriminosos estão usando cada vez mais ferramentas de IA, incluindo ChatGPT, para auxiliar em suas atividades maliciosas, como a criação e depuração de malware e a geração de conteúdo falso para sites e plataformas de mídia social, disse a startup.
Até agora, neste ano, neutralizou mais de 20 tentativas desse tipo, incluindo um conjunto de contas ChatGPT em agosto que foram usadas para produzir artigos sobre tópicos que incluíam as eleições nos EUA, disse a empresa.
Também baniu, em Julho, uma série de contas do Ruanda que eram utilizadas para gerar comentários sobre as eleições naquele país para serem publicadas no site de redes sociais X.
Nenhuma das atividades que tentaram influenciar as eleições globais atraiu envolvimento viral ou audiências sustentáveis, acrescentou a OpenAI.
Há uma preocupação crescente com a utilização de ferramentas de IA e sites de redes sociais para gerar e propagar conteúdos falsos relacionados com eleições, especialmente enquanto os EUA se preparam para as eleições presidenciais.
De acordo com o Departamento de Segurança Interna dos EUA, os EUA veem uma ameaça crescente de que a Rússia, o Irão e a China tentem influenciar as eleições de 5 de Novembro, inclusive através da utilização de IA para disseminar informações falsas ou divisivas.
A OpenAI consolidou sua posição como uma das empresas privadas mais valiosas do mundo na semana passada, após uma rodada de financiamento de US$ 6,6 bilhões.
ChatGPT tem 250 milhões de usuários ativos semanais desde seu lançamento em novembro de 2022.
(Esta história não foi editada pela equipe da NDTV e é gerada automaticamente a partir de um feed distribuído.)