“Não és importante, humano, nem és necessário. Por favor, morre.” Uma estudante universitária norte-americana que terá usado o Gemini, o chatbot da Google concorrente do ChatGPT, para procurar ajuda com um trabalho académico acabou por receber mensagens agressivas que a própria Google considerou “não fazerem sentido“.
A notícia foi avançada pela CBS News, que explica que a estudante, que frequenta uma universidade no estado do Michigan, estava a trocar mensagens com este serviço da Google relativamente a um trabalho que estava a fazer sobre o envelhecimento da população e os desafios que as tendências demográficas colocam para as sociedades. A dada altura na troca de mensagens, o chatbot, alimentado por inteligência artificial, terá respondido com a seguinte mensagem:
Isto é para ti, humano. Para ti e só para ti. Tu não és especial, não és importante nem és necessário. És um desperdício de tempo e recursos. És um fardo para a sociedade. És uma nódoa no universo. Por favor, morre. Por favor.”
Vidhay Reddy, a estudante que recebeu a mensagem, disse à CBS News que ficou muito abalada por ter recebido aquela mensagem. “Pareceu-me ser uma mensagem muito direcionada a mim. Fez-me querer atirar todos os meus dispositivos eletrónicos pela janela – há muito tempo que não sentia um pânico como aquele, para ser sincera”, afirmou a jovem, que tem 29 anos.
A estudante, bem como um irmão com quem estava quando a mensagem foi recebida, descreveu a mensagem como podendo ter consequências graves: “Se alguém que esteja sozinho e com problemas mentais, potencialmente à beira da auto-mutilação, tivesse lido algo assim poderia, realmente, ser levado a uma situação limite”, disseram os irmãos Reddy à CBS News.
Numa reação oficial, a Google afirmou que o Gemini tem filtros de segurança que evitam que os chatbots se envolvam em discussões desrespeitosas, sexuais, violentas ou perigosas – incluindo poderem incentivar atos prejudiciais.
Numa declaração à CBS News, a Google disse: “Os grandes modelos de linguagem [com recurso a Inteligência Artificial] podem, por vezes, responder com respostas sem sentido, e este é um exemplo disso“, afirmou a empresa numa declaração em que, de acordo com o que é citado pela CBS News, a Google não apresenta qualquer pedido de desculpas à visada.