- Sam Altman defendeu os esforços de segurança da OpenAI depois que Elon Musk culpou o ChatGPT por múltiplas mortes
- Altman chamou a segurança da IA de “genuinamente difícil”, destacando o equilíbrio entre proteção e usabilidade
- OpenAI enfrenta vários processos por homicídio culposo vinculados a alegações de que ChatGPT piorou os resultados de saúde mental
O CEO da OpenAI, Sam Altman, não é conhecido por compartilhar demais sobre o funcionamento interno do ChatGPT. Mas ele admitiu ter dificuldade em manter a IA chatbot seguro e útil. Elon Musk aparentemente provocou esse insight com postagens farpadas no X (antigo Twitter). Musk alertou as pessoas para não usarem o ChatGPT, compartilhando um link para um artigo que afirmava uma ligação entre o assistente de IA e nove mortes.
A intensa troca de mensagens nas redes sociais entre duas das figuras mais poderosas da inteligência artificial rendeu mais do que egos feridos ou cicatrizes legais. A postagem de Musk não se referia ao contexto mais amplo das mortes ou aos processos judiciais que a OpenAI enfrenta relacionados a elas, mas Altman sentiu-se claramente compelido a responder.
Sua resposta foi bem mais sincera do que o habitual clichê corporativo insípido. Em vez disso, ele deu uma olhada no pensamento por trás da corda bamba do OpenAI, equilibrando a manutenção do ChatGPT e outras ferramentas de IA seguras para milhões de pessoas, e defendeu a arquitetura e as proteções do ChatGPT. “Precisamos proteger os usuários vulneráveis e, ao mesmo tempo, garantir que nossas proteções ainda permitam que todos os nossos usuários se beneficiem de nossas ferramentas.”
Às vezes você reclama que o ChatGPT é muito restritivo e, em casos como esse, afirma que é muito relaxado. Quase um bilhão de pessoas o utilizam e algumas delas podem estar em estados mentais muito frágeis. Continuaremos a fazer o nosso melhor para acertar e nos sentimos muito… https://t.co/U6r03nsHzg20 de janeiro de 2026
Depois de elogiar os protocolos de segurança da OpenAI e a complexidade de equilibrar a redução de danos com a utilidade do produto, Altman deu a entender que Musk não tinha legitimidade para lançar acusações por causa dos perigos do sistema de piloto automático da Tesla.
Ele disse que sua própria experiência com isso foi suficiente para convencê-lo de que estava “longe de ser algo seguro para a Tesla lançar”. Num comentário especialmente direcionado a Musk, ele acrescentou: “Nem vou começar com algumas das decisões de Grok”.
À medida que a troca ricocheteou nas plataformas, o que mais se destacou não foi a habitual postura bilionária, mas o enquadramento invulgarmente sincero de Altman sobre o que a segurança da IA realmente implica. Para a OpenAI, uma empresa que implanta simultaneamente o ChatGPT para crianças em idade escolar, terapeutas, programadores e CEOs, definir “seguro” significa cruzar a linha entre a utilidade e evitar problemas, objetivos que muitas vezes entram em conflito.
Altman não comentou publicamente sobre os processos individuais de homicídio culposo movidos contra a OpenAI. Ele, no entanto, insistiu que reconhecer os danos do mundo real não exige uma simplificação excessiva do problema. A IA reflete os contributos e as suas respostas em evolução fazem com que a moderação e a segurança exijam mais do que apenas os termos de serviço habituais.
A luta pela segurança do ChatGPT
A OpenAI afirma ter trabalhado muito para tornar o ChatGPT mais seguro com versões mais recentes. Há todo um conjunto de recursos de segurança treinados para detectar sinais de sofrimento, incluindo ideação suicida. ChatGPT emite isenções de responsabilidade, interrompe certas interações e direciona os usuários para recursos de saúde mental quando detecta sinais de alerta. A OpenAI também afirma que seus modelos se recusarão a interagir com conteúdo violento sempre que possível.
O público pode pensar que isto é simples, mas o post de Altman aponta para uma tensão subjacente. O ChatGPT é implantado em bilhões de espaços de conversação imprevisíveis em vários idiomas, culturas e estados emocionais. A moderação excessivamente rígida tornaria a IA inútil em muitas dessas circunstâncias, mas a flexibilização excessiva das regras multiplicaria o risco potencial de interações perigosas e prejudiciais.
Comparar a IA com pilotos de carros automatizados não é exatamente uma analogia perfeita, apesar do comentário de Altman. Dito isto, pode-se argumentar que, embora as estradas sejam regulamentadas, independentemente de um ser humano ou um robô estar ao volante, os avisos de IA seguem um caminho mais difícil. Não existe uma autoridade central de tráfego sobre como um chatbot deve responder a um adolescente em crise ou a alguém com delírios paranóicos. Neste vácuo, empresas como a OpenAI são obrigadas a construir as suas próprias regras e aperfeiçoá-las rapidamente.
O elemento pessoal também acrescenta outra camada ao argumento. As empresas de Altman e Musk estão em uma prolongada batalha legal. Musk está processando a OpenAI e Altman pela transição da empresa de um laboratório de pesquisa sem fins lucrativos para um modelo com lucro limitado, alegando que foi enganado quando doou US$ 38 milhões para ajudar a fundar a organização. Ele afirma que a empresa agora prioriza o ganho corporativo em detrimento do benefício público. Altman diz que a mudança foi necessária para construir modelos competitivos e manter o desenvolvimento da IA num caminho responsável. A conversa sobre segurança é uma faceta filosófica e de engenharia de uma guerra nas salas de reuniões e tribunais sobre o que a OpenAI deveria ser.
Quer Musk e Altman concordem ou não sobre os riscos, ou mesmo falem civilizadamente online, todos os desenvolvedores de IA fariam bem em seguir Altman para serem mais transparentes sobre como é a segurança da IA e como alcançá-la.
Siga o TechRadar no Google Notícias e adicione-nos como fonte preferencial para receber notícias, análises e opiniões de especialistas em seus feeds. Certifique-se de clicar no botão Seguir!
E é claro que você também pode Siga o TechRadar no TikTok para notícias, análises, unboxings em formato de vídeo e receba atualizações regulares nossas em WhatsApp também.
Os melhores laptops empresariais para todos os orçamentos