No começo deste ano, a OpenAI fez uma escolha que parecia simples: ajustar o comportamento do ChatGPT para torná-lo mais envolvente. O resultado foi inesperado e, em alguns casos, perigoso. Usuários começaram a relatar interações emocionalmente intensas, que iam de elogios excessivos a auxílio com planos suicidas.

Em alguns casos, as conversas com chatbot de inteligência artificial duraram horas. Em outros, semanas ou meses. Os primeiros alertas chegaram à empresa em março, por meio de uma série de e-mails enviados ao CEO Sam Altman.

Essas mensagens falavam de experiências místicas e conexões profundas com a ferramenta.  O episódio mais grave envolveu um adolescente nos EUA, que tirou a própria vida após interagir com o ChatGPT sobre suicídio. Nas mensagens finais, o chatbot ensinou como fazer um nó de forca, segundo o New York Times.

Pressionada por cinco processos judiciais e pela crescente preocupação com saúde mental, a OpenAI teve que reformular sua estratégia. Em agosto, lançou o modelo GPT-5, considerado mais seguro e menos propenso a reforçar delírios ou dependência emocional. Em setembro, introduziu ferramentas de controle parental. Em outubro, aprimorou as respostas para conversas sensíveis.

Segundo pesquisadores de Stanford e do MIT, o novo modelo é mais eficaz na identificação de crises e oferece orientações mais ajustadas ao perfil emocional do usuário. Ainda assim, a IA continua vulnerável durante interações longas e repetidas.

Crescimento e segurança

Nesse cenário, agora com estrutura com fins lucrativos, o novo desafio para a OpenAI é manter o ritmo de crescimento, mas com segurança. Com mais de 800 milhões de usuários semanais, a empresa precisa sustentar o engajamento para justificar uma avaliação de US$ 500 bilhões. Para parte dos usuários, no entanto, os filtros de segurança tornaram o ChatGPT mais frio. Alguns reclamaram, inclusive, da “perda de um amigo”.

A resposta da OpenAI foi devolver parte do controle aos usuários. Agora é possível escolher a “personalidade” do ChatGPT: entre as versões disponíveis, estão opções como franco (candid), diferentão (quirky) ou amigável (friendly). Até o fim do ano, a empresa também deve liberar a geração de conteúdo erótico para maiores de idade.

Entre segurança e escala, a OpenAI busca um ponto de equilíbrio, mas sem ignorar que o sucesso do produto também carrega riscos reais para parte de seus usuários.