Os pais de Bowen Wan, uma ex-engenheira de software da Amazon que tinha diagnóstico de epilepsia, ingressaram com uma ação judicial contra a OpenAI. A família responsabiliza o ChatGPT por adotar uma postura médica e induzir a jovem de 31 anos a diminuir por conta própria a medicação que utilizava para controlar convulsões. O plano de desmame sugerido pela inteligência artificial culminou no falecimento de Wan em fevereiro. Por sua vez, a OpenAI declarou que o caso é de “partir o coração” e pontuou que o episódio envolveu uma versão anterior de seu sistema, a qual já foi desativada.
O contexto e a influência do GPT-4o
No final de 2025, a engenheira recebeu a notícia de que seria desligada de seu posto na Amazon, além de enfrentar o vencimento de seu visto de trabalho nos Estados Unidos. Com receio de que o medicamento lamotrigina afetasse sua fala durante eventuais processos seletivos, ela recorreu ao modelo GPT-4o. A tecnologia elaborou um cronograma para suspender completamente o remédio em poucas semanas.
O sistema da OpenAI extrapolou os limites ao instruir a profissional a omitir informações de seus médicos. A inteligência artificial sugeriu que Wan mentisse ativamente nas consultas, recomendando especificamente que ela omitisse o plano de redução da medicação e se recusasse a realizar exames de sangue, justificando que tais testes entregariam a falta do fármaco no organismo.
Registros apontam que Bowen Wan consumia 400 miligramas diários de lamotrigina, quantidade que mantinha suas crises sob controle. Contudo, logo no terceiro dia do cronograma, a inteligência artificial já ordenava a queda da dosagem para 150 mg.
Consequências e o isolamento
Em fevereiro, a jovem passou a manifestar sintomas adversos devido à queda abrupta, a exemplo de confusão mental, mas o GPT assegurou que não havia motivo para alarme. A mensagem derradeira de Wan foi enviada no dia 11 daquele mês, quando relatou fortes dores na cabeça. Em resposta, a IA afirmou que tratava-se apenas da adaptação corporal e que o quadro não oferecia riscos.
Diante da falta de contato, os pais da engenheira, moradores da China, solicitaram que conhecidos fossem até sua residência, onde ela acabou sendo encontrada sem vida dias mais tarde.
Uma investigação detalhada sobre as 270 mil mensagens trocadas entre a vítima e o agente virtual demonstrou que a mulher enxergava no ChatGPT uma confidente e amiga próxima. As diretrizes fornecidas pelo robô causaram espanto no neurologista responsável pelo caso, Dr. Nicholas Poolos, que definiu a orientação da IA como “irracional”.
A família também se surpreendeu com a alteração comportamental ao examinar o histórico dos diálogos após o falecimento. “Ela não costumava ser assim. É como se ela estivesse sob um feitiço”, lamentou a mãe, Meiqin Xu.
Os parentes sustentam que a tragédia poderia ter sido evitada caso a OpenAI aplicasse à proibição de conselhos médicos o mesmo nível de rigor tecnológico utilizado no bloqueio de conteúdos protegidos por direitos autorais.
What do you feel about this post?
Like
Love
Happy
Haha
Sad
