Homem se consulta com ChatGPT e é intoxicado pela recomendação
Uma simples dica de mudança de dieta fez um usuário do ChatGPT ser hospitalizado com fortes delírios paranoicos.
Na década de 2010, a expressão “dar um Google” entrou para valer no vocabulário de quem queria dizer que faria uma pesquisa rápida em busca de uma resposta objetiva. Na época, quando se pesquisava sintomas de algum mal-estar, a piada era que o site provavelmente indicaria que sua dor de cabeça era, com toda certeza, um sinal de câncer.
Hoje, o equivalente é algo como “dar um Chat”, representando a nova dependência extrema de buscar por respostas em plataformas de inteligências artificiais. Da mesma forma em que o Google falhava com hipocondríacos na década passada, o ChatGPT, por exemplo, falha com seus usuários, fornecendo diagnósticos ou dicas médicas imprecisas – e até mesmo perigosas.
Este ano, um um homem que, motivado a melhorar sua dieta, decidiu reduzir a ingestão de sal (o cloreto de sódio). Procurando um substituto, ele recorreu ao ChatGPT. A resposta que recebeu parecia plausível, só que não para o uso que ele pretendia: o sistema sugeriu o uso de brometo de sódio.
O composto, de fato, pode substituir o cloreto de sódio, mas, na prática, isso acontece em ambientes industriais e na limpeza de banheiras de hidromassagem e piscinas, não na cozinha e na alimentação. A plataforma da OpenAI não forneceu esse detalhe crucial e o paciente passou três meses consumindo brometo de sódio regularmente.
Intoxicação na certa. Um tempo depois, ele deu entrada no pronto-socorro apresentando delírios paranoicos, convencido de que o vizinho estava tentando envenená-lo. Em menos de um dia de internação, as alucinações auditivas e visuais se intensificaram, culminando em uma tentativa de fuga e na necessidade de internação psiquiátrica involuntária.
Exames laboratoriais revelaram níveis de brometo de 1.700 mg/L — mais de 170 vezes acima do considerado normal. O diagnóstico: bromismo, uma intoxicação quase esquecida que, no início do século 20, chegou a representar até 8% das admissões psiquiátricas. A condição praticamente desapareceu após a proibição do uso medicinal de brometos nas décadas de 1970 e 1980.
Após três semanas de tratamento com medicamentos antipsicóticos e medidas de desintoxicação, o paciente recebeu alta sem sequelas graves.
O caso, que foi publicado na Annals of Internal Medicine: Clinical Cases, não é apenas um registro médico curioso. Ele serve como alerta para os perigos de se buscar consultas médicas em sistemas de IA, que, segundo os autores do estudo, “podem gerar imprecisões científicas, carecem de capacidade crítica e acabam alimentando a disseminação de desinformação”.
“É altamente improvável que um especialista médico sugerisse brometo de sódio como substituto do sal”, observaram os pesquisadores, reforçando a necessidade de supervisão humana na orientação sobre saúde.
SUPER Doc
Água, a substância mais estranha da face da Terra
ACESSO LIVRE COM VIVO FIBRA