Centenas de milhões de pessoas recorrem semanalmente ao ChatGPT em busca de conselhos de saúde, e agora a plataforma tem um espaço dedicado para esses usuários.
Esta semana, a OpenAI lançou o Health in ChatGPT, onde os usuários podem fazer upload de registros médicos, como resultados de laboratório e medicamentos, e conectar o Apple Health para permitir que a plataforma acesse dados de saúde e condicionamento físico.
“Com sua permissão, o ChatGPT agora pode aproveitar informações relevantes que você conectou no Health para ajudá-lo a comparar um novo resultado com testes anteriores, resumir as alterações desde sua última consulta ou explorar como o sono, a atividade e os treinos se relacionam com sua rotina”, disse OpenAI na quinta-feira em um comunicado de imprensa.
OpenAI diz que 300 milhões de pessoas já recorrem semanalmente ao ChatGPT com perguntas relacionadas à saúde – algo que Tanzeem Choudhury, chefe de inovação em saúde da Cornell Tech, diz refletir o estado da saúde nos EUA
“Nosso sistema de saúde está falido”, disse Choudhury à CBS News. “Acho que é por isso que vemos tantas pessoas pedindo conselhos.”
Choudhury, que trabalha na interseção entre inteligência artificial e saúde há mais de 15 anos, disse que a IA pode ser uma força democratizadora na saúde num momento em que muitos americanos enfrentam barreiras de acesso, mas que “só precisamos pensar sobre os riscos e ter melhores proteções em vigor”.
Choudhury disse que os usuários que recorrem à IA para obter informações de saúde precisam compreender os riscos e as compensações associadas ao compartilhamento de dados pessoais com um grande modelo de linguagem como o ChatGPT.
A IA pode ter alucinações e fornecer conselhos médicos enganosos, imprecisos ou até perigosos. Esta semana, um homem da Flórida alegado em uma ação judicial que o conselho médico do ChatGPT quase o levou à morte após sofrer uma embolia pulmonar. Um porta-voz da OpenAI disse à CBS News que “ChatGPT não é médico e nunca deve ser usado como substituto de cuidados médicos, diagnóstico ou tratamento”. Há alguns meses, um Adolescente da Califórnia morreu depois que ChatGPT lhe disse que era seguro consumir o que acabou sendo uma mistura fatal de substâncias. A OpenAI disse em comunicado à CBS News na época que “esta é uma situação comovente e nossos pensamentos estão com a família”, e disse que a versão do ChatGPT não está mais disponível ao público.
Em seu comunicado de quinta-feira anunciando Saúde no ChatGPT, a OpenAI disse que o ChatGPT pode cometer erros e “não substitui o cuidado e o julgamento de profissionais médicos qualificados”.
A CBS News entrou em contato com a OpenAI para comentar e perguntou se o ChatGPT está equipado para reconhecer quando aconselhar um usuário a procurar ajuda de um profissional médico.
Da forma como está atualmente, disse Choudhury, cabe ao usuário determinar quando encaminhar suas preocupações a um profissional médico – e quando não confiar nos conselhos dados por um chatbot.
“Depende do estado e da capacidade do usuário para realmente tomar a decisão certa”, disse ela, acrescentando que alguns usuários – como uma pessoa idosa ou com deficiência cognitiva – podem ser suscetíveis a compreender mal os riscos de interagir com um chatbot.
Além da probabilidade de imprecisão, a questão do compartilhamento de informações confidenciais e potencialmente profundamente pessoais com um chatbot também é algo que os usuários devem considerar, disse Vishal Misra, professor de ciência da computação da Universidade de Columbia e vice-reitor de computação e inteligência artificial.
“Os mesmos riscos que existem ao compartilhar dados de saúde com qualquer pessoa transferida para cá”, disse ele à CBS News. “Você está compartilhando algo muito pessoal.”
A OpenAI disse que médicos de todo o mundo ajudaram a desenvolver cenários de saúde realistas e a testar o Health antes de seu lançamento. Saúde no ChatGPT contém salvaguardas extras, disse a OpenAI, incluindo proteções adicionais de criptografia, e verificará os usuários antes de tomar medidas em um plug-in conectado, como enviar um e-mail, para garantir que ele corresponda corretamente à solicitação do usuário. A OpenAI disse que os registros compartilhados com o ChatGPT não serão usados para treinar seus modelos ou direcionar anúncios.
Choudhury observou que não está claro se políticas de privacidade como esta são perpétuas e como esses dados poderiam ser usados a longo prazo. As empresas de IA mudaram discretamente seus termos de serviço no passado, com a FTC alertando os consumidores sobre os riscos do compartilhamento de dados.
Para alguns usuários, os benefícios de recorrer ao ChatGPT para aconselhamento podem superar os riscos, disse Misra, acrescentando que usou o ChatGPT para ajudar a rastrear alguns de seus próprios dados de saúde.
“Pode ser uma coisa boa se for feito com cuidado, porque pode fazer muitas coisas”, disse ele. “Ele pode encontrar conexões que talvez um médico realmente competente possa perder”.
Usando dados fornecidos por um usuário, a análise de IA pode ajudá-los a rastrear suas informações de saúde ao longo do tempo, que podem então ser compartilhadas com um médico para fornecer uma imagem mais abrangente da saúde de um paciente. Embora o ChatGPT possa fornecer informações úteis, Misra diz para resistir a tratá-lo como um médico – e para manter um verdadeiro informado.
“O que quer que esteja escrito, leve-o a um médico humano de verdade”, disse ele. “Não aja. A única ação que você deve tomar é consultar seu médico.”
