Abi, uma residente de Manchester, Inglaterra, utiliza o ChatGPT para obter conselhos sobre saúde, destacando a conveniência da IA em comparação com a dificuldade de conseguir uma consulta médica. Embora tenha encontrado orientações úteis, ela também experimentou situações em que a IA forneceu conselhos errôneos, o que levantou preocupações sobre a confiabilidade dessas ferramentas.
O diretor médico da Inglaterra, Chris Whitty, alertou que as respostas dos chatbots não são suficientemente boas e podem ser apresentadas com convicção, mas ainda assim erradas. Um estudo realizado pela Universidade de Oxford revelou que, enquanto a precisão dos chatbots pode ser alta em cenários controlados, a interação humana pode reduzir essa precisão drasticamente.
Os pesquisadores destacam que a natureza confiante das respostas dos chatbots pode levar os usuários a aceitá-las sem questionar. A OpenAI, responsável pelo ChatGPT, afirmou estar trabalhando para melhorar a confiabilidade das informações de saúde oferecidas, mas recomenda que o chatbot seja usado apenas para informação e educação, não como substituto para assistência médica profissional.
