研究发现，人工智能聊天机器人在提供医疗建议方面举步维艰

不堪重负的医疗系统和不断增长的医疗费用促使许多人咨询人工智能驱动的聊天机器人，如 ChatGPT 医疗建议 进行健康咨询。根据最近的研究，美国约有六分之一的成年人每月都会向这些人工智能助手寻求健康方面的指导。

然而，牛津大学领导的一项研究强调了依赖这些工具做出医疗决策的重大隐患。一个重要的问题是，用户往往难以提供聊天机器人所需的详细资料来提供医学上合理的建议，这增加了获得不准确指导的风险。

研究发现聊天机器人在医疗应用方面存在差距

研究人员召集了约 1300 名英国参与者，向他们展示了由医学专家精心设计的临床场景。参与者尝试使用领先的聊天机器人（包括 ChatGPT 的 GPT 4o 模型、Cohere 的 Command R+ 和 Meta 的 Llama 3）识别健康问题并决定适当的应对措施。

令人惊讶的是，与依靠自己的判断或标准网络搜索的用户相比，使用聊天机器人的用户不太可能正确检测出相关的健康状况。这些聊天机器人常常导致用户误解其健康问题的严重性，从而加大了做出错误选择的风险。

牛津大学的研究进一步发现，许多用户在与机器人对话时遗漏了一些关键事实，有时得到的答案会将合理建议与可疑建议混为一谈。研究人员之一亚当-马赫迪（Adam Mahdi）指出，目前针对聊天机器人的测试方法无法捕捉到真正的人类人工智能交互的复杂性。

科技公司仍在投资有望改善医疗效果的人工智能工具。据报道，苹果公司正在研究生活方式指导的解决方案，亚马逊正在研究用于医疗数据库分析的人工智能，微软正在开发对患者咨询进行分类的系统。

尽管如此，业界对人工智能是否适合用于复杂的健康事务仍存在分歧。美国医学协会警告医生不要依赖聊天机器人提供临床建议，甚至知名科技公司也敦促用户不要把聊天机器人的输出结果当作诊断结果。

马赫迪主张，在广泛采用之前，应进行更全面的真实世界评估，以反映临床试验的严谨性。在此之前，求助于成熟的、可信赖的来源仍然是做出重要决策的更安全方式。 医疗聊天机器人 选择。