看看新闻Knews
26-11-04 09:49 微博认证:上海广播电视台看看新闻KNEWS官方微博

#AI大模型不具备独立诊疗能力#【AI问诊靠谱吗?#线上AI医生权责模糊需警惕#】前不久一名家长带着三岁的孩子前往浙江中医药大学附属第一医院儿科就诊,医生李兰考虑孩子是哮喘并发肺部感染,建议患儿做胸部x线等检查,然而家长却以AI给出的诊断与医生不同为由,拒绝接受进一步检查。

随后家长带着孩子自行离开,但没过几天这位家长再次带着孩子前来就诊,医生检查发现此时的患儿已经发展为重症肺炎。

通用AI大模型到底能不能够直接看病?AI工具的医学能力究竟如何?带着这些问题,@看看新闻Knews 记者来到了上海人工智能实验室,医学智能中心对几款通用大模型进行了一次考试。在工作人员的帮助下,记者也分别对国内外4款通用大模型进行了评测,结果显示平均分为64.35。

评测人员告诉记者,评测体系中的医学知识问答在实际问诊中不会只是患者的描述,在线下就医时医生会及时追问辨别纠正患者可能存在的错误判断。因此大模型具备的医学知识和问答能力并不等于具备独立诊疗的能力,更不意味着大模型可以取代医生。

研究发现,AI智能体和人类医生具有一定相似性,但在复杂的细节处理上,AI智能体仍无法全面代替人类医生。专家表示AI给出的回答,高度依赖用户给出的描述信息,然而在医疗场景中受限于没有医学相关背景,普通患者往往很难精准描述病情,漏说误说在实际问诊中十分常见。

这种信息表达的误差在医生面诊时可以通过望闻问切逐步矫正,而用户使用的线上AI问诊多是隔着屏幕的输入输出,这种被动的文字接收会直接影响AI的输出质量,甚至降低AI答复的可靠性。

记者调查发现,除了问答式AI会根据患者描述给出医学建议,在不少APP中大量打着某知名医生或某知名医生团队的数字AI医生纷纷上线,他们直接顶着某某专家的姓名头像,在软件中为用户提供健康咨询服务。但记者联系这些医生本人却发现部分医生并不清楚自己在APP上还有一个数字分身。

此外,这类专家数字分身的应用背后,权责模糊的风险同样值得警惕。 http://t.cn/AXYZblVu