哈勃观察员
26-10-18 22:52 微博认证:科学科普博主 头条文章作者

OODA框架:破解大模型临床决策“随机黑盒”困局!

大语言模型在临床决策支持中面临输出随机性强、复现性差、推理过程黑盒化等核心痛点,同一患者输入多次运行可能得到差异显著的诊疗建议,严重制约其在高风险医疗场景中的落地。针对这一问题,本研究将博伊德的OODA(观察-定向-决策-行动)循环决策范式与多智能体技术结合,构建智能体型OODA智能体框架,以脑卒中风险评估与报告生成为验证场景,实现证据可追溯、“人在环”可控的端到端临床决策支持系统。

框架严格遵循OODA四阶段闭环工作流。观察阶段加载、预处理患者结构化病历数据,清洗过滤无效字段,完成模型输入准备。定向阶段借助CatBoost模型完成脑卒中风险预测,生成SHAP可解释特征权重;对数据做标准化编码,通过余弦相似度检索库内历史病例,召回相似度最高的5例参照患者,再反向解码还原为可读临床信息,为后续推理提供同类病例参照。决策阶段由数据分析智能体、决策智能体、问答智能体分工协作,生成初步病情评估;内置评分校验模块,使用句子嵌入做事实一致性校验,不达标则自动迭代重写,最多循环5次;之后进入“人在环”关键环节,临床医生可以同意、驳回、直接强制覆写或发起疑问,系统会针对医生疑问作答,并根据反馈修订评估意见,医生拥有最终决定权。行动阶段将经过人工确认的结论、相似病例、迭代反馈历史整理生成标准化HTML临床报告,完整留存推理、修订痕迹,实现全流程审计溯源。

研究选用CrewAI搭建多智能体,GPT4.1Mini作为大模型底座,allMiniLML6V2实现文本向量化相似度计算。基于公开脑卒中数据集划分训练集与测试集开展仿真实验,选取30位患者,每个病例重复运行5次,使用余弦相似度衡量输出内容的自一致性,并与GPT、Claude、Llama、Gemini、通义千问、DeepSeek等多款主流通用大模型做横向对比。实验结果表明,智能体型OODA框架平均余弦相似度达0.9536,最低成对相似度0.8639,一致性显著优于所有基线通用大模型;最优基线模型Claude Sonnet4.5平均仅0.8972,部分通用模型最差样本相似度甚至出现负值,输出波动剧烈。系统单次运行耗时约4070秒,单例运行成本很低;同时内置指标聚合工具,自动记录各环节时延、token消耗、循环迭代次数、人工覆写次数,便于性能观测。生成的报告不仅展示风险结论,还罗列参照病例、各项危险因素解读,并且完整保留AI与医生交互修改历史,每一步推理来源均可追溯。

该框架的核心价值不在于追求模型本身推理能力提升,而是依靠架构层面的约束与校验机制,降低大模型固有的随机采样带来的输出漂移。通用大模型一次性生成全部文本,内部推理不可见;而本框架把临床推理拆解为模块化步骤,增加病例参照、事实校验、人工复核多层安全屏障,优先保障输出稳定、可审计,牺牲部分文本的创作多样性,换取医疗场景必需的可靠性与可追溯性。同时“人在环”机制守住临床底线,AI只作为辅助工具,医生掌握最终裁决权。

未来拓展方向包括:把这套模块化范式推广到其他病种;对接真实电子病历系统;开展前瞻性临床评估;探索本地部署开源模型,减少对商用API依赖;针对缺失数据、更新诊疗指南等现实场景持续优化校验策略。总体来看,该文为解决大模型临床应用中输出不稳定、黑盒不可审计的行业难题提供一套可行工程范式,对安全可控的临床决策支持系统研发具备重要参考意义。
#医学新闻# #破解大模型临床决策“随机黑盒”的困局# #ai医疗# #哈勃观察员[超话]#

发布于 广东