打开黑箱：可穿戴健康监测的AI高解释性！

随着智能手表、医疗级手环等可穿戴设备的普及，基于人工智能的健康监测已成为现实。这些设备能够实时监测心率、皮肤电活动、体温、加速度等多模态生理信号，为癫痫发作检测、运动状态评估、自主神经系统监测等应用提供了前所未有的机会。
然而，当前主流的人工智能模型，尤其是深度神经网络，虽然在性能上表现优异，但其“黑箱”特性严重制约了其在医疗领域的应用。临床医生、患者和模型开发者不仅需要知道模型的预测结果，更需要对预测结果背后的逻辑进行解释，以建立信任、辅助决策并避免误诊或漏诊带来的严重后果。

可解释人工智能旨在打开这一黑箱。然而，针对时间序列数据的解释面临诸多挑战。传统的基于显著性的方法往往只能回答“哪里重要”，却无法回答“为什么重要”。这类方法在时间序列上尤其受限，因为重要信息可能并非集中在某个时间点，而是隐含在信号的模式、趋势或跨模态的相互作用中。概念性解释方法虽然更具可理解性，但通常需要牺牲模型性能或依赖复杂的后处理流程。为应对上述挑战，本文提出了一种新颖的、模型无关的可解释人工智能方法，称为基于内在可解释组件的可解释人工智能方法。

该方法的核心理念在于，将原始时间序列通过可逆变换分解为多个具有明确生理意义的组件，例如心率均值、心率变异性、皮肤电活动的强直性成分、温度变化趋势等。这些组件本身具有可解释性，因此不再需要额外的局部解释方法。具体实现包括三个关键步骤：可逆分解将原始序列映射为一组可解释组件并保证可重建；扩展模型以组件为输入，通过逆变换重建信号后送入原始预测模型；为每个组件引入可学习权重，通过优化稀疏性目标消除对输出影响较小的组件，最终权重非零的组件即为对预测重要的概念。

针对可穿戴设备的四种常见传感器，作者设计了相应的可解释组件集合。加速度信号分解为静态重力分量、运动活动分量和离群运动分量；心率信号转换为RR间期后分解为均值分量和变异性分量；皮肤电活动分解为强直性分量和相位性分量；皮肤温度分解为均值分量和升降分量。所有分解均保证可逆性，每个组件都具有明确的生理学意义。

本文在状态评估和癫痫发作检测两个真实场景下进行验证。在状态评估任务中，该方法取得了99.0%的准确率，显著高于线性概念瓶颈模型的81.1%和特征提取加SHAP方法的95.4%。在癫痫发作检测任务中，准确率为87.8%，同样优于对比方法的82.6%和63.6%。在解释质量方面，该方法识别出的重要组件与生理学知识高度吻合，在错误分类的实例中能清晰揭示误导性特征。保真度和充分性实验表明，移除重要组件显著影响模型输出，而移除不重要组件则几乎不产生影响。

与现有方法相比，该方法无需牺牲模型性能即可实现概念级解释，同时保留时间序列中的完整信息，提供更直观、更具生理学意义的解释。该方法具有模型无关性、后验可调整性等优势，在实际临床应用中更具灵活性。本文提出的基于内在可解释组件的可解释人工智能方法，通过将原始信号分解为具有明确生理意义的组件，结合权重优化机制，实现了高性能与高解释性的统一，为可穿戴设备在医疗健康领域的可信应用提供了新的解决方案。
#热门微博# #科技快讯# #ai医疗# #哈勃观察员[超话]#