人工智能正在改变医疗行业，从癌症识别到医学影像分析，AI模型越来越广泛地应用于临床实践。然而，如何保护患者隐私始终是医疗AI发展的关键挑战。
近日，由慕尼黑工业大学（TUM），伦敦帝国理工学院和哈索·普拉特纳研究所 (HPI) 的研究人员所组织的团队在国际顶级学术期刊《Nature》发表最新研究，发现即使经过训练的医疗AI模型没有直接公开患者数据，攻击者仍有可能通过新的攻击方法推断出某位患者的数据是否参与了模型训练。这意味着，仅仅泄露“某人的医疗数据曾用于训练AI模型”这一信息，就可能给患者带来隐私风险，例如暴露其疾病信息。
值得关注的是，研究团队提出了一种比以往方法更加有效的隐私攻击技术，为未来医疗AI的安全评估提供了新的测试基准。研究人员表示，这项成果并非为了削弱医疗AI的发展，而是希望帮助科研人员和医疗机构更早发现潜在漏洞，开发更加安全、可信的人工智能系统。http://t.cn/AXoGsWk8