深度伪造“片子”：放射科医生和AI双双“失准”！

3月25日，发表在《放射学》（Radiology）上的一项研究显示，这些医学X光片都是深度伪造的——它们甚至能欺骗放射科医生。实际上，放射科医生和大型语言模型在从假图像中辨别真实医学图像时都面临困难。

事实上，大多数放射科医生难以识别由人工智能生成的X光扫描，不到一半的人能发现隐藏在真实医学数据中的合成图像。大型语言模型在区分真实与合成医学图像方面也同样困难。该研究为放射科医生提供了培训，以提高他们检测人工智能生成X光片的技能。研究人员还警告称，合成数据的负面影响可能会渗透到科学文献和医疗诉讼中。

旧金山的微生物学家兼图像完整性专家伊丽莎白·比克说：“这项研究的结果既令人不安，也不出我意料。”“这不仅引发了对研究诚信的担忧，也引发了对临床工作流程、保险索赔和使用成像证据的法律环境的担忧。”

在研究中，来自12个研究中心的17名放射科医生被展示了X光扫描——其中一半是真实的，另一半是由人工智能生成的。参与者在不知情的情况下被要求评估AI图像的技术质量并指出任何异常之处。41%的人对AI扫描可能已渗入数据集表示担忧。随后，放射科医生被告知部分图像由AI生成，并被要求区分真实扫描和ChatGPT生成的扫描。平均而言，参与者正确识别AI和真实扫描的准确率为75%。
研究共同作者、纽约西奈山医学院的放射科医生米卡埃尔·托尔德曼表示：“重要的是，放射科医生的经验水平没有差异”，他们的专业经验从零到40年不等。

研究团队还调查了像ChatGPT和Gemini这样的AI模型是否比放射科医生更具辨别力，但它们在区分真实图像和ChatGPT生成图像时的准确率仅为57%至85%。
#热门微博# #医学新闻# #人工智能# #哈勃观察员[超话]#