上海交通大学张拳石副教授团队介绍了一种基于博弈交互理论的系统，该系统既与深度神经网络(DNN)中编码知识的解释有关，也有关DNN的表征能力的解读。在这个系统中，作者定义了两个博弈论交互指数，分别是多阶交互和多元变量交互。更重要的是，作者团队利用这些交互指数从以下四个方面解释了DNN中编码的特征表征：1) 量化DNN编码的知识概念；2) 探索DNN如何编码视觉概念，并提取了DNN中编码的原型概念；3)学习沙普利值的最优基线值，并提供了一个统一的视角来比较十四种不同的归因方法；4)从理论上解释了DNN的表征瓶颈。此外，作者还证明了DNN中编码的交互与表征能力(例如，泛化能力、对抗可迁移性和对抗鲁棒性)之间的关系。通过这种方式， 博弈交互理论成功地将"DNN中编码的知识概念的解释"与"DNN表征能力的解释"统一起来。http://t.cn/A6E4yf7B #人工智能##人工智能[超话]##神经网络##神经网络[超话]##上海交通大学#