#神经网络# 【上海交大团队发现频率原则，开启理解神经网络的新方向】

想象一下，当我们进入新环境时，短时间内记住的大部分是粗糙的轮廓信息，而如果在该环境中停留更长的时间，我们会记住更多的细节信息。

根据以往研究经验发现，#人工神经网络# 和#生物神经网络# 共享着很多类似的规则，毕竟它们的名字里都有“神经网络”。频率原则（frequency principle 或者 spectral bias）也是这些规则中的一种，它提供了一种从频率角度研究深度学习的视角。

频率原则是指人工神经网络或者深度学习在学习新的信号时，总是倾向于先学习信号中的低频信息，而后缓慢学习高频的普遍现象。因此，它是一个听起来非常自然和直观的现象。

但事实上，从科学的角度来看，先学低频并不是显然的结论，比如在求解大规模线性方程问题中，常用到的迭代算法，如 Jacobi 迭代，它收敛低频的速度是极慢的，这也催生了一大批算法来提升迭代中低频的收敛。

频率原则看似简单，但作为一个被清晰刻画的现象，它起到了重要的作用。在人工神经网络的研究现状中，研究人员观察到很多现象，但对其中很多现象发生的条件尚不清楚，有一部分只能是非常定性的描述，这些因素限制了领域的发展。

为了进一步探讨科学智能领域的发展趋势和前沿技术，络绎科学发起「科学智能 50 人」访谈计划，此次邀请到上海交通大学自然科学研究院/数学科学学院长聘教轨副教授许志钦，来分享他在该领域的最新进展。

许志钦团队以 Science for AI 和 AI for Science 的研究相融合为主要研究方向，以现象驱动的理论研究，并从理论预测新的现象。这与许志钦的研究经历密切相关。他本科毕业于上海交通大学致远学院理科班，在#上海交通大学# 获应用数学博士学位，随后，在纽约大学阿布扎比分校和柯朗数学科学研究所从事博士后研究，研究方向为计算神经科学。

戳链接查看详情：http://t.cn/A6OXRH3v