【纪念神经网络先驱Bernard Widrow：一位学生的课堂回忆】

Bernard Widrow教授于2025年9月30日辞世，距离他96岁生日仅差两个月。作为2000年代初在斯坦福选修过他神经网络与信号处理课程的学生，我想记录下一些技术层面和课堂相关的回忆。

令我至今印象深刻的是，早在几十年前，Widrow对神经网络的理解就已经如此完整。在他的课堂上，神经网络从来不是什么投机性的想法或未来的承诺，而是一套工程系统：学习规则、稳定性、噪声、量化、硬件约束、失效模式，一应俱全。今天许多被重新包装的"新概念"，他早已讨论得非常具体。

他经常给我们播放1990年代的视频和演示。当时我很惊讶，强化学习、自适应滤波、在线学习这些东西，在现代算力让它们重新流行之前，早就被实现和测试过了。现在回想起来，那种惊讶显得有些天真。

Widrow也喜欢谈论硬件。有个故事我记得很清楚：他随身携带一个早期神经网络硬件原型，外面有个玻璃外壳。他解释说，没有这个外壳，机场安检不会放行。这个轶事很有趣，但它也反映了他对学习系统的态度——它们应该作为真实的物理系统存在，而不仅仅是纸上的方程式。

他谈到其他研究者时总是充满敬意。我记得他提到过Frank Rosenblatt，后者独立发展了早期神经网络模型。Widrow曾说，他写信给康奈尔大学，建议他们善待Rosenblatt，尽管当时他自己还只是个初级教员，也希望MIT和斯坦福能善待自己。很久以后我才真正理解，在学术圈里这种专业礼遇意味着什么。那大约是1960年左右的事，当时Widrow正从MIT助理教授转任斯坦福副教授，自己的终身教职可能还在审批中。在这种处境下仍愿意为同行仗义执言，这份胸襟令人敬佩。

作为老师，他耐心而精确。他不会过度推销想法，也不会刻意渲染不确定性。神经网络、随机梯度下降、自适应滤波器——这些都是工具，有优点也有局限，不是什么意识形态。

回顾Widrow教授的研究风格，有两点值得深思：

第一，他本质上是一位工程师。他的目标是解决真正重要的现实问题，这种取向很罕见，也切实造福了社会。相比之下，许多高影响力的学术研究并不追求完全解决某个问题，而是为更广泛的问题类别指出一个有前景的方向。当然，这并不意味着Widrow的工作不具影响力，只是影响的方式不同，往往更加直接。

第二，他不断进入新领域，在多个方向都做出了贡献。当他意识到神经网络的计算瓶颈超出了当时的可行范围时，他将注意力转向了同样重要的其他课题：自适应滤波、量化、噪声消除、医疗设备。没有他的贡献，现代手机的性能不会有今天这么好。这种广度同样令人瞩目。但与此同时，这也可能导致认可度不均——跨越多个领域的基础性工作更难用单一标签来概括，人们可能会想："Bernie在别的领域已经很有名了。"

曾有一位风格与Widrow相似的资深研究者告诉我：学术界是围绕奖励系统建立的。如果你的工作能帮助别人获得奖励，你的工作也更可能被奖励。如果你一年或两年才写一篇论文，而那篇论文完全解决了一个重要问题，你的工作可能会被忽视足够长的时间，以至于奖励永远不会到来。

研究风格没有对错之分，享受过程最重要。最终每个人都会抵达同一个终点，只是有些人在世界上留下的印记比其他人更深。

现在回想起来，最让我难忘的不仅是他起步之早，更是他始终保持的工程导向思维。今天许多"新"想法，几十年前他就已经在当作实际问题来处理了：它们在噪声下如何表现，如何失效，哪些假设真正重要。

对我而言，Bernie不仅是一位科学先驱，更是一位导师，他默默的支持塑造了我人生中的关键时刻。今天纪念他，既是一种专业层面的反思，也是一份深切的个人情感。

reddit.com/r/MachineLearning/comments/1q3uvuj/d_i_took_bernard_widrows_machine_learning_neural