青青虫的微博
26-10-26 12:16 微博认证:微博原创视频博主

#人工智能# X用户lyra发现,像Qwen3.5 4B这样的模型,只要调整一两个神经元,就足以让Qwen发生本质的改变。

比如对L14 N8949 +1,对L13 N7956 -1,仅仅这两个调整,就能让Qwen3.5变得无比邪恶(图2),其思想过程令人不寒而栗。

而对另外一个神经元做个简单调整,就能让它三句话离不开提钱。

这个“对极少量神经元的调整就能极大地改变模型整体输出”的发现,是通过图1这样的可视化工具找到的——某些层的个别神经元起到了“枢纽”的作用,堪称名副其实地“牵一发而动全身”。

说不定,也许人的大脑里也会有类似这样的“开关”?[微风]

发布于 北京