向GPT6Astra许愿：编辑大模型

MIT CSAIL团队新研究发现，可以用GPT6Astra一句话许愿，修复Qwen3.5-0.8B的生成问题，比方说，生成的小车，会在虚影处卡住（图二）。

GPT6Astra编辑了Qwen3.5-0.8B的3.5%的权重，然后新的Qwen生成的小车不再被卡住。

不仅能修复一个问题，它还能提升一类问题的表现，比如数学，在MATH-500上从7.9%提升到48.1%（图三）

这背后的基础是，GPT6Astra读懂了Qwen3.5-0.8B的权重都在干什么。

综合来看，GPT6Astra可以为小的大模型直接“动手术”，做到看得懂、能找到病灶；能解决一个问题，能提升一类表现。

可惜的是，GPT6Astra不是凭空创造智能，它解决的是Qwen3.5-0.8B“推理死循环”的问题。而数学上表现差劲的Gemma 3 270M，经过编辑，提升不足 1 个百分点。

原文有更多动态案例，可以去看《LLMs can natively read & write neural network weights》