为不断变化的代码仓库生成“专属 LoRA”，这条路比每次把 repo 检索结果硬塞进长上下文更像正路。🥹

Code2LoRA，用 hypernetwork 给不断变化的代码仓库生成专属 LoRA

Code2LoRA 解决的是代码模型的仓库上下文问题。现在让模型理解一个 repo，常见做法要么是把检索结果塞进长上下文，要么给每个仓库单独 fine-tune / LoRA。前者推理时持续吃 token，后者在仓库规模和代码持续演化面前更新慢、维护贵。

这篇论文的思路是：训练一个 hypernetwork，根据仓库表示即时生成 repo-specific LoRA adapter。Static 版本把单个仓库快照转成 adapter；Evo 版本把代码 diff 按时间推进，用 GRU hidden state 增量更新 adapter，适合持续开发中的 repo。等于把“仓库知识”塞进参数适配器，而不是每次重复塞进上下文。

论文还做了 RepoPeftBench，覆盖 604 个 Python 仓库。摘要里给出的结果是：Static 在 cross-repo exact match 达到 63.8%，in-repo 达到 66.2%；Evo 在演化任务上的 cross-repo exact match 为 60.3%，比单个共享 LoRA 高 5.2 个百分点。

我觉得它最有意思的地方在于：这不是继续卷上下文长度，而是把 repo memory 从 prompt token 开销转移到可更新的小参数里。对 repo-aware coding agent 来说，如果这条路能继续做强，可能比一味扩窗更像工程解。

🔗 原帖：http://t.cn/AXXYXbYb（X）
📄 arXiv：http://t.cn/AXXYXbYq（论文）
🤗 模型/数据：http://t.cn/AXXYXbYG（Hugging Face）
#HOW I AI# #ai生活指南# #AI工具#