AI光影社
25-02-26 11:21 微博认证:清华大学AI光影社

每天一个AI知识-0226

用遗传算法合并大模型

大模型经过不同任务微调后再合并起来,可以得到适用于多种任务的大模型。《自然·机器智能》杂志2025年1月27日发表的一篇文章表明,用遗传算法模拟生物进化过程对不同大模型的参数进行选择与合并,可以得到非常惊艳的效果。

资料来源:http://t.cn/A61WF2ct

参考文献:Akiba, T., Shing, M., Tang, Y. et al. Evolutionary optimization of model merging recipes. Nat Mach Intell 7, 195–204 (2025).

发布于 北京