刚刚,腾讯开源:Hy4 preview,差异化主打对齐真实工作场景
直接对着“写代码、做游戏、干财务、跑科学模拟”四个真实工作场景优化,总参数770B、激活49B,上下文1M
亮点是递归自我改进闭环,模型开始参与训练它自己了
Hy4 preview这次首次参与了自身研发迭代,自己提改进方案、跑实验、根据结果调整(训练方法、数据策略、算子优化),形成了自我改进闭环
github:http://t.cn/AXp1oaGX
#Hy4preview##腾讯混元4#
发布于 北京
