BOSS直聘刚发了个 Nanbeige4.3-33B

说实话我在HuggingFace上刚刷到的时候还以为是个欧洲模型, 硬是没读出来 Nanbeige 是啥, 搜了下发现其实是 BOSS 直聘的大语言模型实验室, 叫南北阁.

这次发布的 33B Dense 版本特别优化了模型的Agent能力, 我给大家做了个对比chart, 哪个面积大哪个就更强, 从Agent分数上来看, 甚至比Qwen3.8-27B 还要高. 当然其它的诸如写代码能力就差一些了.

它们之前8月份也发过 Nanbeige4.2, 是完全的自研架构 Looped Transformer, 而这次则用了非常保守的标准 llama 架构, 就是全注意力+GQA. 这也意味着, 这个模型推理起来还是很吃内存的. 以及只能用外置MTP加速了. 另外长上下文方案可能也比较糙, 模型上来就支持512K上下文, 但是没有配置动态 YaRN 或复杂的 RoPE 压缩算法. 就是直接把旋转位置编码的基数(rope_theta)调到了1.2亿来支持.

当然这么搞也是有好处的, 首先就是架构很简单, 几乎所有推理引擎都能跑, 其次官方的定位是教师模型, 所以估计后续会发布一些小的蒸馏模型供实际使用. (目前还没发). 等它们发布了我有空给大家来个10B以下小模型横评.

#HOW I AI#