官方发布 Julia 1.5 和 Julia 2:两个为软件中的决策打造的模型。
Julia 1.5 在保持与 Julia 1 相同尺寸的同时,更可靠地遵循书面规则;Julia 2 则能从文本、图像和实时音频中做决策。
Julia 1.5 面向日常文本决策,拥有 144M 参数,为你给出的每个选项返回概率。代码可用这些概率做工单路由、紧迫度评分或策略检查。
官方还创建了分类模型基准 SLCMB(Supersonic Labs Classification Models Benchmark),用于测试当选项变化时决策是否仍站得住;每道题会呈现 100 次,共 920 道题。随着 Julia 能力提升,还会加入新任务。
在 SLCMB 上,Julia 1.5 得分 46.2,Julia 1 为 33.3。在规则遵循测试中,Julia 1.5 遵循书面规则的比例为 87%,此前为 30%。
随着此次发布,Julia 1 退役。Julia 1 API 端点现在自动把请求路由到 Julia 1.5;现有端点和请求格式可继续使用。
Julia 2 把决策扩展到文本之外。给它一张检测照片和一个零件编号,它可一次读取两者,并回答两个独立问题:是否有可见损伤,照片显示何种缺陷?同样方法适用于实时音频。在支持通话进行中,Julia 2 可更新应由哪个团队处理及紧迫程度,而无需重新处理已经听过的音频。
早期内部测试中,Julia 2 在来自四个业务工作流的 6000 道留出问题上达到 77.2% 准确率。在 NVIDIA RTX PRO 6000 上,同一文本输入的 6 个问题在 BF16 下中位耗时 11.7 ms。
官方还推出两个更小版本。Julia 2 Flash 保持相同输入和 API,体积 658 MB,较 Julia 2 的 2.14 GB 降低;在留出决策测试中与 Julia 2 得分相差 0.1 分以内。纯文本权重为 427 MB。
huggingface.co/SupersonicLabs/Julia-2-Flash
Julia 2 Nano 面向微控制器,把文本决策、图像标签和语音意图装进 15 MB 权重。它以 C 运行,提供用于文本决策的 ESP32-S3 固件,以及用于图像和语音的固定标签集。
huggingface.co/SupersonicLabs/Julia-2-Nano
可在 Hugging Face 以 Apache 2.0 下载 Julia 1.5 和 Julia 2。两个版本均包含权重和运行时,模型卡中有安装说明、评估结果和已知限制。
Julia 1.5:huggingface.co/SupersonicLabs/Julia-1.5
Julia 2:huggingface.co/SupersonicLabs/Julia-2
更多细节见官网,包括各模型新特性、上手方式和 SLCMB 工作原理。
Julia 2:supersoniclabs.ai/julia-2
Julia 1.5:supersoniclabs.ai/julia-1.5
SLCMB:supersoniclabs.ai/slcmb
官方表示,欢迎在自有任务上试用并反馈哪些有效、哪些不足。
#AI新鲜事#
引用文章:
huggingface.co/SupersonicLabs/Julia-1.5
supersoniclabs.ai/julia-2
huggingface.co/SupersonicLabs/Julia-2-Flash
huggingface.co/SupersonicLabs/Julia-2-Nano
huggingface.co/SupersonicLabs/Julia-2
supersoniclabs.ai/julia-1.5
supersoniclabs.ai/slcmb
