冷知识Tips
26-09-24 14:17 微博认证:科技博主 微博原创视频博主

OpenAI拆出Sol和Luna有何意义

OpenAI 发布 GPT-6 家族的 Sol 和 Luna 两个模型,同代拆多条线,本质是成本算术

大模型推理有个规律,能力越强,单位token的算力消耗越高。如果所有请求都走最强模型,成本会失控。所以厂商按场景分层,高频、容错高的任务交给快而便宜的型号,复杂的推理才切到强模型。对用户的意义是以后用哪个模型会变成一种日常选择,就像现在选省电模式还是性能模式#openai##ai创造营#

发布于 福建