开源模型的优势是可以通过自有算力进行本地部署, 不必高价买token, 但是在算力紧缺的当下, 投资于算力或者租借算力都不是C端用户可以负担的, 同时开源模型公司的AI Capex又相对有限, 无法把开源模型的低价token, 持续的供给C端用户, 这就导致开源模型的低价token, 事实上存在一个物理壁垒. 换句话说, 开源模型的成本应该计入算力部署, 而非直接将其token价格和闭源模型对比.
发布于 上海
LoneSchicksal