挨踢牛魔王 25-11-14 19:08
微博认证:科技博主

说到本地模型,提醒大家一个事情。

如果只是在消费级显卡上跑的话,在本地只是用来研究、开发、调试的。
这样做,成本比较低。
你真正要实用,还是要上云端大模型。

千万不要在本地模型上折腾半天,觉得跑不通。
实际上,本地模型的能力是有限的。
云端大模型,尤其是顶尖的大模型,那个能力是完全不一样的。

真有人用本地模型用多了之后,觉得AI不行,能力很弱。
其实他是被本地模型的能力局限了。
当他用上顶尖大模型后,他被惊呆了,觉得简直不是一个东西。

千万不要为了省那点token费用,影响了自己的判断。

发布于 江苏