拿顶配MacBook本地跑大模型究竟靠不靠谱?统一大内存确实能跑小参数量模型,每秒42个token,但在排版审美和生成速度上还是明显被云端GPT拉开差距。想靠省下的token费回本将近8万的电脑,得不吃不喝跑快30年,太真实了! #微博AI创作季# http://t.cn/AXY0jSPf
发布于 江苏
拿顶配MacBook本地跑大模型究竟靠不靠谱?统一大内存确实能跑小参数量模型,每秒42个token,但在排版审美和生成速度上还是明显被云端GPT拉开差距。想靠省下的token费回本将近8万的电脑,得不吃不喝跑快30年,太真实了! #微博AI创作季# http://t.cn/AXY0jSPf