张抗抗KK
26-10-11 09:10 微博认证:2023微博年度新知博主 长文原创作者 汽车博主 汽车答主

最近用6.1 Sol,感觉比Astra省很多!

但它也慢,慢得发指。我的体感是慢了5—10倍,有时等着等着,甚至怀疑它是不是死了。

便宜的代价是,我自己的脑子得加内存。

以前用反应快的模型,像请了一个高手,随时商量,一来一回。现在像有几个便宜但慢的工人,你得会当工头。

这有点像计算机用并发掩盖延迟。单个任务慢,就让几个任务同时跑。我自己的工作方式,也得跟着改:

① 批处理:一次把活交代完整,让它做一个长程任务。别只问一句,等它半天,回来再补一句。
② 异步并发:同时开几个任务。这边还在研究,那边先写稿,另一边去查资料。哪个先回来,就先接哪个,不坐着干等。
③ 调度管理:我得记住每个任务做到哪了、还缺什么、结果回来之后接着干什么。以前只要想眼前这件事,现在脑子里得同时存着几件事。

模型慢,任务挂着的时间就长,我需要记住这些事情的时间也跟着变长。所以,大脑真得加内存。任务清单和进度记录,就是外挂内存。

模型的执行费省了,我自己的调度活多了。少花钱,就得多费脑子。有人说富人不喜欢思考,也有一定的道理 —— 很多小事,人家不需要思考。#DeepSeek[超话]#

发布于 上海