采来叨
26-06-27 16:41 微博认证:情感博主

做软件开发的同事,早就付费用AI了
每天耗费很多token
#DeepSeek发布DSpark#
这个能降低token消耗量吗?

我看dspark说,要解决大模型传统逐Token自回归生成的致命痛点

原来每输出一个字就要完整跑一次大模型,高并发场景延迟极高、算力浪费严重。也很消耗token。

拭目以待吧,我不写代码,后来用豆包比较多

发布于 北京