周末跑了30多个小时,用本地两块6000部署的GLM 5.3 Flash量化版配合ZCode,把一本700页的书,从扫描版+竖排繁体字的PDF,通过识别+重拍版,生成了横排简体字版本PDF,一共跑了大概2.6个B也就是26亿token,其中缓存命中2.3B,新输入16M,输出14M,如果按照GLM官方API价格来看要花500块左右。如果按一些平台出租价格,硬件成本也是4,500块。记录一下。闲置GPU能干的有意义的事真的不少啊
发布于 北京
周末跑了30多个小时,用本地两块6000部署的GLM 5.3 Flash量化版配合ZCode,把一本700页的书,从扫描版+竖排繁体字的PDF,通过识别+重拍版,生成了横排简体字版本PDF,一共跑了大概2.6个B也就是26亿token,其中缓存命中2.3B,新输入16M,输出14M,如果按照GLM官方API价格来看要花500块左右。如果按一些平台出租价格,硬件成本也是4,500块。记录一下。闲置GPU能干的有意义的事真的不少啊