想问一下玩本地大模型的,我这个oai算处于什么水平?(基于Mac生态的本地大模型应用)
图一news聚合网站是我完全用qclaw+图二本地oai(自己动手封装模型网关+智能路由+kv cache+上下文压缩+防moe死亡循环等)+大模型Qwen3.6-35b-a3b模型,1000%完全本地调用,不依赖云端(0依赖),开发的一个news聚合网站(支持ai(oai)评分优先级)。这一路真的是跋山涉水啊~~
发布于 江苏
