#Qualcomm知识课堂# 在骁龙X2 Elite平台上部署本地代码助手(二): 仓库级代码检索与函数级补全:索引用 tree-sitter 提签名,向量化用 all-MiniLM-L6-v2 走NPU花8ms,FAISS 检索3ms,拼进 FIM prompt 再推理。整条链路新增开销只有12ms,瓶颈仍是95ms的模型推理。中小型仓库索引连一秒都不到。http://t.cn/AXT2CSx4
发布于 北京
#Qualcomm知识课堂# 在骁龙X2 Elite平台上部署本地代码助手(二): 仓库级代码检索与函数级补全:索引用 tree-sitter 提签名,向量化用 all-MiniLM-L6-v2 走NPU花8ms,FAISS 检索3ms,拼进 FIM prompt 再推理。整条链路新增开销只有12ms,瓶颈仍是95ms的模型推理。中小型仓库索引连一秒都不到。http://t.cn/AXT2CSx4