大语言模型学习-rag复习
今天在cherystudio添加rag，rag的伊始类似transformer
1-embedding模型+向量数据库：上传文本（可能需要借助ocr等算法把pdf等转为markdown），之后把文本spliter分词成chunks片段，然后embeddding向量化存储在向量数据库；
2-re-rank模型（可选）：向量数据库根据查询和库内数据进行相似性检索（欧氏距离等等），获top-k最相似的文本chunks。但是这些文本chunks仅仅是相似但是不一定相关。所以需要re-rank再从相似文本chunks里面进行与检索文本的“相关性”检验并排序（即在相似rank后再相关re-rank），找到top的真实相似且相关数据。
3-数据输入到llm，再进行回答。

ps：cherrystudio使用的是自己的向量数据库，所以不能对数据库进行选择和配置外部数据库，限制了仅个人使用。但是anythingllm，dify等，还可以对外部向量数据库进行选择，如本地或者云端的milvus等。 http://t.cn/z8qfcd8