Engram的核心就是:
条件记忆(Conditional Memory)
门控机制(Gating Mechanism)
哈希嵌入表(Hash Embedding Table)
钊哥科普这个论文,丝毫不提这三个核心,张口就窜到RAG(索引增强),看下来他也就懂点这种应用层宏观的概念,老子提了几次Hash embedding他搞不懂就着急,开始带帽子!
我教教你:
Engram的索引是直接索引的代表固定知识的稠密向量,就是知识本身,是模型里面KV值。
RAG索引的是在外部数据中能够找到现有知识的索引向量。是一个指向性向量,不是知识本身。RAG的数据库里面除了索引向量还有知识的切片。
虽然在推理阶段,形式上都可以叫索引,但是机理完全不同。就像都是IT从业者,但是在AI方面,我比你的知识深厚百倍[微笑]
@钊哥科普 别用民科解释这么专业的东西,误人子弟。丢人。
发布于 广东
