#微博视频号续航计划# 什么是KV Cache？为什么它能加快模型推理速度？
这是Youtube“向量隐修会”频道做的一个可视化的科普视频，通过李白的诗句“床前明月光”作为例子，层层递进地解释了 KV Cache的工作原理。
#AI创造营# ​​​​ http://t.cn/AXXsx8pP ​