苏剑林大佬的系列博文《Transformer升级之路》更新了一篇“19、第二类旋转位置编码”,本文围绕着“RoPE可以加在V上吗”进行展开,讨论了RoPE的第二种用法。http://t.cn/A6dv8Maf 发布于 山东