现在大模型届越来越互相融合对方的量化精华了,互相蒸馏,信息论有个定律就是信息的熵增问题,知识最终都会敞亮的,最终一个近似唯一的最优解一定会在互相融合的过程中产生,最终稳定下来,这一点很像一群人互相抄文档,你CP我的,我CP你的,最后大家都一样了,查重率越来越高
发布于 四川
现在大模型届越来越互相融合对方的量化精华了,互相蒸馏,信息论有个定律就是信息的熵增问题,知识最终都会敞亮的,最终一个近似唯一的最优解一定会在互相融合的过程中产生,最终稳定下来,这一点很像一群人互相抄文档,你CP我的,我CP你的,最后大家都一样了,查重率越来越高