[LG] A Survey on Transformer Compression
http://t.cn/A6YIqas1
关于Transformer压缩的综述,Transformer模型在自然语言处理和计算机视觉等领域中起着重要作用。由于Transformer的独特架构,需要特定的压缩方法。文章对最近的压缩方法进行了全面的回顾,包括剪枝、量化、知识蒸馏和高效架构设计,还讨论了这些压缩方法之间的关系和未来的研究方向。
发布于 北京
