浙大学术头条
25-10-31 10:00 微博认证:浙江大学出版社有限责任公司

#每日一篇学术文章# 【MAL: multilevel active learning with BERT for Chinese textual affective structure analysis】(MAL:基于BERT的多层次主动学习用于中文文本情感结构分析)http://t.cn/AXA4HlYJ
中文文本情感结构分析 (CTASA) 是一项序列标注任务, 通常依赖于带监督的深度学习方法。然而, 获取用于训练的大型带标注数据集可能既昂贵又耗时。通过选择最有价值的样本, 主动学习提供了一种降低标注成本的解决方案。以往的主动学习方法主要关注样本的不确定性或多样性, 但实际上还面临着模型偏差或选择到无关样本等挑战。为解决这些问题, 本文引入多层次主动学习 (MAL), 该方法利用句子和词汇两个层面的深层文本信息建模汉语的复杂结构。通过整合从基于Transformer的双向编码器表示 (BERT) 嵌入中提取的句子级特征以及从随机条件场 (CRF) 模型中获得的词汇级概率分布, MAL能够全面捕捉中文文本的情感结构 (CTAS) 。实验结果表明, 与基线方法相比, MAL显著降低了约70%的标注成本, 并且性能更加稳定。

来源:Frontiers of Information Technology & Electronic Engineering

发布于 浙江