2019年2月,研究组杜嘉晨博士的论文《Convolution-Based Neural Attention with Applications to Sentiment Classification》获IEEE Access录用。

文章提出使用一维卷积操作模拟认知神经科学中的“模板注意力机制”对文本进行建模。论文首先对人类文本阅读理解过程的中重要的“模板注意力机制”进行分析,使用数学工具将人类注意力进行量化,并采用一维卷积对该过程进行近似,最终提出了基于卷积的文本注意力模型。该注意力模型通过扩大文本感受野能建模更大范围的文本信息,同时发现文本中的的长距离依赖关系。在此基础上,通过结合本文提出的卷积注意力模型与循环神经网络,构建了一种用于文本情感分类的新模型。该模型在多个语句级别与文档级别的情感分类数据集上的性能均超过了现有最好的注意力神经网络模型。
IEEE Access是计算机信息处理领域的国际重要学术期刊,该期刊为SCI检索,IF 3.557,JCR一区,中科院二区。
论文信息:
Jiachen Du,Lin Gui, Yulan He, Ruifeng Xu, and Xuan Wang,“Convolution-Based Neural Attention With Applications to Sentiment Classification”,IEEE Access.DOI:10.1109/ACCESS.2019.2900335