• 论文
主办单位:煤炭科学研究总院有限公司、中国煤炭学会学术期刊工作委员会
基于多头注意力门控卷积网络的特定目标情感分析
  • 作者

    李浩樊建聪

  • 单位

    山东科技大学计算机科学与工程学院山东省智慧矿山信息技术重点实验室

  • 摘要
    在特定目标情感分析中,现有的循环神经网络模型存在训练时间长且获取目标相关信息困难的问题。针对该问题,利用注意力机制,提出一种带有位置嵌入的多头注意力门控卷积网络(PE-MAGCN)。首先,模型使用多头注意力层获取目标词与上下文词之间的信息,并额外加入文本和目标词的相对位置嵌入信息,然后采用带有门控机制的卷积神经网络提取与目标词有关的情感特征,最后通过Softmax分类器来识别情感极性倾向。使用SemEval 2014数据集与目前主要用于目标情感识别的模型进行实验对比,结果表明本模型的准确率和F1值较高,可以较好地完成特定目标情感分析任务。
  • 关键词

    目标情感分析门控卷积神经网络多头注意力机制位置嵌入

  • 文章目录
    1 带有位置嵌入的多头注意力门控卷积网络
    1.1 问题定义与模型架构
    1.2 输入层
    1.3 多头注意力层
    1.4 卷积层
    1.5 门控层
    1.6 输出层
    1.7 模型训练
    2 实验与结果分析
    2.1 实验数据集
    2.2 实验参数设置
    2.3 对比实验
    1) 目标依赖的长短期记忆网络[7](TD-LSTM):
    2) 带有目标嵌入的注意力长短期记忆网络[8](AEAT-LSTM):
    3) 文本卷积神经网络(text comvolutional neural network, TextCNN):
    4) 带有目标嵌入的门控卷积网络[14](gated convolutional network with aspect embedding, GCAE):
    5) 交互注意力网络[16](interactive attention network, IAN):
    6) 记忆网络[17](memory network, MemNet):
    7) 注意力编码网络(attention encoder network, AEN):
    8) 包含句法依存信息的记忆网络[18](MenNet with syntactic dependency information, MNSI):
    2.4 实验结果及分析
    2.5 消融实验分析
    2.6 模型复杂性分析
    3 总结
  • 引用格式
    李浩,樊建聪.基于多头注意力门控卷积网络的特定目标情感分析[J].山东科技大学学报(自然科学版),2022,41(02):99-107.DOI:10.16452/j.cnki.sdkjzk.2022.02.011.
相关问题

主办单位:煤炭科学研究总院有限公司 中国煤炭学会学术期刊工作委员会

©版权所有2015 煤炭科学研究总院有限公司 地址:北京市朝阳区和平里青年沟东路煤炭大厦 邮编:100013
京ICP备05086979号-16  技术支持:云智互联