• 论文
主办单位:煤炭科学研究总院有限公司、中国煤炭学会学术期刊工作委员会
改进Adam优化器在瓦斯涌出量预测中的应用研究
  • 59
  • 作者

    刘海东李星诚张文豪

  • 单位

    西山煤电(集团)有限责任公司北京大学工学院

  • 摘要
    目前对基于神经网络的瓦斯涌出量预测模型的研究主要集中在瓦斯涌出问题上的表现,对模型训练中优化器性质的关注与改进较少。基于神经网络的瓦斯涌出量预测模型的训练常采用Adam算法,但Adam算法的不收敛性易造成预测模型的最佳超参数丢失,导致预测效果不佳。针对上述问题,对Adam优化器进行改进,在Adam算法中引入一种随迭代更新的矩估计参数,在保证收敛速率的同时获得更强的收敛性。以山西焦煤西山煤电集团马兰矿某回采工作面为例,在相同的循环神经网络预测模型下测试了改进的Adam优化器在瓦斯涌出量预测中的训练效率、模型收敛性与预测准确度。测试结果表明:① 当隐藏层数为2和3时,改进的Adam算法较Adam算法的运行时间分别缩短了18.83,13.72 s。当隐藏层数为2时,Adam算法达到最大迭代数但仍没有收敛,而改进的Adam算法达到了收敛。② 在不同隐藏层节点数量下,Adam算法都没有在最大迭代步长内收敛,而改进的Adam算法均达到了收敛,且CPU运行时间较Adam算法分别降低了16.17,188.83,22.15 s。改进的Adam算法预测趋势的正确性更强。③ 使用tanh函数时,改进的Adam算法在运行时间较Adam算法时分别降低了22.15,41.03 s,使用ReLU函数时,改进的Adam算法与Adam算法运行时间相差不大。④ 使用改进后的Adam算法做遍历网格搜索,得到最佳的模型超参数为{3,20,tanh},均方误差、归一化的均方误差、运行时间分别为0.078 5,0.000 101,32.59 s。改进的Adam算法给出的最优模型对于待预测范围内出现的几个低谷及峰值趋势判断均正确,在训练集上的拟合程度适当,未见明显的过拟合现象。
  • 关键词

    瓦斯涌出瓦斯涌出量预测梯度类算法Adam优化器循环神经网络Adam

  • 文章目录
    0引言
    1工作面概括
    2 瓦斯涌出量影响因素
    2.1 数据预处理
    2.2 瓦斯涌出量影响因素的筛选
    3瓦斯预测模型
    3.1 循环神经网络
    3.2 改进的Adam优化器
    4 实验结果与分析
    4.1 隐藏层数量
    4.2 隐藏层内节点数
    4.3激活函数
    4.4 网格搜索
    5 结论
相关问题

主办单位:煤炭科学研究总院有限公司 中国煤炭学会学术期刊工作委员会

©版权所有2015 煤炭科学研究总院有限公司 地址:北京市朝阳区和平里青年沟东路煤炭大厦 邮编:100013
京ICP备05086979号-16  技术支持:云智互联