针对现有选煤厂信息管理系统采用的接口不规范,导致数据重复采集,且各系统相互独立,对多源异构数据处理能力弱等问题,基于Hadoop生态圈大数据技术,提出了一种基于Hadoop生态圈的选煤数据中台设计方案。通过主数据管理系统、企业服务总线定义数据标准实现系统集成;设计归一化、相关系数矩阵和噪声异常点检测程序实现数据处理;结合D-S(Dempster-Shafer)证据理论、Hadoop与Hive数据仓库设计多源异构数据融合子系统,实现数据融合;利用Highcharts数据可视化组件实现数据交互式的可视化展示。实际应用结果表明,该数据中台实现了主数据定义标准与系统集成接口规范化,提高了选煤数据处理能力,实现了多源异构选煤数据融合共享、数据实时交互式的可视化展示。
0 引言
1 选煤数据中台架构
2 选煤数据中台关键技术
2.1 多源异构数据集成技术
2.2 多源异构数据处理技术
2.3 多源异构数据融合技术
2.4 多源异构数据可视化技术
3 选煤数据中台应用
4 结论
主办单位:煤炭科学研究总院有限公司 中国煤炭学会学术期刊工作委员会