首页 / 专利库 / 资料储存系统 / 数据集市 / 一种大数据数据中心运行监测系统

一种大数据数据中心运行监测系统

阅读:149发布:2020-05-08

专利汇可以提供一种大数据数据中心运行监测系统专利检索,专利查询,专利分析的服务。并且本 发明 涉及运行监测系统,具体涉及一种 大数据 数据中心 运行监测系统,包括用于采集数据资源的源系统,以及用于对源系统采集数据资源进行处理存储的全业务数据中心,全业务数据中心包括数据缓冲区、明细数据层和 数据集市 层,数据集市层中设有数据集市 服务器 数据集市服务器与用于对处理后数据进行分析的数据分析模 块 相连,数据集市服务器与用于将数据分析模块的分析结果转换成图表的图表转换模块相连,数据集市服务器与用于对处理后数据进行深度挖掘的 数据挖掘 模块相连;本发明提供的技术方案能够有效克服 现有技术 所存在的缺乏统一的数据中心运行监测系统、无法高效对 电网 数据进行监测分析的 缺陷 。,下面是一种大数据数据中心运行监测系统专利的具体信息内容。

1.一种大数据数据中心运行监测系统,其特征在于:包括用于采集数据资源的源系统,以及用于对所述源系统采集数据资源进行处理存储的全业务数据中心,所述全业务数据中心包括数据缓冲区、明细数据层和数据集市层,所述数据集市层中设有数据集市服务器
所述数据集市服务器与用于对处理后数据进行分析的数据分析模相连,所述数据集市服务器与用于将所述数据分析模块的分析结果转换成图表的图表转换模块相连,所述数据集市服务器与用于对处理后数据进行深度挖掘的数据挖掘模块相连;
所述数据集市服务器与用于对处理后数据进行深度分析的深度分析模块相连,所述数据集市服务器与用于根据所述深度分析模块的分析结果进行故障诊断、险评估的诊断评估模块相连,所述数据集市服务器与用于根据所述诊断评估模块的诊断评估结果对存在风险进行有效预测的风险预测模块相连,所述数据集市服务器与用于综合所述诊断评估模块、风险预测模块的预估结果以可视化形式输出辅助决策建议的辅助决策输出模块相连。
2.根据权利要求1所述的大数据数据中心运行监测系统,其特征在于:所述数据挖掘模块对处理后数据进行机器学习、神经网络计算、智能计算及关联分析。
3.根据权利要求1所述的大数据数据中心运行监测系统,其特征在于:所述图表转换模块将所述数据分析模块的分析结果转换成便于拖拽的树状数据源模型,并在所述树状数据源模型中以不同颜色标注预警数据。
4.根据权利要求1所述的大数据数据中心运行监测系统,其特征在于:所述深度分析模块利用时间序列分析、聚类分析、分类分析、非结构数据特征分析、关联分析、回归分析对数据进行深度解析,并利用日志生产器生成相应日志文件。
5.根据权利要求1所述的大数据数据中心运行监测系统,其特征在于:所述辅助决策输出模块综合所述诊断评估模块、风险预测模块的预估结果,得到风险评估数据和故障分析报告,并转换成可视化图像上报风险预警等级、故障位置
6.根据权利要求1所述的大数据数据中心运行监测系统,其特征在于:所述数据缓冲区包括MySQL数据库、历史全量计算服务器和增量计算服务器,所述明细数据层包括由MPP计算服务器构成的Gbase数据库。
7.根据权利要求6所述的大数据数据中心运行监测系统,其特征在于:源系统采集的结构化数据通过ETL、OGG方式抽取到所述数据缓冲区,并通过ETL方式流转到明细数据层、数据集市层。
8.根据权利要求7所述的大数据数据中心运行监测系统,其特征在于:针对所述源系统中不同系统的数据库平台部署对应OGG工具,完成数据同步初始化后启用所述OGG工具实现源业务到全业务数据中心的数据同步。
9.根据权利要求7所述的大数据数据中心运行监测系统,其特征在于:根据业务要求确定所述数据缓冲区中历史全量计算服务器的全量数据集成同步机制,以及增量计算服务器的增量数据集成同步机制,所述历史全量计算服务器、增量计算服务器定时调度ETL进行数据流转。
10.根据权利要求6所述的大数据数据中心运行监测系统,其特征在于:所述MySQL数据库、Gbase数据库根据源系统业务接入情况在全业务数据中心构建对应数据表,采用ETL方式导入数据实现历史数据同步。

说明书全文

一种大数据数据中心运行监测系统

技术领域

[0001] 本发明涉及运行监测系统,具体涉及一种大数据数据中心运行监测系统。

背景技术

[0002] 电网数据资产海量并且多元化,导致难以全面了解数据类别、分布、链路、数量及与业务的关联等,无法掌握数据资产全貌。当前数据服务目录方面,通过线下文档的方式提供,不便于更新及信息同步,存在数据资源检索困难,线下获取数据资源效率低的问题,需要多方协调、多方参与。
[0003] 由于现有电网系统中缺乏统一的数据中心运行监测系统,各个用于采集数据资源的源系统无法接入同一系统,导致业务人员无法高效对电网数据进行监测分析,也无法深度挖掘海量电网数据的应用价值。因此,需要建立一种大数据数据中心运行监测系统,适应电网运行监测数据的特点,实现对海量电网数据的全面监测分析。

发明内容

[0004] (一)解决的技术问题
[0005] 针对现有技术所存在的上述缺点,本发明提供了一种大数据数据中心运行监测系统,能够有效克服现有技术所存在的缺乏统一的数据中心运行监测系统、无法高效对电网数据进行监测分析的缺陷
[0006] (二)技术方案
[0007] 为实现以上目的,本发明通过以下技术方案予以实现:
[0008] 一种大数据数据中心运行监测系统,包括用于采集数据资源的源系统,以及用于对所述源系统采集数据资源进行处理存储的全业务数据中心,所述全业务数据中心包括数据缓冲区、明细数据层和数据集市层,所述数据集市层中设有数据集市服务器
[0009] 所述数据集市服务器与用于对处理后数据进行分析的数据分析模相连,所述数据集市服务器与用于将所述数据分析模块的分析结果转换成图表的图表转换模块相连,所述数据集市服务器与用于对处理后数据进行深度挖掘的数据挖掘模块相连;
[0010] 所述数据集市服务器与用于对处理后数据进行深度分析的深度分析模块相连,所述数据集市服务器与用于根据所述深度分析模块的分析结果进行故障诊断、险评估的诊断评估模块相连,所述数据集市服务器与用于根据所述诊断评估模块的诊断评估结果对存在风险进行有效预测的风险预测模块相连,所述数据集市服务器与用于综合所述诊断评估模块、风险预测模块的预估结果以可视化形式输出辅助决策建议的辅助决策输出模块相连。
[0011] 优选地,所述数据挖掘模块对处理后数据进行机器学习、神经网络计算、智能计算及关联分析。
[0012] 优选地,所述图表转换模块将所述数据分析模块的分析结果转换成便于拖拽的树状数据源模型,并在所述树状数据源模型中以不同颜色标注预警数据。
[0013] 优选地,所述深度分析模块利用时间序列分析、聚类分析、分类分析、非结构数据特征分析、关联分析、回归分析对数据进行深度解析,并利用日志生产器生成相应日志文件。
[0014] 优选地,所述辅助决策输出模块综合所述诊断评估模块、风险预测模块的预估结果,得到风险评估数据和故障分析报告,并转换成可视化图像上报风险预警等级、故障位置
[0015] 优选地,所述数据缓冲区包括MySQL数据库、历史全量计算服务器和增量计算服务器,所述明细数据层包括由MPP计算服务器构成的Gbase数据库。
[0016] 优选地,源系统采集的结构化数据通过ETL、OGG方式抽取到所述数据缓冲区,并通过ETL方式流转到明细数据层、数据集市层。
[0017] 优选地,针对所述源系统中不同系统的数据库平台部署对应OGG工具,完成数据同步初始化后启用所述OGG工具实现源业务到全业务数据中心的数据同步。
[0018] 优选地,根据业务要求确定所述数据缓冲区中历史全量计算服务器的全量数据集成同步机制,以及增量计算服务器的增量数据集成同步机制,所述历史全量计算服务器、增量计算服务器定时调度ETL进行数据流转。
[0019] 优选地,所述MySQL数据库、Gbase数据库根据源系统业务接入情况在全业务数据中心构建对应数据表,采用ETL方式导入数据实现历史数据同步。
[0020] (三)有益效果
[0021] 与现有技术相比,本发明所提供的一种大数据数据中心运行监测系统,具有以下有益效果:
[0022] 1、源系统采集数据资源,全业务数据中心对源系统采集数据资源进行处理存储,全业务数据中心包括数据缓冲区、明细数据层和数据集市层,源系统采集的结构化数据通过ETL、OGG方式抽取到数据缓冲区,并通过ETL方式流转到明细数据层、数据集市层,从而能够将各个用于采集数据资源的源系统接入同一全业务数据中心,便于对海量电网数据资源进行有效管理;
[0023] 2、数据分析模块对处理后数据进行分析,图表转换模块将数据分析模块的分析结果转换成图表,数据挖掘模块对处理后数据进行深度挖掘,从而能够深度挖掘海量电网数据的应用价值;
[0024] 3、深度分析模块对处理后数据进行深度分析,诊断评估模块根据深度分析模块的分析结果进行故障诊断、风险评估,风险预测模块根据诊断评估模块的诊断评估结果对存在风险进行有效预测,辅助决策输出模块综合诊断评估模块、风险预测模块的预估结果以可视化形式输出辅助决策建议,通过对海量电网数据的深度分析能够进行故障诊断、风险评估,并以可视化形式输出辅助决策建议,便于协助业务人员更好地对电网进行高效管理。附图说明
[0025] 为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0026] 图1为本发明大数据数据中心接入源系统采集数据示意图;
[0027] 图2为本发明图1中数据集市服务器外围监测系统示意图。

具体实施方式

[0028] 为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述。显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
[0029] 一种大数据数据中心运行监测系统,如图1和图2所示,包括用于采集数据资源的源系统,以及用于对源系统采集数据资源进行处理存储的全业务数据中心,全业务数据中心包括数据缓冲区、明细数据层和数据集市层,数据集市层中设有数据集市服务器;
[0030] 数据集市服务器与用于对处理后数据进行分析的数据分析模块相连,数据集市服务器与用于将数据分析模块的分析结果转换成图表的图表转换模块相连,数据集市服务器与用于对处理后数据进行深度挖掘的数据挖掘模块相连;
[0031] 数据集市服务器与用于对处理后数据进行深度分析的深度分析模块相连,数据集市服务器与用于根据深度分析模块的分析结果进行故障诊断、风险评估的诊断评估模块相连,数据集市服务器与用于根据诊断评估模块的诊断评估结果对存在风险进行有效预测的风险预测模块相连,数据集市服务器与用于综合诊断评估模块、风险预测模块的预估结果以可视化形式输出辅助决策建议的辅助决策输出模块相连。
[0032] 数据挖掘模块对处理后数据进行机器学习、神经网络计算、智能计算及关联分析。
[0033] 图表转换模块将数据分析模块的分析结果转换成便于拖拽的树状数据源模型,并在树状数据源模型中以不同颜色标注预警数据。
[0034] 深度分析模块利用时间序列分析、聚类分析、分类分析、非结构数据特征分析、关联分析、回归分析对数据进行深度解析,并利用日志生产器生成相应日志文件。
[0035] 辅助决策输出模块综合诊断评估模块、风险预测模块的预估结果,得到风险评估数据和故障分析报告,并转换成可视化图像上报风险预警等级、故障位置。
[0036] 数据缓冲区包括MySQL数据库、历史全量计算服务器和增量计算服务器,明细数据层包括由MPP计算服务器构成的Gbase数据库。
[0037] 源系统采集的结构化数据通过ETL、OGG方式抽取到数据缓冲区,并通过ETL方式流转到明细数据层、数据集市层。
[0038] 针对源系统中不同系统的数据库平台部署对应OGG工具,完成数据同步初始化后启用OGG工具实现源业务到全业务数据中心的数据同步。
[0039] 根据业务要求确定数据缓冲区中历史全量计算服务器的全量数据集成同步机制,以及增量计算服务器的增量数据集成同步机制,历史全量计算服务器、增量计算服务器定时调度ETL进行数据流转。
[0040] MySQL数据库、Gbase数据库根据源系统业务接入情况在全业务数据中心构建对应数据表,采用ETL方式导入数据实现历史数据同步。
[0041] 源系统采集数据资源,全业务数据中心对源系统采集数据资源进行处理存储,全业务数据中心包括数据缓冲区、明细数据层和数据集市层,源系统采集的结构化数据通过ETL、OGG方式抽取到数据缓冲区,并通过ETL方式流转到明细数据层、数据集市层,从而能够将各个用于采集数据资源的源系统接入同一全业务数据中心,便于对海量电网数据资源进行有效管理。
[0042] 数据缓冲区包括MySQL数据库、历史全量计算服务器和增量计算服务器,明细数据层包括由MPP计算服务器构成的Gbase数据库。
[0043] 针对源系统中不同系统的数据库平台部署对应OGG工具,完成数据同步初始化后启用OGG工具实现源业务到全业务数据中心的数据同步。
[0044] 根据业务要求确定数据缓冲区中历史全量计算服务器的全量数据集成同步机制,以及增量计算服务器的增量数据集成同步机制,历史全量计算服务器、增量计算服务器定时调度ETL进行数据流转。
[0045] MySQL数据库、Gbase数据库根据源系统业务接入情况在全业务数据中心构建对应数据表,采用ETL方式导入数据实现历史数据同步。
[0046] 数据分析模块对处理后数据进行分析,图表转换模块将数据分析模块的分析结果转换成图表,数据挖掘模块对处理后数据进行深度挖掘,从而能够深度挖掘海量电网数据的应用价值。
[0047] 数据挖掘模块对处理后数据进行机器学习、神经网络计算、智能计算及关联分析。
[0048] 图表转换模块将数据分析模块的分析结果转换成便于拖拽的树状数据源模型,并在树状数据源模型中以不同颜色标注预警数据。
[0049] 深度分析模块对处理后数据进行深度分析,诊断评估模块根据深度分析模块的分析结果进行故障诊断、风险评估,风险预测模块根据诊断评估模块的诊断评估结果对存在风险进行有效预测,辅助决策输出模块综合诊断评估模块、风险预测模块的预估结果以可视化形式输出辅助决策建议,通过对海量电网数据的深度分析能够进行故障诊断、风险评估,并以可视化形式输出辅助决策建议,便于协助业务人员更好地对电网进行高效管理。
[0050] 深度分析模块利用时间序列分析、聚类分析、分类分析、非结构数据特征分析、关联分析、回归分析对数据进行深度解析,并利用日志生产器生成相应日志文件。
[0051] 辅助决策输出模块综合诊断评估模块、风险预测模块的预估结果,得到风险评估数据和故障分析报告,并转换成可视化图像上报风险预警等级、故障位置。
[0052] 以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不会使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈