理论教育 电力行业商业智能案例详解

电力行业商业智能案例详解

时间:2023-06-06 理论教育 版权反馈
【摘要】:图13-6 电力行业数据仓库的建设方法关于省市级的数据仓库演进方法是以数据仓库分析能力和数据整合能力的提高为主线索,提升数据管控能力,改进数据质量。同时可以全面了解客户的电力消费和缴费情况,帮助制定相关的政策和服务措施。图13-11 电力行业商业智能的任务流程1)计划阶段计划阶段主要包括定义期望目标、评估现状能力、定义方案和定义交付策略,如图13-12所示。

电力行业商业智能案例详解

1.电力行业数据仓库的建设方法

数据仓库开发应实施以全局的观点为基础,业务需求为导向的滚动式开发方法,如图13-6所示。

978-7-111-50289-0-Chapter13-6.jpg

图13-6 电力行业数据仓库的建设方法

关于省市级的数据仓库演进方法是以数据仓库分析能力和数据整合能力的提高为主线索,提升数据管控能力,改进数据质量。

1)首先采用Quick Win(速赢)方式,建立领导查询系统,如图13-7所示。

978-7-111-50289-0-Chapter13-7.jpg

图13-7 Quick Win(速赢)方式

2)然后,建立数据仓库,并且对数据仓库不断地进行完善和改进。挑选重要的主题进行数据仓库建设,提供联机分析及综合报表,如图13-8所示。

3)数据仓库优化。在优化阶段,数据仓库已经基本建成。在此阶段,数据仓库可以提供更全面的数据分析以及数据展现功能,包括对数据进行更深层次的挖掘,如图13-9所示。

978-7-111-50289-0-Chapter13-8.jpg

图13-8 建立数据仓库并不断完善和改进

978-7-111-50289-0-Chapter13-9.jpg

图13-9 数据仓库优化

2.Quick Win(速赢)阶段的工作任务和效果

(1)阶段任务

功能:实现综合分析和领导查询。

技术:建立数据仓库技术架构,包括开发环境、执行环境和运维环境。

管理:初步统一编码,使数据集市中的标准一致,对于地市级上报的指标统一口径。

(2)效果

该阶段基本实现综合分析和统计功能,包括指标的查询和统计,表现方式主要是普通报表、图形和仪表盘等。但是对明细数据的分析能力有限,缺乏丰富的多维分析能力,从整个架构上看,只有数据集市,没有建立企业级的数据仓库。整体的架构在这个阶段基本形成。数据集市中的数据可以自动更新。

3.数据仓库建立及完善阶段的工作任务和效果

(1)阶段任务

功能:完善综合分析和领导查询。

技术:在数据仓库中建立客户、产品、财务主题域的物理模型,将数据源转化后进入到数据仓库中,实现数据仓库数据到数据集市的转换,对于数据集市中的指标,逐步转向由数据仓库计算得来。

管理:建立数据质量管理团队、方法和流程,对数据质量进行分析,实施数据安全的分级策略,使用户对数据具有不同的访问权限。同时建立数据标准管理团队,对数据标准进行管理维护,初步具有应对数据标准需求的能力。在此基础上,建立数据仓库运维架构,包括组织、流程、方法等内容。

(2)效果

综合分析和统计中的指标可以从数据仓库中统计得来,指标的准确度和自动化程度得到提高。企业级数据仓库初步形成,并且具备一定的数据整合能力,为分析提供明细和汇总的数据。例如,通过对电量、电费、电价的分析,提高电量的需求预测和价格制定能力。同时可以全面了解客户的电力消费和缴费情况,帮助制定相关的政策和服务措施。它可以基于OLAP分析技术做更深入的数据分析,数据质量逐步得到改善,保证数据仓库系统运行时的高可用性

4.数据仓库优化阶段的工作任务和达到的效果

(1)阶段任务

功能:完善综合分析及领导查询,完成剩余的数据分析功能。

技术:在数据仓库中建立其他主题域的物理模型,建立数据源到数据仓库的映射关系,将数据源进行转换后再送入到数据仓库中。在此基础上,建立其他的数据集市,并且实现数据仓库到数据集市的转换,使集市中的指标,全部转向由数据仓库计算得来。

管理:优化数据标准维护流程、数据质量管理流程,同时优化数据仓库运维能力,建立数据生命周期。

(2)效果

对于综合分析和更多的指标可以从数据仓库中统计得来,指标的准确度和自动化程度得到优化和提高。企业级数据仓库已经形成,具备数据整合能力,为数据分析提供充分支持。数据质量进一步改善,在源头对数据质量进行管理,使运维效率得到提高。

其中,电力行业商业智能组织架构如图13-10所示,主要包括项目领导小组、项目管理办公室、专家组、质量监控组、项目经理/项目实施管理团队、架构设计组和开发测试组。

978-7-111-50289-0-Chapter13-10.jpg

图13-10 电力行业商业智能组织架构

电力行业商业智能的任务流程如图13-11所示,主要包括计划阶段、分析阶段、设计阶段、开发阶段、测试阶段和部署阶段。

978-7-111-50289-0-Chapter13-11.jpg

图13-11 电力行业商业智能的任务流程

1)计划阶段

计划阶段主要包括定义期望目标、评估现状能力、定义方案和定义交付策略,如图13-12所示。

978-7-111-50289-0-Chapter13-12.jpg

图13-12 计划阶段

●定义期望目标

包括愿景及业务目标,确认目标业务流程,定义方案蓝图等。

●评估现状能力

评估当前业务流程和当前的能力、性能、风险等内容,分析当前技术架构、组织架构、数据管控的现状。

●定义方案

定义应用解决方案、技术解决方案、业务流程变更解决方案和运维解决方案。

●定义交付策略

定义开发策略、测试策略、试点策略、部署策略、元数据管理和数据管控策略。

2)分析阶段

分析阶段主要包括定义数据分析需求、建立概念数据模型、定义用户访问需求、评估风险、定义开发运行环境需求、制定UAT计划和性能测试计划,如图13-13所示。

978-7-111-50289-0-Chapter13-13.jpg

图13-13 分析阶段

3)设计阶段

设计阶段主要包括定义ETL技术整合方案和报表详细规范,建立逻辑数据模型,对设计开发和运行环境的准备,制定测试计划,如图13-14所示。

978-7-111-50289-0-Chapter13-14.jpg

图13-14 设计阶段

4)开发阶段

开发阶段主要包括制定ETL开发流程,前台组件开发,物理数据模型开发,开发、运行环境的准备,ETL、报表组件测试计划,如图13-15所示。

978-7-111-50289-0-Chapter13-15.jpg

图13-15 开发阶段

其中ETL开发流程包括数据映射、逻辑设计、调度设计、编码等。

5)测试阶段

测试阶段主要包括组件测试、产品测试、性能测试、UAT测试,如图13-16所示。

978-7-111-50289-0-Chapter13-16.jpg

图13-16 测试阶段

●组件测试

组件测试包括编写组件测试的脚本、发布测试环境、执行组件测试,最后根据测试结果及时通报错误并修复。

●产品测试

产品测试包括确认产品测试的周期、编写测试脚本、发布测试环境、执行产品测试,最后根据测试结果及时通报错误并修复。

●性能测试

性能测试包括确认性能测试周期、编写测试脚本、发布性能测试环境、执行性能测试,最后根据测试结果及时通报错误并修复。

●UAT测试

主要包括对用户培训手册、测试脚本、测试场景、测试策略和测试用户的准备。(www.daowen.com)

6)部署阶段

部署阶段主要包括评估部署条件、完成数据转换和部署测试、发布应用,如图13-17所示。

其中评估部署条件主要是评估应用程序、技术架构、部署站点和基础架构的准备情况,同时制定对偶发事件的应急处理机制,详细列出每一阶段的检查点。完成数据转换主要包括清洗数据、创建数据备份、执行数据转换,最后验证转换后数据的正确性。完成部署测试主要包括执行部署测试、验证结果、结果反馈、错误修复,最后将部署结果通知开发和实施团队。

5.电力行业商业智能运维组织架构

978-7-111-50289-0-Chapter13-17.jpg

图13-17 部署阶段

电力行业商业智能运维组织架构层次一般为运维中心、服务支持、技术支持等团队。例如,服务支持包括设施支持人员、流程管理人员;技术支持团队包括商业智能(BI)支持

325人员、网络支持人员、存储支持人员、操作系统支持人员,如图13-18所示。

978-7-111-50289-0-Chapter13-18.jpg

图13-18 商业智能运维组织架构

6.电力行业商业智能基础环境搭建

(1)网络容量规划方法

关于电力行业数据仓库的网络容量规划,可以分成以下三个阶段:业务需求规划、制定容量规划和容量规划执行。

第一阶段:业务需求规划。

第一阶段主要包括识别关键业务,识别造成影响的技术因素,制定数据收集清单,制定基础设施配置清单,识别约束条件和限制条件,安装和配置数据收集工具,对确认的数据指标进行收集等内容,如图13-19所示。

978-7-111-50289-0-Chapter13-19.jpg

图13-19 业务需求规划

第二阶段:制定容量规划。

第二阶段主要包括确定容量规划方法,使用不同的容量模型,决定当前和未来容量管理的优先级,提出容量管理的改进计划,如图13-20所示。

978-7-111-50289-0-Chapter13-20.jpg

图13-20 制定容量规划

第三阶段:容量规划执行。

第三阶段主要包括审核容量规划方法,建立沟通机制;建立容量规划的行动方案;执行容量规划;跟踪容量规划的结果,及时调整规划,如图13-21所示。

978-7-111-50289-0-Chapter13-21.jpg

图13-21 容量规划执行

(2)数据中心服务器逻辑拓扑

关于电力公司数据中心服务器逻辑拓扑如图13-22所示。

(3)数据仓库相关存储估算

数据仓库存储容量包括4个部分:数据仓库容量、数据集市容量、ODS容量和备份空间,如图13-23所示。

1)数据仓库容量:包括数据、索引和归档日志等信息。

2)数据集市容量:包括数据、索引和归档日志等信息。

3)ODS容量:包括数据、索引和归档日志等信息。

4)备份空间:主要包括数据仓库、数据集市、ODS在磁盘阵列上的备份空间。

978-7-111-50289-0-Chapter13-22.jpg

图13-22 电力公司数据中心服务器逻辑拓扑图

978-7-111-50289-0-Chapter13-23.jpg

图13-23 数据仓库总体存储

对于数据仓库的容量估算,举例见表13-1。

表13-1 数据仓库容量估算

978-7-111-50289-0-Chapter13-24.jpg

(续)

978-7-111-50289-0-Chapter13-25.jpg

对于数据集市的容量估算,举例见表13-2。

表13-2 数据集市容量估算

978-7-111-50289-0-Chapter13-26.jpg

对于ODS的容量估算,举例见表13-3。

表13-3 ODS容量估算

978-7-111-50289-0-Chapter13-27.jpg

关于磁盘备份空间的需求,见表13-4,其中全备份不保存在磁盘阵列上。

表13-4 磁盘备份空间的需求

978-7-111-50289-0-Chapter13-28.jpg

(4)电力行业商业智能系统相关服务器描述见表13-5。

表13-5 电力行业商业智能系统相关服务器

978-7-111-50289-0-Chapter13-29.jpg

7.电力行业数据仓库建设难点

电力行业数据仓库建设的难点主要包括缺乏统一的数据规划、缺乏统一的数据管理标准体系、缺乏统一的编码管理、缺乏对数据仓库建设的验证过程等方面,如图13-24所示。

978-7-111-50289-0-Chapter13-30.jpg

图13-24 电力行业数据仓库建设难点

●缺乏统一的数据规划

电力行业下级单位缺乏统一的标准体系。因为各自的建设,所以很容易形成信息孤岛。

●缺乏统一的数据管理标准体系

电力行业总部层面缺乏统一的数据管理标准体系,没有对应的管理机构和方法去协调新增的数据需求。

●缺乏统一的编码管理

电力行业缺乏统一的编码管理,导致数据存在不统一、不完整的现象。同时数据集成的成本很高,数据质量偏低。

●缺乏对数据仓库建设的验证过程

电力行业普遍缺乏对数据仓库建设的验证过程,包括对试点单位的推广和建立相应的管理机制等,提高了整个电力行业数据仓库建设的风险概率。

8.数据仓库的总体建设策略建议

1)电力行业省级单位对数据分析的需求具有一定差异性。除了有整个电力行业共性统一的内容,也允许存在个性化的内容,我们在技术架构统一的前提下,允许不同的省级单位使用不同的平台软件

2)电力公司总部对数据仓库的建设应该有一个统一的数据标准体系,它可以帮助省级单位建立各自的数据管理体系,保证总部和省级单位数据的可用性。

3)可以通过对试点省级单位的成功推广,减少其他单位实施数据仓库的风险,也就是通过典型成功案例经验的指导,在全国范围内进行数据仓库建设。

总之,电力行业数据仓库的实施策略是以降低风险为原则,通过试点建设积累经验和方法,形成统一的数据模型标准、管控方法和数据仓库体系架构,然后向其他省级单位推广。这样可以保证整个电力行业数据仓库建设的有序开展。

举例来说,首先通过试点的建设,对数据模型进行规划,提供逻辑模型和物理模型,制定数据标准管理机制,建立数据仓库体系架构和数据质量管理策略。

然后经过一系列的经验验证,形成统一的数据模型标准、数据仓库统一体系架构以及各种数据标准管理机制等。

最后进行宣传推广和执行督导。数据仓库的开发流程是以业务需求驱动为导向的滚动式开发,以全局观点为基础的不断完善的闭环流程,如图13-25所示。

978-7-111-50289-0-Chapter13-31.jpg

图13-25 数据仓库的总体建设策略建议

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈