聪明文档网
最新最全的文档下载
当前位置：
首页> 大数据治理系列教材
大数据治理系列教材
时间：2020-09-10 下载该word文档
大数据治理——为业务提供持续的、可度量的价值 目录
大数据治理——为业务提供持续的、可度量的价值 ..... 1 概述 ............................................ 3 大数据治理系列 .................................. 3
第一部分：大数据治理统一流程模型概述和明确元数据治理策略 ........................................ 3
第二部分：元数据集成体系结构 ................ 24 第三部分：实施元数据治理 ................... 42 第四部分：大数据治理统一流程参考模型的第四步到第九步 ........................................... 63
第五部分：定义度量值和主数据监管 ............ 91
1 / 160
第六部分：大数据监管和信息单一视图监管 ..... 113 第七部分：分析监管、安全与隐私治理和信息生命周期监管 .......................................... 136
2 / 160
概述
面对我们周围每时每刻迅速增长的庞大数据，因为其数量大、速度快、种类多和准确性的特征，如何更好地利用大数据制造出有意义的价值，一直是我们探究的重要话题。而在这之前，就需要用科学正确的方法策略对大数据进行治理。大数据治理是指制定与大数据有关的数据优化、隐私爱护与数据变现的政策，是传统信息治理的连续和扩展，也是大数据分析的基础，依旧连接大数据科学和应用的桥梁，因此大数据治理是大数据再创高峰的“必修课”。下面我们将与您分享新奇出炉的大数据治理方案。 大数据治理系列
本系列共分为七个部分，围绕大数据治理统一流程参考模型，并结合实际业务问题和IBM相应的产品解决方案展开叙述。
第一部分：大数据治理统一流程模型概述和明确元数据治理策略
为了更好地关心企业进行大数据治理，笔者在IBM数据治理统一流程模型基础上结合在电信、金融、政府等行业进行大数据治理的经验，整理出了大数据治理统一流程参考模型。 本文要紧 3 / 160
介绍了大数据治理的差不多概念，以及结合图文并茂的方式讲解了大数据治理统一流程参考模型的前两步：“明确元数据治理策略”和“元数据集成体系结构”内容。
大数据治理概述
（狭义）大数据是指无法使用传统流程或工具在合理的时刻和成本内处理或分析的信息，这些信息将用来关心企业更智慧地经营和决策。而广义的大数据更是指企业需要处理的海量数据，包括传统数据以及狭义的大数据。（广义）大数据能够分为五个类型：Web和社交媒体数据、机器对机器（M2M）数据、海量交易数据、生物计量学数据和人工生成的数据。
Web和社交媒体数据：比如各种微博、博客、社交网站、购物网站中的数据和内容。
M2M数据：也确实是机器对机器的数据，比如RFID数据、GPS数据、智能仪表、监控记录数据以及其他各种传感器、监控器的数据。
海量交易数据：是各种海量的交易记录以及交易相关的半结构化和非结构化数据，比如电信行业的CDR、3G上网记录等，金融行业的网上交易记录、corebanking 记录、理财记录等， 4 / 160
保险行业的各种理赔等。
生物计量学数据：是指和人体识不相关的生物识不信息，如指纹、DNA、虹膜、视网膜、人脸、声音模式、笔迹等。 人工生成的数据：比如各种调查问卷、电子邮件、纸质文件、扫描件、录音和电子病历等。
在各行各业中，随处可见因数量、速度、种类和准确性结合带来的大数据问题，为了更好地利用大数据，大数据治理逐渐提上日程。在传统系统中，数据需要先存储到关系型数据库/数据仓库后再进行各种查询和分析，这些数据我们称之为静态数据。而在大数据时代，除了静态数据以外，还有专门多数据对实时性要求特不高，需要在采集数据时就进行相应的处理，处理结果存入到关系型数据库/数据仓库、MPP数据库、Hadoop平台、各种NoSQL数据库等，这些数据我们称之为动态数据。比如高铁机车的关键零部件上装有成百上千的传感器，每时每刻都在生成设备状态信息，企业需要实时收集这些数据并进行分析，当发觉设备可能出现问题时及时告警。再比如在电信行业，基于用户通信行为的精准营销、位置营销等，都会实时的采集用户数据并依照业务模型进行相应的营销活动。
5 / 160
大数据治理的核心是为业务提供持续的、可度量的价值。大数据治理人员需要定期与企业高层治理人员进行沟通，保证大数据治理打算能够持续获得支持和关心。相信随着时刻的推移，大数据将成为主流，企业能够从海量的数据中获得更多的价值，而大数据治理的范围和严格程度也将逐步上升。为了更好地关心企业进行大数据治理，笔者在IBM数据治理统一流程模型基础上结合在电信、金融、政府等行业进行大数据治理的经验，整理了大数据治理统一流程参考模型，整个参考模型分为必选步骤和可选步骤两部分。
大数据治理统一流程参考模型
如图1所示，大数据治理统一流程参考模型必要步骤分为两个方向：一条子线是在制定元数据治理策略和确立体系结构的基础上实施全面的元数据治理，另一条子线是在定义业务问题、执行成熟度评估的基础上定义数据治理路线图以及定义数值治理相关的度量值。在11个必要步骤的基础上，企业能够在7个可选步骤中选择一个或多个途径进行特定领域的数据治理，可选步骤为：主数据监管、（狭义）大数据监管、信息单一视图监管、运营分析监管、预测分析监管、 治理安全与隐私以及监管信息生 6 / 160
命周期。企业需要定期对大数据治理统一流程进行度量并将结果发送给主管级发起人。
图1大数据治理统一流程参考模型
第一步：明确元数据治理策略
在最开始的时候，元数据（MetaData）是指描述数据的数据，通常由信息结构的描述组成，随着技术的进展元数据内涵有了特不大的扩展，比如UML模型、数据交易规则、用Java，.NET，C++等编写的APIs、业务流程和工作流模型、产品配置描述和调优参数以及各种业务规则、术语和定义等[1] 。在大数据时代， 7 / 160
元数据还应该包括对各种新数据类型的描述，如对位置、名字、用户点击次数、音频、视频、图片、各种无线感知设备数据和各种监控设备数据等的描述等。元数据通常分为业务元数据、技术元数据和操作元数据等。业务元数据要紧包括业务规则、定义、术语、术语表、运算法则和系统使用业务语言等，要紧使用者是业务用户。技术元数据要紧用来定义信息供应链（Information Supply Chain，ISC）各类组成部分元数据结构，具体包括各个系统表和字段结构、属性、出处、依靠性等，以及存储过程、函数、序列等各种对象。操作元数据是指应用程序运行信息，比如其频率、记录数以及各个组件的分析和其它统计信息等。
从整个企业层面来讲，各种工具软件和应用程序越来越复杂，相互依存度逐年增加，相应的追踪整个信息供应链各组件之间数据流淌、了解数据元素含义和上下文的需求越来越强烈。在从应用议程往信息议程的转变过程中，元数据治理也逐渐从局部存储和治理转向共享。从总量上来看，整个企业的元数据越来越多，光现有的数据模型中就包含了成千上万的表，同时还有更多的模型等着上线，同时随着大数据时代的来临，企业需要处理的数据类型越来越多。为了企业更高效地运转， 企业需要明确元数据治 8 / 160
理策略和元数据集成体系结构，依托成熟的方法论和工具实现元数据治理，并有步骤的提升其元数据治理成熟度。
为了实现大数据治理，构建智慧的分析洞察，