热门搜索: 中考 高考 考试 开卷17
服务电话 024-96192/23945006
 

PentahoKettle解决方案:使用PDI构建开源ETL解决方案

编号:
9787121224454001
销售价:
¥71.20
(市场价: ¥89.00)
赠送积分:
71
商品介绍

本书主要介绍如何使用开源ETL工具来完成数据整合工作。
本书介绍的PDI(Kettle)是一种开源的 ETL 解决方案,书中介绍了如何使用PDI来实现数据的剖析、清洗、校验、抽取、转换、加载等各类常见的ETL类工作。
除了ODS/DW类比较大型的应用外,Kettle 实际还可以为中小企业提供灵活的数据抽取和数据处理的功能。Kettle除了支持各种关系型数据库、HBase、MongoDB这样的NoSQL数据源外,它还支持Excel、Access这类小型的数据源。并且通过插件扩展,Kettle 可以支持各类数据源。本书详细介绍了Kettle可以处理的数据源,而且详细介绍了如何使用Kettle抽取增量数据。
Kettle 的数据处理功能也很强大,除了选择、过滤、分组、连接、排序这些常用的功能外,Kettle 里的Java表达式、正则表达式、Java脚本、Java类等功能都非常灵活而强大,都非常适合于各种数据处理功能。本书也使用了一些篇幅介绍Kettle这些灵活的数据处理功能。
本书后面章节介绍了如何在 Kettle 上开发插件,如何使用Kettle处理实时数据流,以及如何在Amazon AWS上运行Kettle 等一些高级主题。
除了介绍PDI(Kettle)工具的使用和功能,本书还结合Kimball博士的数据仓库和ETL子系统的理论,从实践的角度介绍数据仓库的模型设计、数据仓库的构建方法,以及如何使用 PDI实现Kimball博士提出的34种ETL子系统。

第一部分:开始第1章 ETL入门21.1 OLTP和数据仓库对比 21.2 ETL是什么 31.2.1 ETL解决方案的演化过程 41.2.2 ETL基本构成 51.3 ETL、ELT和EII 61.3.1 ELT 61.3.2 EII:虚拟数据整合 71.4 数据整合面临的挑战 81.4.1 方法论:敏捷BI 91.4.2 ETL设计 101.4.3 获取数据 101.4.4 数据质量 121.5 ETL工具的功能 131.5.1 连接 131.5.2 平台独立 141.5.3 数据规模 141.5.4 设计灵活性 141.5.5 复用性 151.5.6 扩展性 151.5.7 数据转换 151.5.8 测试和调试 161.5.9 血统和影响分析 161.5.10 日志和审计 161.6 小结 17第2章 Kettle基本概念182.1 设计原则 182.2 Kettle设计模块 192.2.1 转换 192.2.2 作业 232.2.3 转换或作业的元数据 282.2.4 数据库连接 282.2.5 工具 312.2.6 资源库 312.2.7 虚拟文件系统 312.3 参数和变量 322.3.1 定义变量 322.3.2 命名参数 332.3.3 使用变量 332.4 可视化编程 342.4.1 开始 342.4.2 创建新的步骤 352.4.3 放在一起 362.5 小结 38第3章 安装和配置393.1 Kettle软件概览 393.1.1 集成开发环境:Spoon 403.1.2 命令行启动:Kitchen和Pan 423.1.3 作业服务器:Carte 423.1.4 Encr.bat和encr.sh 423.2 安装 433.2.1 Java环境 433.2.2 安装 Kettle 433.3 配置 463.3.1 配置文件和.kettle目录 463.3.2 用于启动Kettle程序的shell脚本 513.3.3 管理 JDBC 驱动 523.4 小结 53第4章 ETL示例解决方案——Sakila544.1 Sakila 544.1.1 sakila示例数据库 554.1.2 租赁业务的星型模型 574.2 预备知识和一些基础的Spoon技巧 604.2.1 安装ETL解决方案 604.2.2 Spoon使用 604.3 ETL示例解决方案 614.3.1 生成静态维度 624.3.2 循环加载 644.4 小结 80第二部分:ETL第5章 ETL子系统825.1 34种子系统介绍 825.1.1 抽取 835.1.2 清洗和更正数据 845.1.3 数据发布 865.1.4 管理ETL环境 895.2 小结 91第6章 数据抽取926.1 Kettle数据抽取概览 926.1.1 文件抽取 936.1.2 数据库抽取 976.1.3 Web数据抽取 986.1.4 基于流的和实时的抽取 996.2 处理ERP和CRM系统 1006.2.1 ERP 挑战 1006.2.2 Kettle ERP插件 1016.2.3 处理SAP数据 1016.2.4 ERP和CDC 问题 1046.3 数据剖析 1056.4 CDC:变更数据捕获 1106.4.1 基于源数据的CDC 1116.4.2 基于触发器的CDC 1136.4.3 基于快照的CDC 1136.4.4 基于日志的CDC 1166.4.5 哪个CDC方案更适合你 1176.5 发布数据 1176.6 小结 118第7章 清洗和校验 1197.1 数据清洗 1207.1.1 数据清洗步骤 1217.1.2 使用参照表 1237.1.3 数据校验 1277.2 错误处理 1307.2.1 处理过程错误 1317.2.2 转换错误 1327.2.3 处理数据(校验)错误 1337.3 审计数据和过程质量 1367.4 数据排重 1377.4.1 去除完全重复的数据 1377.4.2 不完全重复问题 1387.4.3 设计排除重复记录的转换 1397.5 脚本 1427.5.1 公式 1437.5.2 Java脚本 1437.5.3 用户自定义Java表达式 1447.5.4 正则表达式 1457.6 小结 146第8章 处理维度表 1478.1 管理各种键 1488.1.1 管理业务键 1488.1.2 生成代理键 1498.2 加载维度表 1548.2.1 雪花维度表 1548.2.2 星型维度表 1598.3 缓慢变更维度 1618.3.1 缓慢变更维类型 1618.3.2 类型1的缓慢变更维 1618.3.3 类型2的缓慢变更维 1638.3.4 其他类型的缓慢变更维 1678.4 更多维度 1688.4.1 生成维(Generated Dimensions) 1688.4.2 杂项维度(Junk Dimensions) 1698.4.3 递归层次 1708.5 小结 171第9章 加载事实表 1729.1 批量加载 1739.1.1 STDIN和FIFO 1739.1.2 Kettle批量加载 1749.1.3 批量加载一般要考虑的问题 1769.2 维度查询 1769.2.1 维护参照完整性 1769.2.2 代理键管道 1779.2.3 迟到数据 1799.3 处理事实表 1829.3.1 周期快照和累积快照 1829.3.2 面向状态的事实表 1839.3.3 加载周期快照表 1859.3.4 加载累积快照表 1859.3.5 加载面向状态事实表 1869.3.6 加载聚集表 1869.4 小结 187第10章 处理OLAP数据 18810.1 OLAP的价值和挑战 18910.1.1 OLAP 存储类型 19010.1.2 OLAP在系统中的位置 19110.1.3 Kettle OLAP选项 19110.2 Mondrian 19210.3 XML/A服务 19410.4 Palo 19710.4.1 建立Palo 连接 19810.4.2 Palo 架构 19910.4.3 读Palo数据 20010.4.4 写Palo数据 20210.5 小结 204第三部分:管理和部署第11章 ETL开发生命期 20611.1 解决方案设计 20611.1.1 好习惯和坏习惯 20611.1.2 ETL流设计 20911.1.3 可重用性和可维护性 20911.2 敏捷开发 21011.3 测试和调试 21411.3.1 测试活动 21411.3.2 ETL测试 21511.3.3 调试 21811.4 解决方案文档化 22011.4.1 为什么实际情况下文档很少 22011.4.2 Kettle的文档功能 22111.4.3 生成文档 22211.5 小结 223第12章 调度和监控 22412.1 调度 22412.1.1 操作系统级调度 22512.1.2 使用Pentaho 内置的调度程序 22812.2 监控 23212.2.1 日志 23212.2.2 邮件通知 23412.3 小结 237第13章 版本和移植 23813.1 版本控制系统 23813.1.1 基于文件的版本控制系统 239 13.1.2 内容管理系统 24013.2 Kettle 元数据 24013.2.1 Kettle XML 元数据 24113.2.2 Kettle 资源库元数据 24213.3 管理资源库 24413.3.1 导出和导入资源库 24413.3.2 资源库升级 24513.4 版本移植系统 24513.4.1 管理XML文件 24513.4.2 管理资源库 24613.4.3 解决方案参数化 24613.5 小结 248第14章 血统和审计 24914.1 批量血统抽取 25014.2 血统 25114.2.1 血统信息 25114.2.2 影响分析信息 25214.3 日志和操作元数据 25414.3.1 日志基础 25414.3.2 日志架构 25514.3.3 日志表 25714.4 小结 262第四部分:性能和扩展性第15章 性能调优 26415.1 转换性能:找到最弱连接 26415.1.1 通过简化找到性能瓶颈 26515.1.2 通过度量值找到性能瓶颈 26615.1.3 复制数据行 26715.2 提高转换性能 26915.2.1 提高读文本文件的性能 26915.2.2 写文本文件时使用延迟转换 27115.2.3 提高数据库性能 27215.2.4 数据排序 27515.2.5 减少CPU消耗 27615.3 提高作业性能 28015.3.1 作业里的循环 28015.3.2 数据库连接池 28115.4 小结 281第16章 并行、集群和分区 28316.1 多线程 28316.1.1 数据行分发 28416.1.2 记录行合并 28516.1.3 记录行再分发 28516.1.4 数据流水线 28616.1.5 多线程的问题 28716.1.6 作业中的并行执行 28916.2 使用Carte子服务器 28916.2.1 配置文件 28916.2.2 定义子服务器 29016.2.3 远程执行 29116.2.4 监视子服务器 29116.2.5 Carte安全 29116.2.6 服务 29216.3 集群转换 29316.3.1 定义一个集群模式 29316.3.2 设计集群转换 29416.3.3 执行和监控 29516.3.4 元数据转换 29616.4 分区 29816.4.1 定义分区模式 29916.4.2 分区的目标 30016.4.3 实现分区 30016.4.4 内部变量 30116.4.5 数据库分区 30116.4.6 集群转换中的分区 30216.5 小结 302第17章 云计算中的动态集群 30317.1 动态集群 30317.1.1 建立动态集群 30417.1.2 使用动态集群 30617.2 云计算 30617.3 EC2 30717.3.1 如何使用EC2 30717.3.2 成本 30717.3.3 自定义AMI 30717.3.4 打包新AMI 31017.3.5 中止AMI 31017.3.6 运行主节点 31017.3.7 运行子节点 31117.3.8 使用EC2 集群 31217.3.9 监控 31317.3.10 轻量原则和持久性 31417.4 小结 314第18章 实时数据整合 31518.1 实时ETL介绍 31518.1.1 实时处理面临的挑战 31618.1.2 需求 31618.2 基于流的转换 31718.2.1 一个基于流的转换实例 31818.2.2 调试 32118.2.3 第三方软件和实时整合 32118.2.4 Java 消息服务 32218.3 小结 324第五部分:高级主题第19章 Data Vault管理 32619.1 Data Vault 模型介绍 32719.2 你是否需要Data Vault 32719.3 Data Vault的组成部分 32819.3.1 中心表 32819.3.2 链接表 32919.3.3 附属表 32919.3.4 Data Vault 特点 33119.3.5 构建 Data Vault 模型 33119.4 将Sakila的例子转换成Data Vault 模型 33119.4.1 Sakila中心表 33119.4.2 Sakila 链接表 33219.4.3 Sakila 附属表 33319.5 加载Data Vault 模型:简单的ETL解决方案 33419.5.1 安装Sakila Data Vault 33519.5.2 安装ETL方案 33519.5.3 创建一个数据库账户 33519.5.4 ETL解决方案的例子 33519.5.5 加载 Data Vault 表 34119.6 从Data Vault 模型更新数据集市 34119.6.1 ETL解决方案例子 34219.6.2 dim_actor 转换 34219.6.3 dim_customer 转换 34319.6.4 dim_film 转换 34619.6.5 dim_film_actor_bridge 转换 34719.6.6 fact_rental 转换 34719.6.7 加载星型模型里的所有表 34919.7 小结 349第20章 处理复杂数据格式 35020.1 非关系型和非表格型的数据格式 35020.2 非结构化的表格型数据 35120.2.1 处理多值字段 35120.2.2 处理重复的字段组 35220.3 半结构化和非结构化数据 35320.4 键/值对 35820.5 小结 362第21章 Web Services 36321.1 Web 页面和Web Services 36321.2 数据格式 36521.2.1 XML 36521.2.2 HTML 36621.2.3 JavaScript Object Notation 36721.3 XML例子 36921.3.1 XML例子文件 36921.3.2 从XML中抽取数据 37121.3.3 生成XML文档 37821.4 SOAP例子 38421.4.1 使用“Web服务查询”步骤 38521.4.2 直接访问 SOAP服务 38621.5 JSON例子 38921.5.1 Freebase项目 38921.5.2 使用Kettle 抽取Freebase数据 39221.6 RSS 39621.6.1 RSS结构 39621.6.2 Kettle对RSS的支持 39821.7 小结 403第22章 Kettle集成 40422.1 Kettle API 40422.1.1 LGPL协议 40422.1.2 Kettle Java API 40522.2 执行存在的转换和作业 40622.2.1 执行一个转换 40622.2.2 执行一个作业 40722.3 应用程序中嵌入Kettle 40822.3.1 Pentaho 报表 40822.3.2 把数据放到转换里 41022.3.3 动态转换 41322.3.4 动态模板 41622.3.5 动态作业 41622.3.6 在Kettle里执行动态ETL 41922.3.7 Result 41922.3.8 替换元数据 42022.4 OEM版本和二次发布版本 42122.4.1 创建PDI的OEM版本 42122.4.2 Kettle的二次发布(Forking) 42222.5 小结 423第23章 扩展Kettle 42423.1 插件架构 42423.1.1 插件类型 42523.1.2 架构 42523.1.3 前提 42523.2 转换步骤插件 42823.2.1 StepMetaInterface 42823.2.2 StepDataInterface 43423.2.3 StepDialogInterface 43423.2.4 StepInterface 44023.3 用户自定义 Java 类步骤 44423.3.1 传递元数据 44423.3.2 访问输入和字段 44523.3.3 代码片段 44523.3.4 例子 44523.4 作业项插件 44623.4.1 JobEntryInterface 44623.4.2 JobEntryDialogInterface 44823.5 分区插件 44823.6 资源库插件 45023.7 数据库类型插件 45023.8 小结 451附录A Kettle生态群 452附录B Kettle 企业版特性 456附录C 内置的变量和属性参考 457

商品参数
基本信息
品牌/出版社 电子工业出版社
ISBN 9787121224454
条码 9787121224454
编者 MattCasters
译者 初建军,曹雪梅
出版年月 2014.03
开本 16开
装帧
页数 484
字数 832
版次 1
印次
纸张
商品评论

暂无商品评论信息 [发表商品评论]

商品咨询

暂无商品咨询信息 [发表商品咨询]