ETL与EAI 之间的抉择(AMT 姚磊)

2004-2-17 10:00:09【作者】 畅享网 【进入论坛】
uni.yao@AMTeam.org进入姚磊专栏

姚磊

姚磊先生,AMT高级顾问,同济大学管理学硕士,对知识管理、项目管理、IT规划和系统分析等领域有很深的理论研究及丰富的咨询实践经验。提供咨询建议,服务过的企业项目包括:上海电信研究院知识管理项目、某保健品公司直销渠道创新项目、佛山华国知识管理项目、昆明钢铁甲方咨询项目、三角轮胎甲方咨询项目、江苏省电力科学研究院知识管理项目,作为研发顾问,对投资项目管理、商业智能进行了深入研究,还参与了东龙集团、华立集团等项目的售前支持。 
本文关键字 理论探讨 EAI
声明:
1.畅享网专栏专家文章仅代表作者个人观点,并不代表畅享网赞同其观点和对其真实性负责,本网不承担此类稿件侵权行为的连带责任。
2.在本网的文章页面上进行跟帖或发表言论者,均为网友言论,不代表畅享网观点。
广告

下一代ETL拥有数据集成的优势

无论是批量处理还是实时处理,下一代 ETL 对于数据集成都是正确的选择。两个系统之间数据的同步要比简单的将数据从 A 处移到 B 处要复杂的多,有协调、交叉匹配、去冗余和清除无用数据等操作。这些大量数据操作的效果主要依靠于关系型数据库的效率和测量性,以及数据缓存空间的容量和速度等。例如,企业的数据仓库项目往往需要将大量的数据在短时间内移入到制定位置,这其中效率就扮演了重要的角色。如果越多的数据需要移动,越复杂的任务需要操作,那么也就越证明了 ETL 将是正确的选择。

ETL 工具是诞生于这个关系型数据库的时代,所以面向 SQL 的数据转换工作也是它所擅长的。这些工具可以从多个相关的表种提取数据,并且分析理解这些表格之间的关系,并可以通过结合、合并或者连接等操作将其他数据源中的数据添加进来。这操作可能包括简单的连接两个表格,也可能是包含了复杂的多系统中多种表格的连接。下一代的 ETL 工具能够自动产生 SQL 代码,并且进行一定程度的优化,可以免去大量的手工编制代码的工作。

EAI在流程集成方面的优势

EAI 工具是适用于流程集成的,适用于在各个阶段上传输和跟踪文档。 EAI 能够处理企业级的业务工作流以及将在这些流程中相关的应用系统进行集成。 EAI 中间件则扮演了工作流引擎的角色,可以几乎达到实时的系统集成,能够将少量的数据通过消息队列传输。 EAI 工具能提供更完备的工作流功能,提供更成熟的开发环境,使得设计者、开发者和管理者能直观的管理更加复杂的商业流程。
像 ETL 工具一样, EAI 工具也能够进行数据转换,事实上,主流的 EAI 工具已经拥有了数据转换包。然而 EAI 工具所转换的数据对象与 ETL 工具所操作的对象是不一样的。 EAI 工具是为了操作个别的事务而产生的,因此典型的 EAI 转换的数据一般都是有规则的,或者是用于处理结构单一且确定的数据,往往是单行的数据,而不能用来处理那些集合形式的数据。

EAI 工具在传输大量消息或者事务方面能够有比 ETL 工具更好的效果,特别是将数据进行一对多传输的时候。近十年 EAI 已经致力发展高效可升级的一对多、多对多实时事务消息发布和传输功能。 EAI 工具已经具有每小时百万级的事务处理能力。能够在多个服务器上将工作流分解,使多个环节同步处理。即使出现一台或少数几台服务器当机的情况,也能够通过分布式处理来保证工作流的正常运行。

结论

ETL 工具适合数据集成, EAI 工具则适用于流程操作。

下一代 ETL 工具更加适用于解决两个系统间数据的批量或者实时同步工作,特别是当大量巨大的数据在两个系统间提取、转换和存储时, ETL 的优势更加明显。 EAI 则适用于工作流和商业流程管理的需求,特别是擅长处理大量小事务。

对于交互式流程,如果它没有扩展工作流的需求,没有复杂数据的转换的需求,或者需要批量实时数据的合并处理,则 ETL 工具将是比较好的选择。

而现在许多企业 EAI 和 ETL 两种技术都采用,因为哪个技术都不能满足企业所有的需求。

企业应用集成的工具选择

——ETL、EAI比较

三类应用集成

详述:EAI概况

详述:ETL现状与发展

MOM :EAI 和下一代ETL基础

ETL与EAI 之间的抉择

摩根斯坦利 2002 年第一季度对 CIO 的调查表明, CIO 现在最关心的事情是企业中应用系统集成的问题。

集成需要系统提供有关员工、供应商和客户的数据,并且要求这些数据是准确、一致和完整的。

EAI (enterprise application integration)

适合实时的数据交互

ETL(extraction, transformation and loading)

适合批量数据的移动

如果您希望与本文章的作者或其所在机构,进一步交流,请联系:畅享网 姜小姐
jill.jiang@amt.com.cn | 021-51096826-112 | 在线联系
SOA之技术流SOA技术摘要

面向服务的体系结构(service-oriented architecture,SOA)是一个组件模型,它将应用程序的不同功能单元(称为服务)通过这些服务之间定……

廖斌谈SOA[原创]本体Ontology 与语义web..

先看看什么是语义web,网上很多,我摘录一些:Berners-Lee 于2000-12-18 在XML2000 的会议上正式提出了语义Web。语义Web 的目标……