1. 首页
  2. 编程语言
  3. 其他
  4. 异构数据源数据交换工具 DataX.zip

异构数据源数据交换工具 DataX.zip

上传者: 2019-09-23 16:01:39上传 ZIP文件 22.18MB 热度 45次
一.DataX3.0概览  DataX是一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。  设计理念  为了解决异构数据源同步问题,DataX将复杂的网状的同步链路变成了星型数据链路,DataX作为中间传输载体负责连接各种数据源。当需要接入一个新的数据源的时候,只需要将此数据源对接到DataX,便能跟已有的数据源做到无缝数据同步。  当前使用现状  DataX在阿里巴巴集团内被广泛使用,承担了所有大数据的离线同步业务,并已持续稳定运行了6年之久。目前每天完成同步8w多道作业,每日传输数据量超过300TB。
用户评论