datax新增clickhouseRead和clickhouseWrite插件

song 07bebb9326 datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
adbpgwriter 469a59fe19 Update pom.xml 5 年 前
adswriter 92328083f3 update adswriter.md 5 年 前
cassandrareader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
cassandrawriter 2f8cc74b91 cassandra plugins 5 年 前
clickhousereader e7db851d8f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
clickhousewriter e7db851d8f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
common 7ec3fb68e5 v0.0 6 年 前
core 7ec3fb68e5 v0.0 6 年 前
drdsreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
drdswriter 7ec3fb68e5 v0.0 6 年 前
elasticsearchwriter 7ec3fb68e5 v0.0 6 年 前
ftpreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
ftpwriter d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
gdbwriter 1dbd39e053 add gdbwriter plugin 5 年 前
hbase094xreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
hbase094xwriter 7ec3fb68e5 v0.0 6 年 前
hbase11xreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
hbase11xsqlreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
hbase11xsqlwriter ca32cbd479 hbase11xsqlwriter支持phoenix thinclient 5 年 前
hbase11xwriter ff70dfb2d5 hbase11xreader和hbase11xwritter增加阿里云hbase增强版connector依赖,支持hbase增强版的导入导出 5 年 前
hbase20xsqlreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
hbase20xsqlwriter 4c62feeb7e upgrade phoenix thin client version. 5 年 前
hdfsreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
hdfswriter 7ec3fb68e5 v0.0 6 年 前
images 88736cbd7f dingding 5 年 前
mongodbreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
mongodbwriter 7ec3fb68e5 v0.0 6 年 前
mysqlreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
mysqlwriter 7ec3fb68e5 v0.0 6 年 前
ocswriter 7ec3fb68e5 v0.0 6 年 前
odpsreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
odpswriter 7ec3fb68e5 v0.0 6 年 前
opentsdbreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
oraclereader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
oraclewriter 7ec3fb68e5 v0.0 6 年 前
ossreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
osswriter 7ec3fb68e5 v0.0 6 年 前
otsreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
otsstreamreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
otswriter 7ec3fb68e5 v0.0 6 年 前
plugin-rdbms-util d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
plugin-unstructured-storage-util 7ec3fb68e5 v0.0 6 年 前
postgresqlreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
postgresqlwriter 7ec3fb68e5 v0.0 6 年 前
rdbmsreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
rdbmswriter d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
rpm 7ec3fb68e5 v0.0 6 年 前
sqlserverreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
sqlserverwriter 7ec3fb68e5 v0.0 6 年 前
streamreader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
streamwriter 7ec3fb68e5 v0.0 6 年 前
transformer 7ec3fb68e5 v0.0 6 年 前
tsdbwriter 4d70b5ab86 Add OpenTSDB reader and TSDB writer 5 年 前
txtfilereader d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
txtfilewriter 7ec3fb68e5 v0.0 6 年 前
.gitignore 07bebb9326 datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
README.md 2f8cc74b91 cassandra plugins 5 年 前
datax-opensource-dingding.png 7ec3fb68e5 v0.0 6 年 前
dataxPluginDev.md 1e5ef8b680 fix dataxPluginDev.md 6 年 前
introduction.md c6c09310db Update README.md 6 年 前
license.txt 7ec3fb68e5 v0.0 6 年 前
package.xml d4c4719a9f datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
pom.xml 07bebb9326 datax-all clickhouseReader clickhouseWriter二次开发 5 年 前
userGuid.md e0d6d6618b Merge branch 'master' of https://github.com/alibaba/DataX 6 年 前

README.md

Datax-logo

DataX

DataX 是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括 MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS)、DRDS 等各种异构数据源之间高效的数据同步功能。

Features

DataX本身作为数据同步框架,将不同数据源的同步抽象为从源头数据源读取数据的Reader插件,以及向目标端写入数据的Writer插件,理论上DataX框架可以支持任意数据源类型的数据同步工作。同时DataX插件体系作为一套生态系统, 每接入一套新数据源该新加入的数据源即可实现和现有的数据源互通。

DataX详细介绍

请参考:DataX-Introduction

Quick Start

Download DataX下载地址
请点击:Quick Start

Support Data Channels

DataX目前已经有了比较全面的插件体系,主流的RDBMS数据库、NOSQL、大数据计算系统都已经接入,目前支持数据如下图,详情请点击:DataX数据源参考指南

类型 数据源 Reader(读) Writer(写) 文档
RDBMS 关系型数据库 MySQL
            Oracle         √         √    
SQLServer
PostgreSQL
DRDS
通用RDBMS(支持所有关系型数据库)
阿里云数仓数据存储 ODPS
ADS
OSS
OCS
NoSQL数据存储 OTS
Hbase0.94
Hbase1.1
Phoenix4.x
Phoenix5.x
MongoDB
Hive
Cassandra
无结构化数据存储 TxtFile
FTP
HDFS
Elasticsearch
时间序列数据库 OpenTSDB
TSDB

我要开发新的插件

请点击:DataX插件开发宝典

项目成员

核心Contributions: 光戈、一斅、祁然、云时

感谢天烬、巴真、静行对DataX做出的贡献。

License

This software is free to use under the Apache License Apache license.

请及时提出issue给我们。请前往:DataxIssue

开源版DataX企业用户

Datax-logo

``` 长期招聘 联系邮箱:datax@alibabacloud.com 【JAVA开发职位】 职位名称:JAVA资深开发工程师/专家/高级专家 工作年限 : 2年以上 学历要求 : 本科(如果能力靠谱,这些都不是条件) 期望层级 : P6/P7/P8

岗位描述:

1. 负责阿里云大数据平台(数加)的开发设计。 
2. 负责面向政企客户的大数据相关产品开发;
3. 利用大规模机器学习算法挖掘数据之间的联系,探索数据挖掘技术在实际场景中的产品应用 ;
4. 一站式大数据开发平台
5. 大数据任务调度引擎
6. 任务执行引擎
7. 任务监控告警
8. 海量异构数据同步

岗位要求:

1. 拥有3年以上JAVA Web开发经验;
2. 熟悉Java的基础技术体系。包括JVM、类装载、线程、并发、IO资源管理、网络;
3. 熟练使用常用Java技术框架、对新技术框架有敏锐感知能力;深刻理解面向对象、设计原则、封装抽象;
4. 熟悉HTML/HTML5和JavaScript;熟悉SQL语言;
5. 执行力强,具有优秀的团队合作精神、敬业精神;
6. 深刻理解设计模式及应用场景者加分;
7. 具有较强的问题分析和处理能力、比较强的动手能力,对技术有强烈追求者优先考虑;
8. 对高并发、高稳定可用性、高性能、大数据处理有过实际项目及产品经验者优先考虑;
9. 有大数据产品、云产品、中间件技术解决方案者优先考虑。

```` 钉钉用户群:23169395