当前位置: 首页 > ops >正文

dataX(入门,mysql到doris)

dataX是一款数据同步工具,非常简单,但是里面要暴露账号和密码比较危险(建议内网执行)。

比如mysql到doris

datax_doris/bin/datax.py xx.json

xx.json内容如下

{
    "job": {
        "setting": {
            "speed": {
                "channel": 4
            },
            "errorLimit": {
                "record": 0,
                "percentage": 0
            }
        },
        "content": [
            {
                "reader": {
                    "name": "mysqlreader",
                    "parameter": {
                        "username": "xxx",
                        "password": "xxxx",
                        "connection": [
                            {   "querySql":["

SELECT
id,
code,
name
FROM
    database.tablename


" ],
                                "jdbcUrl": [
     "jdbc:mysql://xxxx:3306"
                                ]
                            }
                        ]
                    }
                },
                "writer": {
                    "name": "doriswriter",
                    "parameter": {
"feLoadUrl": ["xxx:8030"],
"beLoadUrl": ["xxx:8043"],
"jdbcUrl": "jdbc:mysql://xxx:9030/",
                        "database": "db_ods",
                        "table": "xxxx",
                    "username": "root",
                        "password": "xxxxx",
                        "column": [
                       

"id",
"code",
"name"
],
                      "maxBatchRows" : 500000,
                      "maxBatchByteSize" : 59715200
                    }
                }
            }
        ]
    }
}
 

http://www.xdnf.cn/news/10822.html

相关文章:

  • 软件评测师 案例真题笔记
  • RDMA简介1之RDMA开发必要性
  • Java 中执行命令并使用指定配置文件的最佳实践
  • [蓝桥杯]生物芯片
  • 今日主题二分查找(寻找峰值 力扣162)
  • 初识小智AI项目
  • 酵母杂交那些事儿(一)
  • [Python] struct.unpack() 用法详解
  • 在 Linux 上安装 Nmap 工具
  • CSRF攻击与防御
  • 现代密码学介绍
  • 前端开发处理‘流式数据’与‘非流式数据’,在接收完整与非完整性数据时应该如何渲染和使用
  • 【产品研究】安克创新公司产品研究
  • 推荐算法八股
  • STM32外部中断(EXTI)以及旋转编码器的简介
  • 【深度学习-Day 22】框架入门:告别数据瓶颈 - 掌握PyTorch Dataset、DataLoader与TensorFlow tf.data实战
  • MongoTemplate常用api学习
  • [手写系列]从0到1开发并上线Edge浏览器插件
  • AJ-Report
  • 深拷贝与浅拷贝的区别?如何手写实现一个深拷贝?
  • 英语写作中“不少于(小于)”no less than替代no fewer than的用法
  • 【文献精读】Explaining grokking through circuit efficiency
  • virtualbox安装扩展工具以支持共享文件夹
  • Foundation Models for Generalist Geospatial Artificial Intelligence论文阅读
  • RTOS:初始化新任务(含源码复杂点解读)
  • MyBatis相关面试题
  • dvwa7——SQL Injection
  • CentOS 7镜像源替换
  • 豆包的图片生成功能基于其底层AI模型,结合了多模态大模型和图像生成技术,其核心逻辑主要包括以下几个部分:
  • mac下通过anaconda安装Python