Windows下安装DataX-web源码并使用

最新推荐文章于 2024-03-26 18:19:31 发布

Hélodie Jaqueline

最新推荐文章于 2024-03-26 18:19:31 发布

阅读量1.6k

点赞数 27

文章标签：大数据服务器前端 java ide

本文链接：https://blog.csdn.net/weixin_44314933/article/details/136344432

版权

环境要求：
1.DataX成功安装并且能运行

一.下载DataX-web

下载地址：https://github.com/WeiYe-Jing/datax-web/blob/master/userGuid.md

我这是下载的源码，用idea启动使用

下载好后解压到本地，用idea打开，项目结构如下

二.创建DataX-web所需的库和表

1.先创建个数据库，库名为datax_web。你也可以叫其他名字

2.在datax_web数据库中执行datax_web.sql文件。

datax_web.sql文件位置在刚才下载的datax-web项目里

三.修改配置

1.修改datax_admin下resources/application.yml文件

1.1修改数据源配置，目前仅支持mysql

 #数据源
  datasource:
    #    username: root
    #password: root
    #url: jdbc:mysql://localhost:3306/datax_web?serverTimezone=Asia/Shanghai&useLegacyDatetimeCode=false&useSSL=false&nullNamePatternMatchesAll=true&useUnicode=true&characterEncoding=UTF-8
    
    #数据库密码
    password: ${DB_PASSWORD:root123}
    #数据库账号
    username: ${DB_USERNAME:root}
    #数据库连接地址
    url: jdbc:mysql://${DB_HOST:127.0.0.1}:${DB_PORT:3306}/${DB_DATABASE:datax_web}?serverTimezone=Asia/Shanghai&useLegacyDatetimeCode=false&useSSL=false&nullNamePatternMatchesAll=true&useUnicode=true&characterEncoding=UTF-8
    driver-class-name: com.mysql.jdbc.Driver

1.2修改日志路径path

logging:
  #level:
    #com.wugui.datax.admin.mapper: info
    #path: ./data/applogs/admin
  level:
    com.wugui.datax.admin.mapper: error
    path: ./data/applogs/admin

1.3修改邮件发送配置(不需要最后也把他写上，随便写个邮件，密码就行，不然启动报错)

# datax-web email
  mail:
    host: smtp.qq.com
    port: 25
    #username: xxx@qq.com
    #password: xxx
    username: 123456@qq.com
    password: 123456
    properties:
      mail:
        smtp:
          auth: true
          starttls:
            enable: true
            required: true
        socketFactory:
          class: javax.net.ssl.SSLSocketFactory

2.修改datax_executor下resources/application.yml文件

2.1修改日志路径path

# log config
logging:
  config: classpath:logback.xml
  path: ./data/applogs/executor/jobhandler

2.2修改datax.job配置

datax:
  job:
    admin:
      ### datax-web admin address
      addresses: http://127.0.0.1:8080
    executor:
      appname: datax-executor
      ip:
      port: 9999
      ### job log path
      logpath: ./data/applogs/executor/jobhandler
      ### job log retention days
      logretentiondays: 30
  executor:
    jsonpath: /Users/mac/data/applogs

  pypath: /Users/mac/tools/datax/bin/datax.py

admin.addresses datax_admin部署地址，如调度中心集群部署存在多个地址则用逗号分隔，执行器将会使用该地址进行"执行器心跳注册"和"任务结果回调"；
executor.appname 执行器AppName，每个执行器机器集群的唯一标示,执行器心跳注册分组依据；
executor.ip 默认为空表示自动获取IP，多网卡时可手动设置指定IP，该IP不会绑定Host仅作为通讯实用；地址信息用于 "执行器注册" 和 "调度中心请求并触发任务"；
executor.port 执行器Server端口号，默认端口为9999，单机部署多个执行器时，注意要配置不同执行器端口；
executor.logpath 执行器运行日志文件存储磁盘路径,需要对该路径拥有读写权限;
executor.logretentiondays 执行器日志文件保存天数,过期日志自动清理, 限制值大于等于3时生效; 否则, 如-1, 关闭自动清理功能；
executor.jsonpath datax json临时文件保存路径
pypath DataX启动脚本地址，例如：xxx/datax/bin/datax.py 如果系统配置DataX环境变量（DATAX_HOME），logpath、jsonpath、pypath可不配，log文件和临时json存放在环境变量路径下。