doris 15 详细docker 编译 以及drois-flink的编译

1. 编译对应的版本

https://doris.apache.org/master/zh-CN/installing/compilation.html
这里选择 docker15 编译

2.docker 拉去镜像

[root@basenode ~]# docker pull apache/incubator-doris:build-env-for-0.15.0
build-env-for-0.15.0: Pulling from apache/incubator-doris
61ccbfd87592: Pull complete 
Digest: sha256:adadb9d5bd96182e292d6d770aa46ef5e9c8533136c97b08feba670b79c7240c
Status: Downloaded newer image for apache/incubator-doris:build-env-for-0.15.0
docker.io/apache/incubator-doris:build-env-for-0.15.0
[root@basenode ~]# 

3. 下载源码

wget https://dlcdn.apache.org/incubator/doris/0.15.0-incubating/apache-doris-0.15.0-incubating-src.tar.gz

[root@basenode doris]# wget https://dlcdn.apache.org/incubator/doris/0.15.0-incubating/apache-doris-0.15.0-incubating-src.tar.gz
--2021-12-31 23:15:05--  https://dlcdn.apache.org/incubator/doris/0.15.0-incubating/apache-doris-0.15.0-incubating-src.tar.gz
正在解析主机 dlcdn.apache.org (dlcdn.apache.org)... 151.101.2.132, 2a04:4e42::644
正在连接 dlcdn.apache.org (dlcdn.apache.org)|151.101.2.132|:443... 已连接。
已发出 HTTP 请求,正在等待回应... 200 OK
长度:15927142 (15M) [application/x-gzip]
正在保存至: “apache-doris-0.15.0-incubating-src.tar.gz”

100%[=================================================================================================================================>] 15,927,142  27.7KB/s 用时 11m 6s 

2021-12-31 23:26:16 (23.4 KB/s) - 已保存 “apache-doris-0.15.0-incubating-src.tar.gz” [15927142/15927142])

jdk 切换

切换到 JDK 8:
$ alternatives --set java java-1.8.0-openjdk.x86_64
$ alternatives --set javac java-1.8.0-openjdk.x86_64
$ export JAVA_HOME=/usr/lib/jvm/java-1.8.0

切换到 JDK 11:

$ alternatives --set java java-11-openjdk.x86_64
$ alternatives --set javac java-11-openjdk.x86_64
$ export JAVA_HOME=/usr/lib/jvm/java-11


4.启动容器

需要做两个目录映射,一个是maven的repository目录,一个是doris源码目录,避免容器挂了之后之前下载或编译的内容丢失。

[root@basenode software]# docker ps
CONTAINER ID   IMAGE                                         COMMAND                  CREATED       STATUS       PORTS                                       NAMES
3c93ac03eb0d   apache/incubator-doris:build-env-for-0.15.0   "/bin/bash"              2 hours ago   Up 2 hours                                               kind_bassi
d9bae370d24e   registry.cn-hangzhou.aliyuncs.com/anoy/yapi   "node server/app.js"     8 weeks ago   Up 3 hours   0.0.0.0:3001->3000/tcp, :::3001->3000/tcp   yapi
4e24002bbc34   mongo                                         "docker-entrypoint.s…"   8 weeks ago   Up 3 hours   27017/tcp                                   yapimongo
[root@basenode software]# 


# 启动容器
docker run -it -v /root/.m2:/root/.m2 -v /opt/software/doris/apache-doris-0.15.0-incubating-src:/opt/software/doris/apache-doris-0.15.0-incubating-src apache/incubator-doris:build-env-for-0.15.0

5.进入docker 容器目录,进行编译

cd  /opt/software/doris/apache-doris-0.15.0-incubating-src
sh build.sh

[INFO] Reactor Summary:
[INFO] 
[INFO] doris-fe-common 1.0.0 .............................. SUCCESS [03:35 min]
[INFO] spark-dpp 1.0.0 .................................... SUCCESS [10:38 min]
[INFO] fe-core 3.4.0 ...................................... SUCCESS [04:37 min]
[INFO] ------------------------------------------------------------------------
[INFO] BUILD SUCCESS
[INFO] ------------------------------------------------------------------------
[INFO] Total time:  19:01 min
[INFO] Finished at: 2021-12-31T16:29:02Z
[INFO] ------------------------------------------------------------------------
***************************************
Successfully build Doris
***************************************
[root@3c93ac03eb0d apache-doris-0.15.0-incubating-src]# 

以上的是doris的整体编译 需要注意的是drois 编译需要的jdk 是 jdk11

6.更改flink 版本 修改成 13.5


    <properties>
        <scala.version>2.12</scala.version>
        <flink.version>1.13.5</flink.version>
        <libthrift.version>0.13.0</libthrift.version>
        <arrow.version>5.0.0</arrow.version>
        <maven-compiler-plugin.version>3.8.1</maven-compiler-plugin.version>
        <maven-javadoc-plugin.version>3.3.0</maven-javadoc-plugin.version>
        <maven-source-plugin.version>3.2.1</maven-source-plugin.version>
        <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
        <doris.home>${basedir}/../../</doris.home>

7.要将jdk 切回到1.8(docker容器里面操作)

alternatives --set java java-1.8.0-openjdk.x86_64
alternatives --set javac java-1.8.0-openjdk.x86_64
export JAVA_HOME=/usr/lib/jvm/java-1.8.0

8.编译 :doris-flink

执行命令sh build.sh 或者mvn clean package (docker容器里面操作)

[INFO] Building jar: /opt/software/doris/apache-doris-0.15.0-incubating-src/extension/flink-doris-connector/target/doris-flink-1.0-SNAPSHOT-javadoc.jar
[INFO] ------------------------------------------------------------------------
[INFO] BUILD SUCCESS
[INFO] ------------------------------------------------------------------------
[INFO] Total time:  01:11 min
[INFO] Finished at: 2021-12-31T17:27:26Z
[INFO] ------------------------------------------------------------------------
*****************************************
Successfully build Flink-Doris-Connector
*****************************************
[root@3c93ac03eb0d flink-doris-connector]# 

8.目录

映射的目录 的文件夹doris-flink-1.0-SNAPSHOT.jar ((docker容器里面或者外面对应的目录)

[root@basenode target]# ll
总用量 9328
drwxr-xr-x 3 root root    4096 11 01:27 apidocs
drwxr-xr-x 5 root root      70 11 01:26 classes
-rw-r--r-- 1 root root       1 11 01:26 classes.-522306124.timestamp
-rw-r--r-- 1 root root 7802399 11 01:26 doris-flink-1.0-SNAPSHOT.jar
-rw-r--r-- 1 root root  967626 11 01:27 doris-flink-1.0-SNAPSHOT-javadoc.jar
-rw-r--r-- 1 root root  186312 11 01:26 doris-flink-1.0-SNAPSHOT-sources.jar
drwxr-xr-x 4 root root      39 11 01:26 generated-sources
drwxr-xr-x 3 root root      30 11 01:26 generated-test-sources
-rw-r--r-- 1 root root   51102 11 01:26 jacoco.exec
drwxr-xr-x 2 root root      71 11 01:27 javadoc-bundle-options
drwxr-xr-x 2 root root      28 11 01:26 maven-archiver
-rw-r--r-- 1 root root   18707 11 01:27 maven-javadoc-plugin-stale-data.txt
drwxr-xr-x 3 root root      35 11 01:26 maven-status
-rw-r--r-- 1 root root  502705 11 01:26 original-doris-flink-1.0-SNAPSHOT.jar
drwxr-xr-x 3 root root      20 11 01:26 site
drwxr-xr-x 2 root root     133 11 01:26 surefire-reports
drwxr-xr-x 3 root root      17 11 01:26 test-classes
-rw-r--r-- 1 root root       1 11 01:26 test-classes.1885398542.timestamp
[root@basenode target]# pwd
/opt/software/doris/apache-doris-0.15.0-incubating-src/extension/flink-doris-connector/target
[root@basenode target]# 

下载地址:
https://download.csdn.net/download/wudonglianga/72644361

  • 3
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
上层应用业务对实时数据的需求,主要包含两部分内容:1、 整体数据的实时分析。2、 AB实验效果的实时监控。这几部分数据需求,都需要进行的下钻分析支持,我们希望能够建立统一的实时OLAP数据仓库,并提供一套安全、可靠的、灵活的实时数据服务。目前每日新增的曝光日志达到几亿条记录,再细拆到AB实验更细维度时,数据量则多达上百亿记录,多维数据组合下的聚合查询要求秒级响应时间,这样的数据量也给团队带来了不小的挑战。OLAP层的技术选型,需要满足以下几点:1:数据延迟在分钟级,查询响应时间在秒级2:标准SQL交互引擎,降低使用成本3:支持join操作,方便维度增加属性信息4:流量数据可以近似去重,但订单行要精准去重5:高吞吐,每分钟数据量在千W级记录,每天数百亿条新增记录6:前端业务较多,查询并发度不能太低通过对比开源的几款实时OLAP引擎,可以发现Doris和ClickHouse能够满足上面的需求,但是ClickHouse的并发度太低是个潜在的风险,而且ClickHouse的数据导入没有事务支持,无法实现exactly once语义,对标准SQL的支持也是有限的。所以针对以上需求Doris完全能解决我们的问题,DorisDB是一个性能非常高的分布式、面向交互式查询的分布式数据库,非常的强大,随着互联网发展,数据量会越来越大,实时查询需求也会要求越来越高,DorisDB人才需求也会越来越大,越早掌握DorisDB,以后就会有更大的机遇。本课程基于真实热门的互联网电商业务场景为案例讲解,具体分析指标包含:AB版本分析,下砖分析,营销分析,订单分析,终端分析等,能承载海量数据的实时分析,数据分析涵盖全端(PC、移动、小程序)应用。整个课程,会带大家实践一个完整系统,大家可以根据自己的公司业务修改,既可以用到项目中去,价值是非常高的。本课程包含的技术:开发工具为:IDEA、WebStormFlink1.9.0DorisDBHadoop2.7.5Hbase2.2.6Kafka2.1.0Hive2.2.0HDFS、MapReduceFlume、ZookeeperBinlog、Canal、MySQLSpringBoot2.0.8.RELEASESpringCloud Finchley.SR2Vue.js、Nodejs、Highcharts、ElementUILinux Shell编程等课程亮点:1.与企业接轨、真实工业界产品2.DorisDB高性能分布式数据库3.大数据热门技术Flink4.支持ABtest版本实时监控分析5.支持下砖分析6.数据分析涵盖全端(PC、移动、小程序)应用7.主流微服务后端系统8.天级别与小时级别多时间方位分析9.数据库实时同步解决方案10.涵盖主流前端技术VUE+jQuery+Ajax+NodeJS+ElementUI11.集成SpringCloud实现统一整合方案12.互联网大数据企业热门技术栈13.支持海量数据的实时分析14.支持全端实时数据分析15.全程代码实操,提供全部代码和资料16.提供答疑和提供企业技术方案咨询企业一线架构师讲授,代码在老师的指导下企业可以复用,提供企业解决方案。  版权归作者所有,盗版将进行法律维权。 
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值