doris(一)单节点部署

1、背景

最近遇到一个doris写入的功能问题,但是手上没有doris环境,所以想临时搭建一个简单的单节点doris环境使用。一开始还担心虚拟机的配置不够,经过实际安装部署后发现单节点的资源需求并不高,故在此记录下该文章,用于分享给大家以及后续自己的复用。

2、环境准备

1)jdk8:

首先我的虚拟机是安装了jdk8的,这块安装过程就不进行展示了,这个安装很简单,这里我展示下我的jdk版本:

 2)虚拟机的内存信息

安装前:

 安装后:

 可以看到需要的内存也不是很多,有五六百兆基本就够了,但是为了系统运行的流畅性,建议还是尽可能多分配一些内存(这块实际最小内存我没计算过,但是推荐最小分配1G)。

3)cpu

用的虚拟机,cpu统一分配的都是一个核

4)doris版本

apache-doris-1.1.0-bin-x86-jdk8.tar.gz

官网下载地址:下载 - Apache Doris

3、开始安装

1)将下载的安装包上传到虚拟机并解压

tar -zxvf apache-doris-1.1.0-bin-x86-jdk8.tar.gz

 这里为了和我已有的安装命令保持一致,这里我用mv命令对doris解压后的目录名称更改了一下。

2)FE配置

进入doris下的fe目录,修改其中conf目录下的fe.conf文件(这里修改有两处):
        第一处修改(这个配置的作用我也不懂,是参照官网配置的):
                priority_networks = 192.168.71.0/24
                补充:ip4地址是由网络号和主机号组成,一共32位,这里24表示的是网络号位数是24,具体不知道怎么配的,可以通过ip addr查看自己的网络号位数,然后将网络号之后的主机号值设置为0。比如我的虚拟机信息如下: 

 可以看到我的网络号是24,所以我保留了192.168.71,最后8位对应的136我是直接设置为了0。

        第二处修改(端口号):
        因为doris中端口很多,我虚拟机中也部署了很多组件,所以有端口冲突的问题,这个我一开始没注意,也是启动报错才发现的,不过这里我可以先提前提醒大家:

上图是fe启动需要的端口号,其中http_port默认是8030,但是这个端口已经被占用,所以我修改成了8050。大家在部署前可以通过lsof -i:port来看看上面四个端口是不是都没被占用,然后再去启动。

 3)FE启动与验证

后台启动命令是:

        ./bin/start_fe.sh --daemon

但是我建议在初始安装时不要加--daemon,因为不加--daemon,如果有报错,其信息就会直接打印在控制台,方便我们观察,而不用再去找日志文件查阅。等控制台正常启动没问题了,我们可以再通过--daemon的方式进行后台启动(如果重新启动提示fe进程已经存在,则可以通过kill -9 命令终止后再重新发起运行命令)。

启动没问题后运行如下命令进行验证fe:

        curl http://127.0.0.1:8050/api/bootstrap

其中8050就是前面配置文件中的http_port端口属性,正常打印结果如下:

4)BE配置

进入doris的be文件夹,随后的BE配置其实与FE配置类似,也是修改 priority_networks和端口号,这里我展示下我的配置信息,配置过程就不啰嗦了:

 这里我的8040也冲突了,所以修改成了8041,下图是我的验证流程:

5)BE启动 + open file问题解决

启动命令如下:

        ./bin/start_be.sh --daemon

 初次启动还是不建议加--daemon,因为这样在报错后我们可以第一时间观察到,等彻底没问题后再加--daemon后台启动也不迟(如果重新启动提示fe进程已经存在,则可以通过kill -9 命令终止后再重新发起运行命令)。

这里我们就会遇到一个open file文件句柄数过小的问题:

 正常来说我们初次启动be都会遇到该问题,因为默认文件句柄数是1024,另外虽然报错提示了用ulimit命令可以设置较大的文件句柄数,但是这是一种临时的解决方案,重启虚拟机后该值会被重置,所以如果想永久修改,可以通过如下三步设置:

第一步:vi /etc/profile
第二步:在末尾加入 ulimit –n 65535  ,随后保存文件
第三步:source /etc/profile

 再次启动则正常。

6)将BE加入FE

这一步需要在FE的客户端中通过一个命令进行添加,因为FE没有自己的客户端,但它支持通过mysql客户端进行连接,所以首先我们需要有个mysql客户端。mysql的安装部署我这里就不说了,(如果你没有mysql客户端,可以试试navicat或者dbeaver直连doris,连接方式与mysql连接类似,其中ip为fe安装地址,端口默认为9030,用户名为root,密码不用填,驱动就是mysql的driver驱动)。我连接doris的命令如下:

 mysql -uroot -P9030 -h node2

 进入客户端后执行:

ALTER SYSTEM ADD BACKEND "be_host_ip:heartbeat_service_port";

我的执行命令如下:

 7)web页面

至此我们FE、BE的安装就结束了,我们可以进行简单的存储查询验证了,另外doris有个web页面,里面可以查看fe、be以及配置还有日志相关的信息,它的访问地址默认为 fe_ip:http_port。

其中ip是fe节点的部署地址,http_port就是fe配置文件中的端口号:

登陆用户名默认为root,密码不用填。

参考文章:

快速开始 - Apache Doris

Doris 技术文档 Doris 是一个分布式 OLAP 数据库,旨在为用户提供高效、稳定、可靠的数据存储和分析能力。本文档将介绍 Doris 的架构、数据模型、查询引擎和部署方式等方面的内容。 一、架构 Doris 的架构分为三层: 1. 存储层 存储层是 Doris 的核心组成部分,负责数据的存储和管理。Doris 采用了分布式存储技术,将数据均匀地分配到多个节点上,以实现数据的高可用性和可扩展性。Doris 的存储层支持多种存储引擎,包括 RocksDB、LMDB、Hadoop HDFS 等。 2. 计算层 计算层是 Doris 的查询引擎,负责处理用户的查询请求。Doris 的计算层采用了分布式计算技术,将查询任务分配到多个节点上并行执行,以提高查询效率和并发能力。Doris 的计算层支持多种查询引擎,包括 MPP、SQL、Flink 等。 3. 接口层 接口层是 Doris 的用户界面,负责与用户进行交互。Doris 的接口层支持多种接口协议,包括 JDBC、ODBC、RESTful API 等。 二、数据模型 Doris 的数据模型采用了类似于关系型数据库的表格模型,但具有更丰富的数据类型和数据结构。Doris 的数据模型支持多维度数据分析和聚合,具有较高的灵活性和可扩展性。 Doris 的数据模型主要包括以下几个概念: 1. 数据库 数据库是 Doris 中数据的最高层次,用于管理和组织数据表格。一个 Doris 实例可以管理多个数据库。 2. 表格 表格是 Doris 中存储数据的基本位,类似于关系型数据库中的表格。每个表格由多个列组成,每列具有相应的数据类型。 3. 分区 分区是 Doris 中表格的分割位,用于实现数据的水平切分和负载均衡。每个分区都是一个独立的存储元,可以分配到任意节点上。 4. 副本 副本是 Doris 中实现数据高可用性的关键技术,用于保证数据的冗余备份和容错能力。每个分区都可以配置多个副本,以实现数据的容错和负载均衡。 三、查询引擎 Doris 的查询引擎支持多种查询方式,包括 SQL、MPP 和 Flink 等。 1. SQL Doris 的 SQL 查询引擎支持标准的 ANSI SQL 语法,具有较高的兼容性和易用性。用户可以使用 SQL 语言进行数据查询、过滤、聚合和排序等操作。 2. MPP Doris 的 MPP 查询引擎采用了分布式计算技术,将查询任务分配到多个节点上并行执行,以提高查询效率和并发能力。MPP 查询引擎适用于大规模数据查询和分析。 3. Flink Doris 的 Flink 查询引擎是基于 Flink 流处理框架开发的,支持实时流数据分析和处理。Flink 查询引擎适用于实时数据分析和处理场景。 四、部署方式 Doris部署方式主要有以下几种: 1. 单机部署 单机部署Doris 最简部署方式,适用于小规模数据存储和查询场景。用户可以在节点上安装 Doris 实例,并将数据存储在本地磁盘上。 2. 集群部署 集群部署Doris 的标准部署方式,适用于大规模数据存储和查询场景。用户可以在多个节点上安装 Doris 实例,并将数据分布式存储在多个节点上。集群部署需要注意节点的负载均衡和数据同步等问题。 3. 容器部署 容器部署Doris 的新兴部署方式,适用于云原生和容器化场景。用户可以将 Doris 实例打包成容器镜像,并在容器平台上进行部署和管理。 总结 本文介绍了 Doris 的架构、数据模型、查询引擎和部署方式等方面的内容,希望能够为用户提供一些参考和帮助。Doris 是一个功能强大、易用性高的分布式 OLAP 数据库,具有广泛的应用场景和市场前景。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值