使用ceph/daemon镜像手动部署ceph集群
三台机器的基本信息
IP
- node1 10.1.135.180
- node2 10.1.135.181
- node3 10.1.135.182
磁盘
- /dev/sda 8T HDD (osd1)
- /dev/sdb 240G SSD (os)
- /dev/sdc 240G SSD (block.wal和block.db)
- /dev/sdd 2T HDD (osd2)
- /dev/sde 240G SSD (osd3)
每个节点机器上启动的服务和数量:
- mon 1
- mgr 1
- osd 3
- rgw 1
启动mon集群
在node1上启动mon
docker run -d --net=host \
--name mon \
-v /etc/ceph:/etc/ceph \
-v /var/lib/ceph/:/var/lib/ceph/ \
-e MON_IP=10.1.135.180 \
-e CEPH_PUBLIC_NETWORK=10.1.135.0/24 \
ceph/daemon mon
在node2上创建文件夹
mkdir /var/lib/ceph
将必要的文件从node1上拷贝到node2
scp -r /etc/ceph root@node2:/etc
scp -r /var/lib/ceph/bootstrap* root@node2:/var/lib/ceph
修改node2上/etc/ceph/ceph.conf文件中的2项
mon initial members = node1,node2
mon host = 10.1.135.180,10.1.135.181
在node2上启动mon
docker run -d --net=host \
--name mon \
-v /etc/ceph:/etc/ceph \
-v /var/lib/ceph/:/var/lib/ceph/ \
-e MON_IP=10.1.135.181 \
-e CEPH_PUBLIC_NETWORK=10.1.135.0/24 \
ceph/daemon mon
在node3上创建文件夹
mkdir /var/lib/ceph
将必要的文件从node2上拷贝到node3机器上
scp -r /etc/ceph root@node3:/etc
scp -r /var/lib/ceph/bootstrap* root@node3:/var/lib/ceph
修改node3上/etc/ceph/ceph.conf文件中的2项
mon initial members = node1,node2,node3
mon host = 10.1.135.180,10.1.135.181,10.1.135.182
在node3上启动mon
docker run -d --net=host \
--name mon \
-v /etc/ceph:/etc/ceph \
-v /var/lib/ceph/:/var/lib/ceph/ \
-e MON_IP=10.1.135.182 \
-e CEPH_PUBLIC_NETWORK=10.1.135.0/24 \
ceph/daemon mon
将node3上的/etc/ceph/ceph.conf文件拷贝到node1和node2上
scp /etc/ceph/ceph.conf root@node1:/etc/ceph/ceph.conf
scp /etc/ceph/ceph.conf root@node2:/etc/ceph/ceph.conf
检查集群状态
[root@node1 ~]# docker exec mon ceph -s
cluster:
id: 47d6ebed-d923-4b1b-9d93-530913a016b3
health: HEALTH_OK
services:
mon: 3 daemons, quorum node1,node2,node3
mgr: no daemons active
osd: 0