ecph安装笔记

环境准备

集群分布情况

主机名ip节点
node-1192.168.238.127mon.node-1 osd.0
node-2192.168.238.128mon.node-1 osd.1
node-3192.168.238.129mon.node-1 osd.2

设置主机名称

在主机node-1执行

hostnamectl set-hostname node-1

在主机node-2执行

hostnamectl set-hostname node-2

在主机node-3执行

hostnamectl set-hostname node-3

设置host

在主机node-1执行

vi /etc/hosts
# 在文件末尾,追加一下内容
192.168.238.127 node-1  
192.168.238.128 node-2
192.168.238.128 node-3


#然后分发给其他两个节点
scp /etc/hosts node-3:/etc/
scp /etc/hosts node-3:/etc/

设置ssh无密钥登录

在node-1上执行 ssh-keygen生成密钥,然后拷贝到其他机器。

ssh-keygen  # 这一步全部回车
# 分发公钥
ssh-copy-id -i /root/.ssh/id_rsa.pub node-2
ssh-copy-id -i /root/.ssh/id_rsa.pub node-3
ssh-copy-id -i /root/.ssh/id_rsa.pub node-1

关闭防火墙

在三台节点上分别执行

vi  /etc/selinux/config

#设置 SELINUX=disabled
vi  /etc/selinux/config

#设置 SELINUX=disabled,只是防止下次开机自动启动
setenforce 0  # 关闭SELINUX,关闭当前
getenforce 0  # SELINUX状态查看

关闭三台节点的防火墙

systemctl disable  firewalld # 禁止防火墙开机自动启动
systemctl stop  firewalld  # 关闭当前防火墙

配置yum源

更改国外的yum源为国内的yum源

yum install wget -y #先安装wget
wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-7.repo
wget -O /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-7.repo

编辑ecph.repo文件

vi /etc/yum.repos.d/ceph.repo
## 在文件中添加一下内容
[ceph-noarch]
name=Ceph noarch packages
baseurl=https://mirrors.aliyun.com/ceph/rpm-mimic/el7/noarch
enabled=1
gpgcheck=0
[x86_64]
name=x86_64
baseurl=https://mirrors.aliyun.com/ceph/rpm-mimic/el7/x86_64/
enabled=1
gpgcheck=0

node-1节点配置好yum文件后分发文件给其他节点

scp -r /etc/yum.repos.d/* node-2:/etc/yum.repos.d/
scp -r /etc/yum.repos.d/* node-3:/etc/yum.repos.d/

安装ntp

集群部署,要安装ntp。保证节点时间一直。

yum install ntp -y

安装完成ntp服务器后。修改node-2,node-3的同步节点为node-1


vim /etc/ntp.conf

# Use public servers from the pool.ntp.org project.
# Please consider joining the pool (http://www.pool.ntp.org/join.html).
#server 0.centos.pool.ntp.org iburst
#server 1.centos.pool.ntp.org iburst
#server 2.centos.pool.ntp.org iburst
#server 3.centos.pool.ntp.org iburst
server 192.168.238.127  iburst

# 修改文件后保存退出,重启服务
systemctl restart  ntpd   # 重启服务
systemctl enable  ntpd    # 设置开机自动启动

安装配置

安装ceph-deploy

在node-1节点上执行

yum install python-setuptools ceph-deploy

 mkdir  ceph-deploy # 配置文件存放目录
 cd  ceph-deploy
 ceph-deploy new --public-network 192.168.238.0/24 --cluster-network 192.168.238.0/24 node-1

yum install ceph ceph-mon ceph-mgr ceph-radosgw  ceph-mds -y # 这条命令,三个节点都要执行
ceph-deploy mon create-initial
ceph-deploy admin  node-1 node-2 node-3
ceph-deploy mgr   create node-1
ceph-deploy  osd create node-1 --data  /dev/sdb
ceph-deploy mon add node-2 --address 192.168.238.128
ceph-deploy mon add node-3 --address 192.168.238.129

结果图片

20210801102716

参考

1、参考视频-bilibili-Ceph入门到实战【2020出品+基于nautilus版】
2、ecph中文文档http://docs.ceph.org.cn/start/intro/

附录

扫描新增磁盘

虚拟机新增磁盘后,不用重启扫描磁盘。

ls /sys/class/scsi_host/
echo "- - -" > /sys/class/scsi_host/host0/scan
echo "- - -" > /sys/class/scsi_host/host1/scan
echo "- - -" > /sys/class/scsi_host/host2/scan