集群环境下常用Linux基础配置
1. 本地yum源配置
Yum全称是Yellow dog Updater,Modified,是一个在Fedora和Redhat以及CentOS中的Shell前端软件包管理器。基于RPM包管理,能够从指定的服务器自动下载RPM包并安装,可以自动处理依赖性关系,并且一次性安装所有依赖的软件包,无须繁琐的一次次下载、安装。
下面介绍一种常用的配置本地yum源的方法:
1. 上传挂载系统iso安装文件 mount /opt/ CentOS-7.0-1406-x86_64-DVD.iso /mnt -r 2. 创建/etc/yum.repos.d/base.repo新增以下内容 [base] name=base baseurl=file:///mnt/ gpgcheck=0 enabled=1 3. 清理yum缓存,查看本地yum源是否配置成功 yum clean all yum list |
注:学会查看使用linux命令帮助,如yum -help,摆脱枯燥记忆的烦恼。
2. 手动创建swap分区
系统安装完成后,可能没有swap分区,需要手工创建,下面介绍一种手工创建swap分区的步骤:
1.创建swap分区 dd if=/dev/zero of=/home/swap bs=1024 count=2048000 2.格式化新建的分区 mkswap /home/swap 3.把新建的分区变成swap分区 swapon /home/swap 4.开机自动挂载swap echo "/home/swap swap swap defaults 0 0" >> /etc/fstab 5.查看swap分区大小 free -g 或 free -m |
3. 配置ssh互信免密登录
大多数集群软件都是master-slave架构,需要主从服务器ssh免密登录,以下介绍一种配置方法:
1. 前提 yum install openssh systemctl enable sshd systemctl start sshd或者service sshd start 2. 在主从服务器上生成ssh公钥 ssh-keygen -t rsa 3. 将所有从服务器的id_rsa.pub合并到主服务器 ssh-copy-id -i /home/Hadoop/.ssh/id_rsa.pub datanode1 ssh-copy-id -i /home/Hadoop/.ssh/id_rsa.pub datanode2 ssh-copy-id -i /home/Hadoop/.ssh/id_rsa.pub datanode3 4. 测试 ssh datanode1 |
4. 修改主机名和/etc/hosts并关闭selinux关闭防火墙
以三个节点为例介绍CentOS7.0的配置方法:
1. 三个节点的/etc/sysconfig/network中分别添加 hostname node1 hostname node2 hostname node3 2. 三个节点的/etc/hosts文件中都添加 101.12.82.103 node1 101.12.82.104 node2 101.12.82.105 node3 3. 修改/etc/selinux/config文件将SELINUX=enforcing改为SELINUX=disabled 三个节点都重启生效 init 6 4. 关闭防火墙 systemctl stop firewalld.service systemctl disable firewalld.service firewall-cmd --state |
5. 修改系统参数/etc/sysctl.conf
根据产品推荐修改系统参数:
1. 修改/etc/sysctl.conf文件增加以下参数 kernel.pid_max = 524288 vm.max_map_count = 16527169 vm.dirty_background_ratio = 1 vm.dirty_ratio = 2 kernel.hung_task_panic = 0 2. 生效 sysctl -p |
6. 修改磁盘预读参数/etc/rc.local
Vertica数据要求修改磁盘预读参数如:
1. 修改/etc/rc.local文件增加以下内容 echo deadline > /sys/block/vda/queue/scheduler /sbin/blockdev --setra 8192 /dev/vda echo always > /sys/kernel/mm/transparent_hugepage/enabled echo always > /sys/kernel/mm/transparent_hugepage/defrag echo 0 > /proc/sys/vm/swappiness 2. 生效 source /etc/rc.local |
7. 配置时钟同步
配置时钟同步是集群软件常见的要求:
yum install ntp 设置vh001服务器做内部时钟服务器 vh001修改/etc/ntp.conf文件,添加 server 127.127.1.0 启动服务 systemctl start ntpd.service systemctl enable ntpd.service vh002服务器优先与vh001服务器同步,修改/etc/ntp.conf启动ntpd服务 /etc/ntp.conf增加以下内容: server vh001 prefer 启动服务 systemctl start ntpd.service systemctl enable ntpd.service vh003服务器优先与vh001服务器同步,其次与vh002同步,修改/etc/ntp.conf启动ntpd服务 /etc/ntp.conf增加以下内容: server vh001 prefer server vh002 启动服务 systemctl start ntpd.service systemctl enable ntpd.service 检查时钟同步结果 ntpdate -u vh001 |