离线安装ambari 更换spark版本 集成carbondate文档

1、Linux系统环境配置

1.1 配置IP地址

vim /etc/sysconfig/network-script/ifcfg-eth0
  • “DEVICE”:网卡对应的设备别名,如ifcfg-eth0第一块网卡;

  • “HWADDR”:网卡物理地址;

  • “BOOTPROTO”:网卡获得ip地址的方式,Static(静态 ip地址)dhcp(通过dhcp协议获取ip)bootip通过bootp协议获得的ip地址;

  • “IPADDR”:网卡IP地址;

  • “NETMASK”:网卡对应网络掩码;

  • “NETWORK”:网卡对应的网络地址;

  • “ONBOOT”:系统启动时是否设置此网络接口,设置为yes时,系统启动时激活此设备。默认设置为yes;

  • “DNS”:配置该网络环境下的DNS。

    保存上述编辑内容,运行如下命令重启network服务。

service network restart

说明:集群中,其余机器IP地址配置方式同上。

1.2 配置DNS服务

​ DNS服务,目前只是在host文件中做了ip地址和主机名映射。

​ 先在各节点配置主机名:

#永久性改变主机名,必须重启才能生效
hostnamectl --static set-hostname host1
#退出当前终端,再重新连接linux,使新的主机名生效
#如果重启未生效 参考 https://blog.csdn.net/weixin_44742962/article/details/105703118

​ 编辑各个节点的配置文件/etc/hosts如下:

vim /etc/hosts
192.268.111.111         host1
192.268.111.112         host2
192.268.111.113         host3
……

注意:ip改为为自己集群ip

1.3 关闭系统THP

​ 关闭大页内存(THP)

vim /etc/rc.d/rc.local
if test -f /sys/kernel/mm/transparent_hugepage/enabled; then
echo never > /sys/kernel/mm/transparent_hugepage/enabled
fi
if test -f /sys/kernel/mm/transparent_hugepage/defrag; then
echo never > /sys/kernel/mm/transparent_hugepage/defrag

​ 保存退出,然后赋予rc.local文件执行权限

chmod +x /etc/rc.d/rc.local

1.4 修改系统Linux限制值

vi /etc/security/limits.conf
最后添加
* soft nofile 1024000
* hard nofile 1024000
hive   - nofile 1024000
hive   - nproc  1024000

​ 用户进程限制

vi /etc/security/limits.d/20-nproc.conf
	#加大普通用户限制  也可以改为unlimited
	*          soft    nproc     40960
	root       soft    nproc     unlimited

1.5 同步时间

# 参考 https://blog.csdn.net/weixin_44742962/article/details/105790569

2、部署前准备工作

2.1 设置SSH免密码登录

​ 配置host1到其余各虚拟机的ssh免密码登录,使用如下命令生成ssh所需的公钥以及私钥。
​ 运行如下脚本完成集群免密码登录。

vim sshScript.sh
#! /bin/bash
ssh-keygen -t rsa
ALL_CLIENTS<
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值