Centos优化Hadoop_linux优化hadoop，2024年最新Linux运维最新面试题

先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7

深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新Linux运维全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上运维知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以添加V获取：vip1024b （备注运维）

正文

Installed Groups:
Base
Compatibility libraries
Debugging Tools
Development tools
E-mail server
Graphical Administration Tools
Hardware monitoring utilities
Legacy UNIX compatibility
Networking Tools
Performance Tools
Perl Support
Scientific support
Security Tools

可以看到除了我们选择的外，系统还是默认安装了一些必须的软件包组。



**2、网络设置**

[root@centos ~]# cat /etc/sysconfig/network-scripts/ifcfg-eth0
DEVICE=eth0
HWADDR=00:0C:29:6D:58:E4
TYPE=Ethernet
UUID=5236fdbb-76ee-4f98-90cf-6bed4fb62661
ONBOOT=yes
NM_CONTROLLED=yes
BOOTPROTO=static
IPADDR=192.168.2.200
GATEWAY=192.168.2.1
NETMASK=255.255.255.0

**3、Linux系统优化 Supper Hadoop** 


**3.1 环境检查**

3.1.1 操作系统

cat /etc/redhat-release

CentOS release 6.6 (Final)

3.1.2 所有主机能够相互ping通


3.1.3 linux内核版本

uname -r

2.6.32-504.el6.x86_64

**3.2 添加安装集群用户&&关闭selinux&&修改Linux启动级别为3**

useradd hadoop
echo “hadoop123”|passwd --stdin hadoop
yum grouplist
sed -i ‘s#SELINUX=enforcing#SELINUX=disabled#g’ /etc/selinux/config
setenforce 0
grep SELINUX=disabled /etc/selinux/config
grep id:3:initdefault: /etc/inittab

![](http://www.itweet.cn/screenshots/chkconfig-list.png)



**3.3 优化开机自动启动服务&&增大文件描述符(Hadoop并行读取数据文件)&&sudo权限管理** 

chkconfig --list|grep 3:on |wc –l
chkconfig --list|grep 3:on | cut -d " " -f1
for name in chkconfig --list|grep 3:on | cut -d " " -f1 ;do chkconfig $name off;done
chkconfig --list|grep 3:on

#如果系统基于lvm逻辑卷管理需要开启lvm2-monitor blk-availability两个服务
for name in crond ntpd lvm2-monitor blk-availability network rsyslog sshd;do chkconfig $name on;done

iptables -L -n
/etc/init.d/iptables stop
iptables -L -n
chkconfig --list|grep iptables
echo ‘hadoop ALL=(ALL) NOPASSWD: ALL’ >> /etc/sudoers

echo ‘* - nofile 65535’ >> /etc/security/limits.conf
tail -1 /etc/security/limits.conf

![](http://www.itweet.cn/screenshots/chkconfig-list-2.png)



**3.4 配置ntp服务器，让所有服务器时间保持一致，如果是非内网服务器可以直接安装启动ntp**

yum install htpd -y
/etc/init.d/ntpd start
chkconfig ntpd on

$ ntpq –p #公网自动时间同步

如果是内网服务器，需要配置一台ntp服务器，所有服务器到ntp服务器定期同步时间，内网ntp服务器配置：

vim /etc/ntp.conf
restrict default ignore //默认不允许修改或者查询ntp,并且不接收特殊封包
restrict 127.0.0.1 //给于本机所有权限
restrict 192.168.2.0 mask 255.255.255.0 notrap nomodify //给于局域网机的机器有同步时间的权限
server 192.168.2.124 # local clock
driftfile /var/lib/ntp/drift
fudge 127.127.1.0 stratum 10

ntpq -p 查询网络中的NTP服务器：

$ ntpq –p

所有机器服务器需要和ntp服务时间保持一致：

$ ntpdate 192.168.1.124 #刚刚配置好ntp服务器,大概需要5min后才能正常提供服务;报错"no server suitable for synchronization found"

所有大数据服务器设置cron同步ntp服务器时间：

$ crontab -l
00 1 * * * root /usr/sbin/ntpdate 192.168.1.124 >> /root/ntpdate.log 2>&1

**3.5 关闭防火墙**

/etc/init.d/iptables status
/etc/init.d/iptables stop
chkconfig iptables off

**3.6 关闭Swap**

swapoff -a

**3.7 Linux overcommit-memory**

echo 0 > /proc/sys/vm/overcommit_memory

**3.8 所有主机做好hosts ip映射&&repo文件**

tail -6 /etc/hosts

192.168.1.124 apache-server archive.cloudera.com archive-primary.cloudera.com

192.168.1.201 server1
192.168.1.202 server2
192.168.1.203 server3
192.168.1.204 server4

所有主机同步hosts文件一致



**网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。**

**需要这份系统化的资料的朋友，可以添加V获取：vip1024b （备注运维）**
![img](https://img-blog.csdnimg.cn/img_convert/57d97c24e1c1d925f194f27fc74080b8.jpeg)

**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**
不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。**

**需要这份系统化的资料的朋友，可以添加V获取：vip1024b （备注运维）**
[外链图片转存中...(img-bKfpzTen-1713307429999)]

**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**