日萌社
人工智能AI:Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战(不定时更新)
================= 最新文章 =================
2.用户画像
6.window下 人工智能 Keras、TensorFlow、PyTorch、CUDA、cuDNN 的环境安装 总文章、window 安装 PyTorch
7.人工智能AI:Keras PyTorch 深度学习实战(不定时更新)
8.搜索引擎:Elasticsearch、Solr、Lucene
CDH 6系列(CDH 6.0.0、CDH 6.1.0、CDH 6.2.0等)安装和使用
CDH 6.0.0、CDH 6.1.0、CDH 6.2.0 等 CDH6 系列的平台的安装方式均基本一致,可参考上述文章链接进行安装
Cloudera Manager 6.2.0 安装(只需要在NODE1做)
1.配置本地repo源
1.下载CM6.2的安装包,地址为:
https://archive.cloudera.com/cm6/6.2.0/redhat7/yum/RPMS/x86_64/cloudera-manager-agent-6.2.0-968826.el7.x86_64.rpm
https://archive.cloudera.com/cm6/6.2.0/redhat7/yum/RPMS/x86_64/cloudera-manager-daemons-6.2.0-968826.el7.x86_64.rpm
https://archive.cloudera.com/cm6/6.2.0/redhat7/yum/RPMS/x86_64/cloudera-manager-server-6.2.0-968826.el7.x86_64.rpm
https://archive.cloudera.com/cm6/6.2.0/redhat7/yum/RPMS/x86_64/cloudera-manager-server-db-2-6.2.0-968826.el7.x86_64.rpm
https://archive.cloudera.com/cm6/6.2.0/redhat7/yum/RPMS/x86_64/enterprise-debuginfo-6.2.0-968826.el7.x86_64.rpm
https://archive.cloudera.com/cm6/6.2.0/redhat7/yum/RPMS/x86_64/oracle-j2sdk1.8-1.8.0+update181-1.x86_64.rpm
https://archive.cloudera.com/cm6/6.2.0/allkeys.asc
2.下载CDH6.2的安装包,地址为:
https://archive.cloudera.com/cdh6/6.2.0/parcels/CDH-6.2.0-1.cdh6.2.0.p0.967373-el7.parcel
https://archive.cloudera.com/cdh6/6.2.0/parcels/CDH-6.2.0-1.cdh6.2.0.p0.967373-el7.parcel.sha256 注意把sha256后缀的文件名修改为sha
https://archive.cloudera.com/cdh6/6.2.0/parcels/manifest.json
3.mkdir -p /root/cdh6.2 把 CDH 6.2 的三个文件放到/root/cdh 6.2中,并且注意把sha256后缀的文件名修改为sha
mkdir -p /root/cm6.2 把 Cloudera Manager 6.2 的7个文件放到/root/cm6.2中
4.将Cloudera Manager安装需要的5个rpm包以及一个asc文件下载到本地,放在同一目录,执行createrepo命令生成rpm元数据。
cd /root/cm6.2
yum install createrepo
createrepo . (注意此命令的最后带一个点) 最终 cm6.2目录下多了一个repodata目录
5.配置Web服务器
将 cdh6.2目录 和 cm6.1目录 移动到/var/www/html目录下, 使得用户可以通过HTTP访问这些rpm包。
cd /root
mkdir -p /var/www/html
mv ./cdh6.2/ ./cm6.2/ /var/www/html
6.使得用户可以通过HTTP访问这些/var/www/html目录下的文件
1.yum install httpd 安装httpd服务
2.systemctl start httpd 启动httpd服务
3.ps -ef | grep httpd 查看httpd服务是否启动
4.vim /etc/yum.repos.d/os.repo 以下为文件内容
[osrepo]
name=os_repo
baseurl=http://192.168.88.100/cm6.2
enabled=true
gpgcheck=false
5.sudo yum repolist
6.vim /etc/httpd/conf/httpd.conf
修改 /etc/httpd/conf/httpd.conf 配置文件,在<IfModule mime_module>中修改以下内容
把 第284行的 AddType application/x-gzip .gz .tgz 修改为 AddType application/x-gzip .gz .tgz .parcel
7.重启httpd服务 systemctl restart httpd
http://192.168.88.100/cdh6.2/
http://192.168.88.100/cm6.2/
7.制作Cloudera Manager的repo源
1.vim /etc/yum.repos.d/cm.repo 以下为文件内容
[cmrepo]
name = cm_repo
baseurl = http://192.168.88.100/cm6.2
enable = true
gpgcheck = false
2.sudo yum repolist
3.重启httpd服务 systemctl restart httpd
2.安装Cloudera Manager Server
1.安装CM6.2时,请装官方提供的JDK:oracle-j2sdk1.8-1.8.0+update181-1.x86_64.rpm
1.第一种方式:
因为已经配置好repo仓库所以yum时会到192.168.88.100/cm6.2目录下找到oracle-j2sdk1.8-1.8.0+update181-1.x86_64.rpm进行安装
yum -y install oracle-j2sdk1.8-1.8.0+update181-1.x86_64
默认安装在 /usr/java/jdk1.8.0_181-cloudera
vim /etc/profile 文件中内容如下
JAVA_HOME=/usr/java/jdk1.8.0_181-cloudera
CLASSPATH=.:$JAVA_HOME/lib/tools.jar
PATH=$JAVA_HOME/bin:$PATH
export JAVA_HOME CLASSPATH PATH
重新加载profile配置文件,让配置文件生效:source /etc/profile
检查是否已配置好新的JDK:java -version
scp -r /etc/profile root@NODE2:/etc/
scp -r /etc/profile root@NODE3:/etc/
2.第二种方式
直接使用 rpm -ivh 命令安装 rpm 文件的方式
cd /var/www/html/cm6.2
rpm -ivh oracle-j2sdk1.8-1.8.0+update181-1.x86_64.rpm
默认安装在 /usr/java/jdk1.8.0_181-cloudera
2.通过yum安装Cloudera Manager Server:(Cloudera Manager Server的源 已经配置到了repo库中)
yum -y install cloudera-manager-server
最后一行显示 Complete!
3.初始化数据库
/opt/cloudera/cm/schema/scm_prepare_database.sh mysql cm cm password
最后一行显示 All done, your SCM database is configured correctly!
必须保证/usr/share/java目录中已经存在 mysql-connector-java.jar 的软连接:ln -s mysql-connector-java-5.1.46.jar mysql-connector-java.jar
4.启动Cloudera Manager Server
systemctl start cloudera-scm-server
ps -ef | grep cloudera-scm-server 查看是否启动
systemctl status cloudera-scm-server 显示 Active: active (running)
5.检查端口是否监听
yum install net-tools 安装 netstat
netstat -lnpt | grep 7180 要等一段时间启动完全启动成功后,才能看到端口被使用,然后才能真正访问到CM的登录网页
显示 tcp 0 0 0.0.0.0:7180 0.0.0.0:* LISTEN 68289/java
5.通过 192.168.88.100:7180/cmf/login 访问 CM
在安装CDH如果还提示没有禁用成功的话,请进行如下设置进行禁用:
已启用透明大页面压缩,可能会导致重大性能问题,需要禁用此设置。
1.请运行“echo never > /sys/kernel/mm/transparent_hugepage/defrag”和“echo never > /sys/kernel/mm/transparent_hugepage/enabled”可以暂时生效
2.永久生效:将上述两个命令然 添加到/etc/rc.local等初始化脚本中,以便在系统重启时予以设置。
vim /etc/rc.local
echo never > /sys/kernel/mm/transparent_hugepage/defrag
echo never > /sys/kernel/mm/transparent_hugepage/enabled