Ubuntu16.04环境下基于Hadoop分布式集群YARN模式下的TensorFlowOnSpark平台搭建

本博客详细介绍了如何在Ubuntu16.04环境中,通过Docker容器建立3节点Hadoop完全分布式集群,并在此基础上配置YARN模式,最后成功安装和部署TensorFlowOnSpark平台,实现深度学习的分布式计算。
摘要由CSDN通过智能技术生成

本次实验环境是基于Ubuntu16.04的一台服务器,在上面创建3个Docker容器,容器的系统也是Ubuntu16.04,并以此搭建TensorFlowOnSpark深度学习分布式平台。

一 Ubuntu基本配置

1.1 安装ssh

打开终端或者服务器版命令行。

查看是否安装(ssh)openssh-server,否则无法远程连接。

sshd
sudo apt install openssh-server

docker镜像中启动ssh

/usr/sbin/sshd -D &

1.2 Ubuntu更换国内源

1) 编辑source.list文件

sudo vim /etc/apt/source.list

2) 替换为国内源(此处为阿里源)

deb-src http://archive.ubuntu.com/ubuntu xenial main restricted #Added by software-properties
deb http://mirrors.aliyun.com/ubuntu/ xenial main restricted
deb-src http://mirrors.aliyun.com/ubuntu/ xenial main restricted multiverse universe #Added by software-properties
deb http://mirrors.aliyun.com/ubuntu/ xenial-updates main restricted
deb-src http://mirrors.aliyun.com/ubuntu/ xenial-updates main restricted multiverse universe #Added by software-properties
deb http://mirrors.aliyun.com/ubuntu/ xenial universe
deb http://mirrors.aliyun.com/ubuntu/ xenial-updates universe
deb http://mirrors.aliyun.com/ubuntu/ xenial multiverse
deb http://mirrors.aliyun.com/ubuntu/ xenial-updates multiverse
deb http://mirrors.aliyun.com/ubuntu/ xenial-backports main restricted universe multiverse
deb-src http://mirrors.aliyun.com/ubuntu/ xenial-backports main restricted universe multiverse #Added by software-properties
deb http://archive.canonical.com/ubuntu xenial partner
deb-src http://archive.canonical.com/ubuntu xenial partner
deb http://mirrors.aliyun.com/ubuntu/ xenial-security main restricted
deb-src http://mirrors.aliyun.com/ubuntu/ xenial-security main restricted multiverse universe #Added by software-properties
deb http://mirrors.aliyun.com/ubuntu/ xenial-security universe
deb http://mirrors.aliyun.com/ubuntu/ xenial-security multiverse

3) 使修改生效

sudo apt-get update

1.3 修改Ubuntu服务器hostname主机名

vincent@ubuntu:~$ sudo hostname hadoop1

vincent@ubuntu:~$ sudo hostname hadoop2

vincent@ubuntu:~$ sudo hostname hadoop3

#断开远程连接,重新连接即可看到已经改变了主机名。

1.4 增加hosts文件中ip和主机名对应字段

在hadoop1,2,3中,修改/etc/hosts文件

sudo vim /etc/hosts

增加以下对应关系

<
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值