第三天:配置hadoop、Java、Cassandra

通过前两天的学习我们已经能够把kaa采集到数据,接下来我们开始开始安装 zeppelin。该项目的流程大致如下图所示
在这里插入图片描述
一、项目流程
1.我们通过kaa采集数据
2.把采集到的数据储存在Cassandra里面
3.把Cassandra里面的数据上传到spark里面,利用spark对这些数据进行实时分析
4.通过Zeppelin对这些数据进行可视化处理
在第一天的学习过程中我们已经采集到数据,所以接下来我们需要配置一些内容。
二、 独立安装Kaa server
1 启用ssh服务服务。
在192.168.1.115
查看是否开启了ssh服务是否安装,使用命令:
sudo ps -e |grep ssh
如果安装了的是会有sshd服务的,下面的图片是没有安装ssh服务
在这里插入图片描述

先更新资源列表,使用命令:
sudo apt-get update
在这里插入图片描述

安装openssh-server,使用命令:
sudo apt-get install openssh-server
在这里插入图片描述

继续输入sudo ps -e |grep ssh查看是否安装成功,和下面图片一样看到sshd则说明安装成功。

在这里插入图片描述
查看主机的IP地址,使用命令:
ifconfig

查找IP地址,并用putty登录。

三、创建用户
http://dblab.xmu.edu.cn/blog/install-hadoop/如果你安装 Ubuntu 的时候不是用的 “hadoop” 用户,那么需要增加一个名为 hadoop 的用户。
首先按 ctrl+alt+t 打开终端窗口,输入如下命令创建新用户 :
1.sudo useradd -m hadoop -s /bin/bash

这条命令创建了可以登陆的 hadoop 用户,并使用 /bin/bash 作为 shell。
接着使用如下命令设置密码,可简单设置为 hadoop,按提示输入两次密码:
1.sudo passwd hadoop

可为 hadoop 用户增加管理员权限,方便部署,避免一些对新手来说比较棘手的权限问题:
1.sudo adduser hadoop sudo
最后注销当前用户(点击屏幕右上角的齿轮,选择注销),返回登陆界面。在登陆界面中选择刚创建的 hadoop 用户进行登陆。

用 hadoop 用户登录后,我们先更新一下 apt,后续我们使用 apt 安装软件,如果没更新可能有一些软件安装不了。按 ctrl+alt+t 打开终端窗口,执行如下命令:
1.sudo apt-get update

更改一些配置文件,用的是 vim(vi增强版,基本用法相同),建议安装一下(如果你实在还不会用 vi/vim 的,请将后面用到 vim 的地方改为 gedit,这样可以使用文本编辑器进行修改,并且每次文件更改完成后请关闭整个 gedit 程序,否则会占用终端):
1.sudo apt-get install vim

stall vim
安装后,可以使用如下命令登陆本机:
1.ssh localhost
Shell 命令
此时会有如下提示(SSH首次登陆提示),输入 yes 。然后按提示输入密码 hadoop,这样就登陆到本机了。
在这里插入图片描述
SSH首次登陆提示
但这样登陆是需要每次输入密码的,我们需要配置成SSH无密码登陆比较方便。
首先退出刚才的 ssh,就回到了我们原先的终端窗口,然后利用 ssh-keygen 生成密钥,并将密钥加入到授权中:
1.exit # 退出刚才的 ssh localhost
cd ~/.ssh/ # 若没有该目录,请先执行一次ssh localhost
ssh-keygen -t rsa # 会有提示,都按回车就可以
cat ./id_rsa.pub >> ./authorized_keys # 加入授权
chmod 0600 ~/.ssh/authorized_keys
3.此时再用 ssh localhost 命令,无需输入密码就可以直接登陆了

四、安装Java环境
Java环境可选择 Oracle 的 JDK,或是 OpenJDK直接通过命令安装 OpenJDK 8。
1、更新软件包列表:
sudo apt-get update
2、安装openjdk-8-jdk:
sudo apt-get install openjdk-8-jdk
3、查看java版本,看看是否安装成功:
java -version

上述安装过程需要访问网络下载相关文件,请保持联网状态。安装结束以后,需要配置JAVA_HOME环境变量,请在Linux终端中输入下面命令打开当前登录用户的环境变量配置文件.bashrc:
Shell 命令
1.vim ~/.bashrc

在文件最前面添加如下单独一行(注意,等号“=”前后不能有空格),然后保存退出:
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-amd64
接下来,要让环境变量立即生效,请执行如下代码:
1.source ~/.bashrc # 使变量设置生效
执行上述命令后,可以检验一下是否设置正确:
1.echo KaTeX parse error: Expected 'EOF', got '#' at position 15: JAVA_HOME #̲ 检验变量值 2.java -…JAVA_HOME/bin/java -version # 与直接执行java -version一样

如果你安装了多个版本的jdk,你可以通过以下命令在这些版本之间切换:
sudo update-alternatives –config java
输入数字,选择版本。

至此,就成功安装了Java环境。下面就可以进入Hadoop的安装。

五、安装Cassandra
主要根据链接https://blog.csdn.net/weixin_34205826/article/details/89533318和官方网站https://cassandra.apache.org/download/

用于指定主版本号,不带点,并附加x。
最新的是311x。
对于较老的版本中,可以是一个30x,22x或21x。
添加Cassandra的Apache存储库/etc/apt/sources.list.d/cassandra.sources.list,例如最新的3.11版本:
echo “deb http://www.apache.org/dist/cassandra/debian 311x main” | sudo tee -a /etc/apt/sources.list.d/cassandra.sources.list
添加Apache Cassandra存储库密钥:
curl https://www.apache.org/dist/cassandra/KEYS | sudo apt-key add -
更新存储库:
sudo apt-get update
如果您遇到此错误:
GPG error: http://www.apache.org 311x InRelease: The following signatures couldn’t be verified because the public key is not available: NO_PUBKEY A278B781FE4B2BDA
然后添加公钥A278B781FE4B2BDA如下:
sudo apt-key adv --keyserver pool.sks-keyservers.net --recv-key A278B781FE4B2BDA
并重复sudo apt-get update。实际的密钥可能不同,您可以从错误消息本身获取。有关Apache贡献者公钥的完整列表,请参阅https://www.apache.org/dist/cassandra/KEYS。
安装Cassandra:
sudo apt-get install cassandra
您可以启动Cassandra sudo service cassandra start并将其停止sudo service cassandra stop。但是,通常服务会自动启动。因此,如果需要进行任何配置更改,请务必将其停止。
通过nodetool status从命令行调用来验证Cassandra是否正在运行。
配置文件的默认位置是/etc/cassandra。
日志和数据目录的默认位置是/var/log/cassandra/和/var/lib/cassandra。
可以配置启动选项(堆大小等)/etc/default/cassandra。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

哈喽朝龙

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值