大数据系统开发综合实验(二)Hive_MySQL_Sqoop配置_大数据开发实践 sqoop + hive

先自我介绍一下,小编浙江大学毕业,去过华为、字节跳动等大厂,目前阿里P7

深知大多数程序员,想要提升技能,往往是自己摸索成长,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年最新大数据全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友。
img
img
img
img
img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!

由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新

如果你需要这些资料,可以添加V获取:vip204888 (备注大数据)
img

正文

2.2修改mysql密码

2.3修改MySQL默认编码

2.4用户远程登录配置

二、Hive安装配置

1.上传解压hive安装包

2.配置hive-env.sh文件

3.配置MySQL驱动包

#注意,这里要保证三台虚拟机均已启动!!!

三、Sqoop安装配置

1. 上传Sqoop,并解压

2. 重命名文件夹名

3. 进入目录,配置Sqoop

4. 配置系统环境变量

5. 连接Mysql,验证Sqoop安装结果

#注意,该步骤下hadoop必须启动


本文内容在Hadoop01中操作,不对Hadoop02,Hadoop03操作!!!

一、MySql安装配置

1.1卸载系统中的Mariadb

yum remove mysql-libs

1.2上传并解压rpm的压缩包

cd /export/software

mkdir mysql_rpm

tar -xvf mysql-5.7.25-1.el7.x86_64.rpm-bundle.tar -C /export/software/mysql_rpm/

1.3安装Mysql

注意:因逐层建存在依赖,安装顺序不要随意变

cd mysql_rpm

rpm -ivh mysql-community-common-5.7.25-1.el7.x86_64.rpm

rpm -ivh mysql-community-libs-5.7.25-1.el7.x86_64.rpm

rpm -ivh mysql-community-libs-compat-5.7.25-1.el7.x86_64.rpm

rpm -ivh mysql-community-client-5.7.25-1.el7.x86_64.rpm

rpm -ivh mysql-community-server-5.7.25-1.el7.x86_64.rpm

rpm -ivh mysql-community-devel-5.7.25-1.el7.x86_64.rpm

删除安装包后,查看是否安装成功

cd /export/software

rm -rf mysql_rpm/* && rpm -qa|grep -i mysql

2.1启动mysql服务

#1.临时启动mysql服务

systemctl start mysqld

#2.开机启动mysql服务

systemctl enable mysqld

#3.查看MySQL的启动状态

systemctl status mysqld

#4.查看mysql进程是否正常开启

ps -le | grep mysqld

netstat -ntlp | grep mysqld

2.2修改mysql密码

mysql安装完成之后,在/var/log/mysqld.log文件中给root生成了一个默认密码。通过以下命令找到密码,并复制:

grep 'temporary password' /var/log/mysqld.log

修改密码策略

生产环境为了安全考虑,不要改密码策略!!!

实验环境为了方便记mysql密码,可选择下面的方案:

vim /etc/my.cnf

在配置文件中添加下面的内容:

validate_password=off

重新启动mysql服务使配置生效:

systemctl restart mysqld

#登陆mysql

mysql -u root -p

输入刚才复制的密码,登陆成功

修改root用户密码为:123456

set password for 'root'@'localhost'=password('123456');

MySQL默认配置文件路径:

配置文件: /etc/my.cnf

日志文件: /var/log//var/log/mysqld.log

服务启动脚本: /usr/lib/systemd/system/mysqld.service

socket文件: /var/run/mysqld/mysqld.pid

2.3修改MySQL默认编码

编辑 配置文件

vim /etc/my.cnf

添加如下配置:

skip_ssl

character_set_server=utf8

init_connect='SET NAMES utf8'

重启MySQL服务

systemctl restart mysqld

登陆mysql

mysql -uroot -p123456

查看MySQL默认编码确认是否修改成功:

show variables like 'char%';

查看排序规则

show variables like 'collation%';

2.4用户远程登录配置

mysql默认只允许root帐户在本地登录,想要远程连接mysql,必须开启root用户允许远程连接,或者添加一个允许远程连接的帐户。

开启root用户远程连接(任意IP都可以访问)

GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '123456' WITH GRANT OPTION;
FLUSH PRIVILEGES;

二、Hive安装配置

1.上传解压hive安装包

cd /export/software

tar -zxvf /export/software/apache-hive-1.2.1-bin.tar.gz -C /export/servers/

2.配置hive-env.sh文件

#打开配置文件目录,复制文件

cd /export/servers/apache-hive-1.2.1-bin/conf

cp hive-env.sh.template hive-env.sh

打开配置文件

vim hive-env.sh

添加Hadoop环境变量

export HADOOP_HOME=/export/servers/hadoop-2.7.4

#修改hive-site.xml配置文件

vim hive-site.xml

#加入一下信息

<configuration>

    <property>

    <name>javax.jdo.option.ConnectionURL</name>

        <value>jdbc:mysql://localhost:3306/hive?createDatabaseIfNotExist=true</value>

        <description>Mysql连接协议</description>

    </property>

    <property>

        <name>javax.jdo.option.ConnectionDriverName</name>

        <value>com.mysql.jdbc.Driver</value>

        <description>JDBC连接驱动</description>

    </property>

    <property>



**网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。**

**需要这份系统化的资料的朋友,可以添加V获取:vip204888 (备注大数据)**
![img](https://img-blog.csdnimg.cn/img_convert/d76c872843c5ccb91aa3816a70919eb5.png)

**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**

     <name>javax.jdo.option.ConnectionDriverName</name>

        <value>com.mysql.jdbc.Driver</value>

        <description>JDBC连接驱动</description>

    </property>

    <property>



**网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。**

**需要这份系统化的资料的朋友,可以添加V获取:vip204888 (备注大数据)**
[外链图片转存中...(img-wXqvtYq2-1713392958861)]

**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**

  • 21
    点赞
  • 14
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值