自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

大数据研究小白

莫得脑子的it人

  • 博客(10)
  • 资源 (1)
  • 收藏
  • 关注

原创 Spark - 集群与本地提交Spark任务问题记录

Idea本地远程提交Spark任务,方便调试

2022-09-01 17:43:59 1462 1

原创 Hive On Spark & SparkSQL On Hive 笔记

Hive On Spark & SparkSQL On Hive

2022-08-24 11:22:32 658

原创 HiveServer2频繁宕机 - Hive踩坑记录

在跑定时任务一段时间后,会出现管道断开的错误日志,并且Hs2的10000端口宕机。

2022-08-04 10:37:07 1489

原创 Hadoop - 启动NameNode:No valid image files found 报错记录

启动NameNode遇到的问题。

2022-07-11 14:44:20 1578

转载 Springboot打包方式记录

Springboot直接启动遇到的问题

2022-06-28 11:40:18 157

原创 Flume - HiveSink 踩坑记录

flume数据传输到hive的一些配置(hivesink)

2022-06-21 12:14:25 316

原创 序列化和反序列化(SerDe in Hadoop Hive)

1、序列化与反序列化的作用序列化是对象转化为字节序列的过程;反序列化是字节码恢复为对象(存在于内存中)的过程;对象的序列化主要有两种用途:对象的持久化,即把对象转换成字节序列后保存到文件中;对象数据的网络传送。2、SerDe本质编码的工具。3、Hadoop SerDeMapreduce过程中会大量创建对象,并且在内存和磁盘之间读写数据,需要序列化(对象转化为字节序列)存放于磁盘中,一般的编码方式会占用大量的内存,为了减小开销,hadoop的序列化简化了编码的过程,使得高效、.

2022-01-17 02:52:56 1093

原创 Hive -- HiveServer2服务启动

<连接事项>1、首先要检查Hive是否能启动。然后启动hiveServer2:2、开启metastore服务3、netstat -nltp 检查9083端口和10000端口是否开启若成功开启进入beeline后使用命令:成功连接hive客户端。<metastore作用>客户端连接metastore服务,metastore再去连接MySQL数据库来存取元数据。有了metastore服务,就可以有多个客户端同时连接,而且这些客户端不需要知道M.

2022-01-16 02:56:38 9933

原创 Hadoop -- 配置文件

core-site.xml<configuration><property> <name>fs.defaultFS</name> <value>hdfs://hd1:9000</value></property><property> <name>hadoop.tmp.dir</name> <value>/opt/apps/hadoop...

2022-01-15 19:22:48 865

原创 Hadoop 3.1.3 集群搭建踩坑记录 --Hive无法调用mapreduce

hive hadoop集成

2022-01-13 17:18:47 802

Hadoop3.1.3 配置文件

Hadoop3.1.3 配置文件

2022-01-15

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除