大数据技术Hive之五

最新推荐文章于 2022-11-14 23:52:52 发布
最新推荐文章于 2022-11-14 23:52:52 发布
阅读量221 收藏
点赞数
分类专栏： hadoop
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhanglei_16/article/details/95720558
版权

七 函数

7.1 系统自带的函数

1：查看系统自带的函数

hive> show functions;

:2：显示自带的函数的用法

hive> desc function upper;

:3：详细显示自带的函数的用法

hive> desc function extended upper;

7.2 自定义函数

1：Hive 自带了一些函数，比如：max/min等，但是数量有限，自己可以通过自定义UDF来方便的扩展。

:2：当Hive提供的内置函数无法满足你的业务处理需要时，此时就可以考虑使用用户自定义函数（UDF：user-defined function）。

3：根据用户自定义函数类别分为以下三种：

       （1）UDF（User-Defined-Function）

              一进一出

       （2）UDAF（User-Defined Aggregation Function）

              聚集函数，多进一出

              类似于：count/max/min

       （3）UDTF（User-Defined Table-Generating Functions）

              一进多出

              如lateral view explore()

4：官方文档地址

https://cwiki.apache.org/confluence/display/Hive/HivePlugins

5：编程步骤：

       （1）继承org.apache.hadoop.hive.ql.UDF

       （2）需要实现evaluate函数；evaluate函数支持重载；

       （3）在hive的命令行窗口创建函数

              a）添加jar

                     add jar linux_jar_path

              b）创建function，

                     create [temporary] function [dbname.]function_name AS class_name;

       （4）在hive的命令行窗口删除函数

              Drop [temporary] function [if exists] [dbname.]function_name;

6：注意事项

       UDF必须要有返回类型，可以返回null，但是返回类型不能为void；

7.3 自定义UDF函数开发案例

1：创建一个java工程，并创建一个lib文件夹

2：将hive的jar包解压后，将apache-hive-1.2.1-bin\lib文件下的jar包都拷贝到java工程中。

3：创建一个类

package Hive;
import org.apache.hadoop.hive.ql.exec.UDF;

public class Lower extends UDF {
    public String evaluate (final String s) {
        if (s == null) {
            return null;
        }
        return s.toString().toLowerCase();
    }
}

4：打成jar包上传到服务器/opt/datas/jars/udf.jar

5：将jar包添加到hive的classpath

hive (default)> /opt/datas/zhang-1.0-SNAPSHOT.jar

6：创建临时函数与开发好的java class关联(全类名)

hive (default)> create temporary function udf_lower as "Hive.Lower";

7：即可在hql中使用自定义的函数strip 

hive (default)> select ename, udf_lower(ename) lowername from emp;

 select ename `大写`, udf_lower(ename) `小写` from emp;

八 压缩和存储

8.1 Hadoop源码编译支持Snappy压缩

8.1.1 资源准备

1：CentOS联网

配置CentOS能连接外网。Linux虚拟机ping www.baidu.com 是畅通的

注意：采用root角色编译，减少文件夹权限出现问题

2：jar包准备(hadoop源码、JDK8 、maven、protobuf)

（1）hadoop-2.8.4-src.tar.gz

（2）jdk-8u144-linux-x64.tar.gz

（3）snappy-1.1.3.tar.gz

（4）apache-maven-3.0.5-bin.tar.gz

（5）protobuf-2.5.0.tar.gz

由于hadoop-2.8.4已经支持snappy压缩，所以这里只是了解一下编译过程。

8.1.2 jar包安装

1：注意：所有操作必须在root用户下完成

2：JDK解压、配置环境变量JAVA_HOME和PATH，验证java-version(如下都需要验证是否配置成功)

     tar -zxf jdk-8u144-linux-x64.tar.gz -C /opt/mod/

     vi /etc/profile

#JAVA_HOME

export JAVA_HOME=/opt/mod/jdk1.8.0_144

export PATH=$PATH:$JAVA_HOME/bin

      source /etc/profile

      验证命令：java -version

3：Maven解压、配置  MAVEN_HOME和PATH。

     tar -zxvf apache-maven-3.0.5-bin.tar.gz -C /opt/module/

     vi /etc/profile

#MAVEN_HOME

export MAVEN_HOME=/opt/mod/apache-maven-3.0.5

export PATH=$PATH:$MAVEN_HOME/bin

      source /etc/profile

验证命令：mvn -version

8.1.3 编译源码

1：准备编译环境

yum install svn

yum install autoconf automake libtool cmake

yum install ncurses-devel

yum install openssl-devel

yum install gcc*

2：编译安装snappy

tar -zxvf snappy-1.1.3.tar.gz -C /opt/mod/

cd snappy-1.1.3/

./configure

make

make install

# 查看snappy库文件

ls -lh /usr/local/lib |grep snappy

3：编译安装protobuf

tar -zxvf protobuf-2.5.0.tar.gz -C /opt/module/

cd protobuf-2.5.0/

./configure 

make 

make install

# 查看protobuf版本以测试是否安装成功

protoc --version

5：编译hadoop native

tar -zxvf hadoop-2.8.4-src.tar.gz

cd hadoop-2.8.4-src/

mvn clean package -DskipTests -Pdist,native -Dtar -Dsnappy.lib=/usr/local/lib -Dbundle.snappy

执行成功后，/opt/software/hadoop-2.8.4-src/hadoop-dist/target/hadoop-2.8.4.tar.gz即为新生成的支持snappy压缩的二进制安装包。

8.2 Hadoop压缩配置

8.2.1 MR支持的压缩编码

压缩格式

工具

算法

文件扩展名

是否可切分

DEFAULT

无

DEFAULT

.deflate

否

Gzip

gzip

DEFAULT

.gz

否

bzip2

bzip2

bzip2

.bz2

是

LZO

lzop

LZO

.lzo

是

Snappy

无

Snappy

.snappy

否

为了支持多种压缩/解压缩算法，Hadoop引入了编码/解码器，如下表所示

压缩格式

对应的编码/解码器

DEFLATE

org.apache.hadoop.io.compress.DefaultCodec

gzip

org.apache.hadoop.io.compress.GzipCodec

bzip2

org.apache.hadoop.io.compress.BZip2Codec

LZO

com.hadoop.compression.lzo.LzopCodec

Snappy

org.apache.hadoop.io.compress.SnappyCodec

压缩性能的比较

压缩算法

原始文件大小

压缩文件大小

压缩速度

解压速度

gzip

8.3GB

1.8GB

17.5MB/s

58MB/s

bzip2

8.3GB

1.1GB

2.4MB/s

9.5MB/s

LZO

8.3GB

2.9GB

49.3MB/s

74.6MB/s

http://google.github.io/snappy/

On a single core of a Core i7 processor in 64-bit mode, Snappy compresses at about 250 MB/sec or more and decompresses at about 500 MB/sec or more.

8.2.2 压缩参数配置

要在Hadoop中启用压缩，可以配置如下参数（mapred-site.xml文件中）：

参数

默认值

阶段

建议

io.compression.codecs  

（在core-site.xml中配置）

org.apache.hadoop.io.compress.DefaultCodec, org.apache.hadoop.io.compress.GzipCodec, org.apache.hadoop.io.compress.BZip2Codec,

org.apache.hadoop.io.compress.Lz4Codec

输入压缩

Hadoop使用文件扩展名判断是否支持某种编解码器

mapreduce.map.output.compress

false

mapper输出

这个参数设为true启用压缩

mapreduce.map.output.compress.codec

org.apache.hadoop.io.compress.DefaultCodec

mapper输出

使用LZO、LZ4或snappy编解码器在此阶段压缩数据

mapreduce.output.fileoutputformat.compress

false

reducer输出

这个参数设为true启用压缩

mapreduce.output.fileoutputformat.compress.codec

org.apache.hadoop.io.compress. DefaultCodec

reducer输出

使用标准工具或者编解码器，如gzip和bzip2

mapreduce.output.fileoutputformat.compress.type

RECORD

reducer输出

SequenceFile输出使用的压缩类型：NONE和BLOCK

 

8.3 开启Map输出阶段压缩

开启map输出阶段压缩可以减少job中map和Reduce task间数据传输量。具体配置如下：

案例实操：

1：开启hive中间传输数据压缩功能,默认为false

hive (default)> set hive.exec.compress.intermediate=true;

2：开启mapreduce中map输出压缩功能,默认为false

hive (default)> set mapreduce.map.output.compress=true;

3：设置mapreduce中map输出数据的压缩方式

hive (default)> set mapreduce.map.output.compress.codec= org.apache.hadoop.io.compress.SnappyCodec;

4：执行查询语句

hive (default)> select count(ename) name from emp;

8.4 开启Reduce输出阶段压缩

当Hive将输出写入到表中时，输出内容同样可以进行压缩。属性hive.exec.compress.output控制着这个功能。用户可能需要保持默认设置文件中的默认值false，这样默认的输出就是非压缩的纯文本文件了。用户可以通过在查询语句或执行脚本中设置这个值为true，来开启输出结果压缩功能。

案例实操：

hive (default)> set mapreduce.job.reduces=3;

1：开启hive最终输出数据压缩功能,默认为false

hive (default)> set hive.exec.compress.output=true;

2：开启mapreduce最终输出数据压缩,默认为false

hive (default)> set mapreduce.output.fileoutputformat.compress=true;

3：设置mapreduce最终数据输出压缩方式

hive (default)> set mapreduce.output.fileoutputformat.compress.codec = org.apache.hadoop.io.compress.SnappyCodec;

4：设置mapreduce最终数据输出压缩为块压缩

hive (default)> set mapreduce.output.fileoutputformat.compress.type=BLOCK;

5：测试一下输出结果是否是压缩文件

hive (default)> insert overwrite local directory '/opt/datas/distribute-result' select * from emp distribute by deptno sort by empno desc;

测试:不设置reduce，结果是否是压缩格式

hive (default)> set mapreduce.job.reduces=-1;

insert overwrite local directory '/opt/datas/distribute-result' select * from stu;

8.5 文件存储格式

Hive支持的存储数的格式主要有：TEXTFILE 、SEQUENCEFILE、ORC、PARQUET。

简写：

行储存：textFile 、 sequencefile 、

列储存：orc 、parquet

8.5.1 列式存储和行式存储

上图左边为逻辑表，右边第一个为行式存储，第二个为列式存储。

行存储的特点： 查询满足条件的一整行数据的时候，列存储则需要去每个聚集的字段找到对应的每个列的值，行存储只需要找到其中一个值，其余的值都在相邻地方，所以此时行存储查询的速度更快。

列存储的特点： 因为每个字段的数据聚集存储，在查询只需要少数几个字段的时候，能大大减少读取的数据量；每个字段的数据类型一定是相同的，列式存储可以针对性的设计更好的设计压缩算法。

TEXTFILE和SEQUENCEFILE的存储格式都是基于行存储的；

ORC和PARQUET是基于列式存储的。

8.5.2 TextFile格式

默认格式，数据不做压缩，磁盘开销大，数据解析开销大。可结合Gzip、Bzip2使用，但使用Gzip这种方式，hive不会对数据进行切分，从而无法对数据进行并行操作。

8.5.3 Orc格式

Orc (Optimized Row Columnar)是Hive 0.11版里引入的新的存储格式。

可以看到每个Orc文件由1个或多个stripe组成，每个stripe250MB大小，这个Stripe实际相当于RowGroup概念，不过大小由4MB->250MB，这样应该能提升顺序读的吞吐率。每个Stripe里有三部分组成，分别是Index Data，Row Data，Stripe Footer：

1：Index Data：一个轻量级的index，默认是每隔1W行做一个索引。这里做的索引应该只是记录某行的各字段在Row Data中的offset。

2：Row Data：存的是具体的数据，先取部分行，然后对这些行按列进行存储。对每个列进行了编码，分成多个Stream来存储。

3：Stripe Footer：存的是各个Stream的类型，长度等信息。

每个文件有一个File Footer，这里面存的是每个Stripe的行数，每个Column的数据类型信息等；每个文件的尾部是一个PostScript，这里面记录了整个文件的压缩类型以及FileFooter的长度信息等。在读取文件时，会seek到文件尾部读PostScript，从里面解析到File Footer长度，再读FileFooter，从里面解析到各个Stripe信息，再读各个Stripe，即从后往前读。

8.5.4 Parquet格式

Parquet是面向分析型业务的列式存储格式，由Twitter和Cloudera合作开发，2015年5月从Apache的孵化器里毕业成为Apache顶级项目。

Parquet文件是以二进制方式存储的，所以是不可以直接读取的，文件中包括该文件的数据和元数据，因此Parquet格式文件是自解析的。

通常情况下，在存储Parquet数据的时候会按照Block大小设置行组的大小，由于一般情况下每一个Mapper任务处理数据的最小单位是一个Block，这样可以把每一个行组由一个Mapper任务处理，增大任务执行并行度。

Parquet文件的格式如下图所示：

上图展示了一个Parquet文件的内容，一个文件中可以存储多个行组，文件的首位都是该文件的Magic Code，用于校验它是否是一个Parquet文件，Footer length记录了文件元数据的大小，通过该值和文件长度可以计算出元数据的偏移量，文件的元数据中包括每一个行组的元数据信息和该文件存储数据的Schema信息。除了文件中每一个行组的元数据，每一页的开始都会存储该页的元数据，在Parquet中，有三种类型的页：数据页、字典页和索引页。数据页用于存储当前行组中该列的值，字典页存储该列值的编码字典，每一个列块中最多包含一个字典页，索引页用来存储当前行组下该列的索引，目前Parquet中还不支持索引页。

8.5.5 主流文件存储格式对比实验

从存储文件的压缩比和查询速度两个角度对比。

存储文件的压缩比测试：

1：测试数据（bigtable 大小为116MB）

2：TextFile

（1）创建表，存储数据格式为TEXTFILE

 

create table bigtable_text(
id bigint, 
time bigint, 
uid string, 
keyword string, 
url_rank int, 
click_num int, 
click_url string) 
row format delimited fields terminated by '\t'
stored as textfile;

（2）向表中加载数据

hive (default)> load data local inpath '/opt/datas/bigtable' into table bigtable_text;

（3）查看表中数据大小

hive (default)> dfs -du -h /user/hive/warehouse/bigtable_text

          115.1 M  /user/hive/warehouse/bigtable_text/bigtable

          

3：ORC

       （1）创建表，存储数据格式为ORC

create table bigtable_orc(
id bigint, 
time bigint, 
uid string, 
keyword string, 
url_rank int, 
click_num int, 
click_url string) 
row format delimited fields terminated by '\t'
stored as orc;

（2）向表中加载数据

hive (default)> insert into table bigtable_orc select * from bigtable_text;

（3）查看表中数据大小

hive (default)> dfs -du -h /user/hive/warehouse/bigtable_orc/ ;

          29.6 M  /user/hive/warehouse/bigtable_orc/000000_0

          

4：Parquet

       （1）创建表，存储数据格式为parquet

create table bigtable_parquet(
id bigint, 
time bigint, 
uid string, 
keyword string, 
url_rank int, 
click_num int, 
click_url string) 
row format delimited fields terminated by '\t'
stored as parquet;

（2）向表中加载数据

hive (default)> insert into table bigtable_parquet select * from bigtable_text;

（3）查看表中数据大小

hive (default)> dfs -du -h /user/hive/warehouse/bigtable_parquet/;

         101.1 M  /user/hive/warehouse/bigtable_parquet/000000_0

         

存储文件的压缩比总结：

ORC >  Parquet >  textFile

存储文件的查询速度测试：

1）TextFile

hive (default)> select count(*) from bigtable_text;

Total MapReduce CPU Time Spent: 0 msec
OK
_c0
1000000
Time taken: 2.769 seconds, Fetched: 1 row(s)

2）ORC

hive (default)> select count(*) from bigtable_orc;

Total MapReduce CPU Time Spent: 0 msec
OK
_c0
1000000
Time taken: 1.691 seconds, Fetched: 1 row(s)

3）Parquet

hive (default)> select count(*) from bigtable_parquet;

Total MapReduce CPU Time Spent: 0 msec
OK
_c0
1000000
Time taken: 1.747 seconds, Fetched: 1 row(s)

存储文件的查询速度总结：查询速度相差不多。

8.6 存储和压缩结合

8.6.1 修改Hadoop集群具有Snappy压缩方式

1）查看hadoop checknative命令使用

hadoop

            checknative [-a|-h]  check native hadoop and compression libraries availability

2）查看hadoop支持的压缩方式

hadoop checknative

17/12/24 20:32:52 WARN bzip2.Bzip2Factory: Failed to load/initialize native-bzip2 library system-native, will use pure-Java version

17/12/24 20:32:52 INFO zlib.ZlibFactory: Successfully loaded & initialized native-zlib library

Native library checking:

hadoop:  true /opt/mod/hadoop-2.8.4/lib/native/libhadoop.so

zlib:    true /lib64/libz.so.1

snappy:  false

lz4:     true revision:99

bzip2:   true

3）将编译好的支持Snappy压缩的hadoop-2.8.4.tar.gz包导入到bigdata31的/opt/software中

4）解压hadoop-2.8.4.tar.gz到当前路径

tar -zxvf hadoop-2.8.4.tar.gz

5）进入到/opt/software/hadoop-2.8.4/lib/native路径可以看到支持Snappy压缩的动态链接库

pwd

/opt/software/hadoop-2.8.4/lib/native

6）拷贝/opt/software/hadoop-2.8.4/lib/native里面的所有内容到开发集群的/opt/mod/hadoop-2.8.4/lib/native路径上

cp ../native/* /opt/mod/hadoop-2.8.4/lib/native/

7）分发集群 scp 到其他集群目录

scp - r ./native/ root@主机名:绝对路径

8）再次查看hadoop支持的压缩类型

hadoop checknative

17/12/24 20:45:02 WARN bzip2.Bzip2Factory: Failed to load/initialize native-bzip2 library system-native, will use pure-Java version

17/12/24 20:45:02 INFO zlib.ZlibFactory: Successfully loaded & initialized native-zlib library

Native library checking:

hadoop:  true /opt/mod/hadoop-2.8.4/lib/native/libhadoop.so

zlib:    true /lib64/libz.so.1

snappy:  true /opt/mod/hadoop-2.8.4/lib/native/libsnappy.so.1

lz4:     true revision:99

bzip2:   false

9）重新启动hadoop集群和hive

8.6.2 测试存储和压缩

官网：https://cwiki.apache.org/confluence/display/Hive/LanguageManual+ORC

ORC存储方式的压缩：

Key

Default

Notes

orc.compress

ZLIB

high level compression (one of NONE, ZLIB, SNAPPY)

orc.compress.size

262,144

number of bytes in each compression chunk

orc.stripe.size

67,108,864

number of bytes in each stripe

orc.row.index.stride

10,000

number of rows between index entries (must be >= 1000)

orc.create.index

true

whether to create row indexes

orc.bloom.filter.columns

""

comma separated list of column names for which bloom filter should be created

orc.bloom.filter.fpp

0.05

false positive probability for bloom filter (must >0.0 and <1.0)

 

1：创建一个非压缩的的ORC存储方式

       （1）建表语句

create table bigtable_noorc(
id bigint, 
time bigint, 
uid string, 
keyword string, 
url_rank int, 
click_num int, 
click_url string) 
row format delimited fields terminated by '\t'
stored as orc tblproperties ("orc.compress"="NONE");

       （2）插入数据

hive (default)> insert into table bigtable_noorc select * from bigtable_text;

       （3）查看插入后数据

hive (default)> dfs -du -h /user/hive/warehouse/bigtable_noorc/;

          65.6 M  /user/hive/warehouse/bigtable_noorc/000000_0

           

2：创建一个SNAPPY压缩的ORC存储方式

       （1）建表语句

create table bigtable_orc_snappy(
id bigint, 
time bigint, 
uid string, 
keyword string, 
url_rank int, 
click_num int, 
click_url string) 
row format delimited fields terminated by '\t'
stored as orc tblproperties ("orc.compress"="SNAPPY");

       （2）插入数据

hive (default)> insert into bigtable_orc_snappy select * from bigtable_text ;

       （3）查看插入后数据

hive (default)> dfs -du -h /user/hive/warehouse/bigtable_orc_snappy/;

          42.8 M  /user/hive/warehouse/bigtable_orc_snappy/000000_0

          

3：上一节中默认创建的ORC存储方式，导入数据后的大小为

29.6 M  /user/hive/warehouse/bigtable_orc/000000_0

比Snappy压缩的还小。原因是orc存储文件默认采用ZLIB压缩。比snappy压缩的小。

4）存储方式和压缩总结：

     在实际的项目开发当中，hive表的数据存储格式一般选择：orc或parquet。压缩方式一般选择snappy，lzo。

 

          

zhanglei_16
关注
专栏目录
Hive mapreduce job报错解决
涵sir的博客
07-05 2190
问题描述：使用beeline连接hiveserver2，将HDFS上的json格式数据导入到一个临时表，然后再通过insert into ... select ...将数据导入正式表中，但在这一步Hive报错，Error信息为：ERROR : FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask 详细报错如下: INFO : Completed compiling command.
hive执行报错的解决方式--bug(1)
Diana的博客
06-05 2844
Query ID = 11102129_20190605160101_98bcf445-eea6-437a-9073-e2394663d618. Total jobs = 1. Launching Job 1 out of 1. Number of reduce tasks not specified. Estimated from input data size: 1099. In order...
HIVE 3 使用 MR 引擎多表关联 (JOIN) 导致丢数的问题复现、问题根源及解决方案 (附代码)
知行合一
09-16 4857
HIVE 3 使用 MR 引擎多表关联 (JOIN) 导致丢数的问题复现、问题根源及解决方案 (附代码)
hive生产实践问题（一）在使用Hive Client跑job时，一直提示job被kill，
xuxu96
03-31 3922
然后观察YARN的WebUI进行查看，如图： 然后观察Hive Client的控制台输出，如下： Launching Job 1 out of 3 Number of reduce tasks is set to 0 since there’s no reduce operator Starting Job = job_1552895066408_0001, Tracking URL = htt...
hive实现单词统计
m0_61232019的博客
11-14 1726
一、前期准备 二、操作步骤 1.在hive下创建一个数据库 ​编辑 2. 在wordcount库下创建一个表 3. 在虚拟机上创建一个文件 4. 将在linux上创建的data文件，上传到新建的hive的worltest表中 5. 进入hive, 查询表wordtest信息 6. 新建一个wordtest1表，只有一列值，用来储存wordtest表数据中的内容 7. 将表wordtest中的数据存放进新建的表wordtest1中 ​编辑8. 查询wordtest1表中的信息 9.
尚硅谷大数据技术之Hive1
08-04
【尚硅谷大数据技术之Hive1】章节主要介绍了Hive的基本概念、优缺点、架构原理以及与传统数据库的比较。 1. **Hive是什么** Hive是由Facebook开源的一个数据仓库工具，专门用来处理海量的结构化日志数据统计。它...
尚硅谷大数据技术hive学习笔记
最新发布
10-27
"尚硅谷大数据技术hive学习笔记" Hive 是一个基于 Hadoop 的数据仓库工具，可以将结构化的数据文件映射为一张表，并提供类 SQL 查询功能。 Hive 的核心是将 HQL 转化成 MapReduce 程序，通过 SQL 语言中常用的操作...
尚硅谷大数据技术之 Hive1
08-03
【尚硅谷大数据技术之 Hive1】章节主要介绍了Hive的基本概念、优缺点、架构原理以及与数据库的比较。 1. **Hive基本概念** Hive是由Facebook开源的一种数据仓库工具，设计用来处理海量的结构化日志数据统计。它...
尚硅谷大数据技术之Hive-04（面试题）1
08-03
这些题目展示了Hive在处理大数据时的能力，包括时间序列分析、数据分组、日期操作以及复杂逻辑的实现。解答这些问题需要深入理解Hive的SQL语法和窗口函数的用法，同时也需要具备一定的数据处理和分析能力。在实际...
查看hive配置
hellojoy的博客
05-29 7644
在启动hive时设置配置属性信息$ bin/hive --hiveconf &lt;property=value&gt;查看当前所有的配置信息hive &gt; set ;hive &gt;set hive.metastore.uris;hive (db_hive)&gt; set system:user.name ;system:user.name=roothive (db_hive)&gt; ...
【Hive】hive窗口函数/分析函数 over子句
人生所向，皆是美好
01-05 1197
文章目录over子句介绍1. 什么是over子句2. over子句的开窗范围3. window clause4. over子句默认值4.1 order by4.2 partition by4.3 partition by + order by几个常用开窗函数案例引出row_numberrankdense_rank案例答案 over子句介绍 over子句参考链接 https://blog.csdn....
hive insert overwrite仅仅覆盖生成的文件，并不会覆盖目录
fengfengzai0101的博客
02-25 8347
介绍 hadoop fs -ls /mytest/warehouse/mytable/ Found 4 items -rwxrwxrwx 3 myvm users 1163 2016-11-24 03:11 /mytest/warehouse/mytable/000000_0 -rwxrwxrwx 3 myvm users 0 2016-11-24 03:09 /mytest/warehouse...
hive查看当前参数设置
yangnianjinxin的博客
09-30 4220
hive调整参数过程中，有时候看下默认参数还是有必要的，那么如何查看默认参数呢？ set : 查看所有参数 set 参数: 查看参数当前值 参考 https://www.cnblogs.com/carltmf/p/13191392.html
成功解决 XXX--1.0-SNAPSHOT.jar中没有主清单属性
热门推荐
世幻水的博客
10-08 6万+
问题描述 在运行使用maven打包的项目之后，运行项目发现主类没有找到。提示XXX--1.0-SNAPSHOT.jar中没有主清单属性。 问题原因 maven在打包时没有配置主类。 解决方案 如果您使用的是Springboot框架，那么只需要在pom.xml中添加如下配置，会自动检测主类。 <build> <plugins> <plugin> <groupId>org.springframework.boo
Hive调优实践
_朝和
08-25 6245
Hive调优实践
Hive基本命令整理
java 学习
05-26 587
创建表： hive&gt; CREATE TABLE pokes (foo INT, bar STRING); Creates a table called pokes with two columns, the first being an integer and the other a string 创建一个新表，结构与其他一样 hive&gt; create table new_...
Hive表中四种不同数据导出方式以及如何自定义导出列分隔符
NIITYZU的专栏
12-29 1万+
Hive四种数据导出方式介绍
尚硅谷大数据技术Hive详解
"大数据之hive笔记" 这篇笔记主要介绍了Apache Hive，一个基于Hadoop的数据仓库工具，用于处理和分析大规模的结构化数据。Hive由Facebook开源，它提供了类SQL查询语言（HQL），简化了对存储在HDFS上的大量数据进行...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值