以词频统计算法为例,来介绍怎么在具体应用中使用Hive
一、 创建input目录,output目录会自动生成
其中input为输入目录,output目录为输出目录。
命令:
cd /usr/local/hadoop
mkdir input
二、 在input文件夹中创建两个测试文件file1.txt和file2.txt
命令:
cd /usr/local/hadoop/input
echo "hello world" > file1.txt
echo "hello hadoop" > file2.txt
三、 在终端编译运行程序
查看文件:
四、 通过HiveQL实现词频统计功能
只要编写下面7行代码,而且不需要进行编译生成jar来执行:
create table docs(line string);
load data inpath 'input' overwrite into table docs;
create table word_count as
select word, count(1) as count from
(select explode(split(line,' '))as word from docs) w
group by word
order by word;
五、 创建fusioninsight-hive的Project
六、 为创建好的fusioninsight-hive Project导入依赖jar
七、 创建一个名为com.fusioninsight.hive的Package
八、 创建实验所需的Java Class
在上一步创建好的Package下,创建一个名为HiveJdbc的Java Class:
创建一个名为HiveUDF的Java Class:
九、 编写HiveJdbc代码
package com.fusioninsight.hive;