HIVE User Guide 总结之三<HIVE select、join、参数、函数>

最新推荐文章于 2022-04-07 17:43:08 发布
最新推荐文章于 2022-04-07 17:43:08 发布
阅读量107 收藏
点赞数
原文链接：https://my.oschina.net/MrMichael/blog/307141
版权

三、 Hive Select

    语法：

SELECT [ALL | DISTINCT] select_expr, select_expr, ...
FROM table_reference
[WHERE where_condition] 
[GROUP BY col_list]
[   CLUSTER BY col_list
  | [DISTRIBUTE BY col_list] [SORT BY col_list]
] 
[LIMIT number]

3.1 Group By

  基本语法：

groupByClause:  
GROUP BY groupByExpression (, groupByExpression)*
 
groupByExpression: expression
 
groupByQuery:  
SELECT expression (, expression)* FROM src groupByClause?

    高级特性：

  • 聚合可进一步分为多个表，甚至发送到Hadoop的DFS的文件（可以进行操作，然后使用HDFS的utilitites）。例如我们可以根据性别划分，需要找到独特的页面浏览量按年龄划分。如下面的例子：

FROM pv_users 
  INSERT OVERWRITE TABLE pv_gender_sum
    SELECT pv_users.gender, count(DISTINCT pv_users.userid) 
    GROUP BY pv_users.gender 
  INSERT OVERWRITE DIRECTORY '/user/facebook/tmp/pv_age_sum'
    SELECT pv_users.age, count(DISTINCT pv_users.userid) 
    GROUP BY pv_users.age;

  • hive.map.aggr可以控制怎么进行汇总。默认为为true，配置单元会做的第一级聚合直接在MAP上的任务。这通常提供更好的效率，但可能需要更多的内存来运行成功。

set hive.map.aggr=true;
SELECT COUNT(*) FROM table2;

        PS:在要特定的场合使用可能会加效率。不过我试了一下，比直接使用False慢很多。

    3.2 Order /Sort By

    Order by 语法：

colOrder: ( ASC | DESC )
orderBy: ORDER BY colName colOrder? (',' colName colOrder?)*
 
query: SELECT expression (',' expression)* FROM src orderBy

    Sort By 语法：

    Sort顺序将根据列类型而定。如果数字类型的列，则排序顺序也以数字顺序。如果字符串类型的列，则排序顺序将字典顺序。

colOrder: ( ASC | DESC )
sortBy: SORT BY colName colOrder? (',' colName colOrder?)*
 
query: SELECT expression (',' expression)* FROM src sortBy

四、Hive Join

    语法：

join_table:
    table_reference JOIN table_factor [join_condition]
  | table_reference {LEFT|RIGHT|FULL} [OUTER] JOIN table_reference join_condition
  | table_reference LEFT SEMI JOIN table_reference join_condition
 
table_reference:
    table_factor
  | join_table
 
table_factor:
    tbl_name [alias]
  | table_subquery alias
  | ( table_references )
 
join_condition:
    ON equality_expression ( AND equality_expression )*
 
equality_expression:
    expression = expression

  •     Hive 只支持等值连接（equality joins）、外连接（outer joins）和（left/right joins）。

  •   Hive 不支持所有非等值的连接，因为非等值连接非常难转化到 map/reduce 任务。另外，

  •   Hive 支持多于 2 个表的连接。

 写 join 查询时，需要注意几个关键点：

    1.只支持等值join

                eg：

SELECT a.* FROM a JOIN b ON (a.id = b.id)
SELECT a.* FROM a JOIN b ON (a.id = b.id AND a.department = b.department)

                是正确的，然而:

 SELECT a.* FROM a JOIN b ON (a.id  b.id)

        是错误的。

    2.可以 join 多于 2 个表

        eg：

SELECT a.val, b.val, c.val FROM a JOIN b ON (a.key = b.key1) JOIN c ON (c.key = b.key2)

        如果join中多个表的 join key 是同一个，则 join 会被转化为单个 map/reduce 任务，

    eg：

SELECT a.val, b.val, c.val FROM a JOIN b
    ON (a.key = b.key1) JOIN c
    ON (c.key = b.key1)

被转化为单个 map/reduce 任务，因为 join 中只使用了 b.key1 作为 join key。

SELECT a.val, b.val, c.val FROM a JOIN b ON (a.key = b.key1)
  JOIN c ON (c.key = b.key2)
 
而这一 join 被转化为 2 个 map/reduce 任务。因为 b.key1 用于第一次 join 条件，而 b.key2 用于第二次 join。

  3．join 时，每次 map/reduce 任务的逻辑：

       reducer 会缓存 join 序列中除了最后一个表的所有表的记录，再通过最后一个表将结果序列化到文件系统。这一实现有助于在 reduce 端减少内存的使用量。实践中，应该把最大的那个表写在最后（否则会因为缓存浪费大量内存）。例如：

SELECT a.val, b.val, c.val FROM a JOIN b ON (a.key = b.key1) JOIN c ON (c.key = b.key1)

            所有表都使用同一个 join key（使用 1 次 map/reduce 任务计算）。Reduce 端会缓存 a 表和 b 表的记录，然后每次取得一个 c 表的记录就计算一次 join 结果，类似的还有：

SELECT a.val, b.val, c.val FROM a JOIN b ON (a.key = b.key1) JOIN c ON (c.key = b.key2)

这里用了 2 次 map/reduce 任务。第一次缓存 a 表，用 b 表序列化；第二次缓存第一次 map/reduce 任务的结果，然后用 c 表序列化。

    4．LEFT，RIGHT 和 FULL OUTER 关键字用于处理 join 中空记录的情况。

    eg：

SELECT a.val, b.val FROM a LEFT OUTER JOIN b ON (a.key=b.key)

    对应所有 a 表中的记录都有一条记录输出。当 a.key=b.key 时，输出的结果应该是 a.val, b.val，而当 b.key 中找不到等值的 a.key 记录时也会输出 a.val, NULL。“FROM a LEFT OUTER JOIN b”这句一定要写在同一行——意思是 a 表在 b 表的左边，所以 a 表中的所有记录都被保留了；

   “a RIGHT OUTER JOIN b”会保留所有 b 表的记录。OUTER JOIN 语义应该是遵循标准 SQL spec的。

        Join 发生在 WHERE 子句之前。如果你想限制 join 的输出，应该在 WHERE 子句中写过滤条件——或是在 join 子句中写。这里面一个容易混淆的问题是表分区的情况：

SELECT a.val, b.val FROM a LEFT OUTER JOIN b ON (a.key=b.key)
  WHERE a.ds='2009-07-07' AND b.ds='2009-07-07'

    会 join a 表到 b 表（OUTER JOIN），列出 a.val 和 b.val 的记录。WHERE 从句中可以使用其他列作为过滤条件。但是，如前所述，如果 b 表中找不到对应 a 表的记录，b 表的所有列都会列出 NULL，包括 ds 列。也就是说，join 会过滤 b 表中不能找到匹配 a 表 join key 的所有记录。这样的话，LEFT OUTER 就使得查询结果与 WHERE 子句无关了。解决的办法是在 OUTER JOIN 时使用以下语法：

SELECT a.val, b.val FROM a LEFT OUTER JOIN b
  ON (a.key=b.key AND
      b.ds='2009-07-07' AND
      a.ds='2009-07-07')

    这一查询的结果是预先在 join 阶段过滤过的，所以不会存在上述问题。这一逻辑也可以应用于 RIGHT 和 FULL 类型的 join 中。

 SELECT a.val1, a.val2, b.val, c.val
  FROM a
  JOIN b ON (a.key = b.key)
  LEFT OUTER JOIN c ON (a.key = c.key)

先 join a 表到b 表，丢弃掉所有 join key 中不匹配的记录，然后用这一中间结果和 c 表做 join。这一表述有一个不太明显的问题，就是当一个 key 在 a 表和 c 表都存在，但是 b 表中不存在的时候：整个记录在第一次 join，即 a JOIN b的时候都被丢掉了（包括a.val1，a.val2和a.key），然后我们再和 c表 join的时候，如果 c.key 与 a.key 或 b.key 相等，就会得到这样的结果：NULL, NULL, NULL, c.val。

    5．LEFT SEMI JOIN 是 IN/EXISTS 子查询的一种更高效的实现。

    Hive 当前没有实现 IN/EXISTS 子查询，所以你可以用 LEFT SEMI JOIN 重写你的子查询语句。LEFT SEMI JOIN 的限制是， JOIN 子句中右边的表只能在 ON 子句中设置过滤条件，在 WHERE 子句、SELECT 子句或其他地方过滤都不行。

SELECT a.key, a.value
  FROM a
  WHERE a.key in
   (SELECT b.key
    FROM B);
可以被重写为：
SELECT a.key, a.val
  FROM a LEFT SEMI JOIN b on (a.key = b.key)

五、HIVE参数设置

     开发Hive应用时，不可避免地需要设定Hive的参数。设定Hive的参数可以调优HQL代码的执行效率，或帮助定位问题。然而实践中经常遇到的一个问题是，为什么设定的参数没有起作用？--》这通常是错误的设定方式导致的。

    对于一般参数，有以下三种设定方式：

    • 配置文件

    • 命令行参数

    • 参数声明

        

    配置文件：Hive的配置文件包括

    • 用户自定义配置文件：$HIVE_CONF_DIR/hive-site.xml      

    • 默认配置文件：$HIVE_CONF_DIR/hive-default.xml      

      用户自定义配置会覆盖默认配置。另外，Hive也会读入Hadoop的配置，因为Hive是作为Hadoop的客户端启动的，Hadoop的配置文件包括

    • $HADOOP_CONF_DIR/hive-site.xml      

    • $HADOOP_CONF_DIR/hive-default.xml      

           Hive的配置会覆盖Hadoop的配置。

      配置文件的设定对本机启动的所有Hive进程都有效。

    命令行参数：启动Hive（客户端或Server方式）时，可以在命令行添加-hiveconf param=value来设定参数，

      例如：bin/hive -hiveconf hive.root.logger=INFO,console

      这一设定对本次启动的Session（对于Server方式启动，则是所有请求的Sessions）有效。

    参数声明：可以在HQL中使用SET关键字设定参数，例如：

            set mapred.reduce.tasks=100;

      这一设定的作用域也是Session级的。

      上述三种设定方式的优先级依次递增。即参数声明覆盖命令行参数，命令行参数覆盖配置文件设定。注意某些系统级的参数，例如log4j相关的设定，必须用前两种方式设定，因为那些参数的读取在Session建立以前已经完成了。

       另外，SerDe参数必须写在DDL（建表）语句中。例如：

create table if not exists t_dummy(
dummy     string
)
 
ROW FORMAT SERDE 'org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe'
WITH SERDEPROPERTIES (
'field.delim'='\t',
'escape.delim'='\\',
'serialization.null.format'=' '
) STORED AS TEXTFILE;

    类似serialization.null.format这样的参数，必须和某个表或分区关联。在DDL外部声明将不起作用。    

六、HIVE UDF

6.1 基本函数

SHOW FUNCTIONS;
DESCRIBE FUNCTION <function_name>;

1 关系操作符

Operator

Operand types

Description

A = B

All primitive types

TRUE if expression A is equal to   expression B otherwise FALSE

A == B

None!

Fails because of invalid syntax. SQL uses   =, not ==

A <> B

All primitive types

NULL if A or B is NULL, TRUE if   expression A is NOT equal to expression B otherwise FALSE

A < B

All primitive types

NULL if A or B is NULL, TRUE if   expression A is less than expression B otherwise FALSE

A <= B

All primitive types

NULL if A or B is NULL, TRUE if   expression A is less than or equal to expression B otherwise FALSE

A > B

All primitive types

NULL if A or B is NULL, TRUE if   expression A is greater than expression B otherwise FALSE

A >= B

All primitive types

NULL if A or B is NULL, TRUE if   expression A is greater than or equal to expression B otherwise FALSE

A IS NULL

all types

TRUE if expression A evaluates to NULL   otherwise FALSE

A IS NOT NULL

All types

TRUE if expression A evaluates to NULL   otherwise FALSE

A LIKE B

strings

NULL if A or B is NULL, TRUE if string A   matches the SQL simple regular expression B, otherwise FALSE. The comparison   is done character by character. The _ character in B matches any character in   A(similar to . in posix regular expressions) while the % character in B   matches an arbitrary number of characters in A(similar to .* in posix regular   expressions) e.g. 'foobar' like 'foo' evaluates to FALSE where as 'foobar'   like 'foo_ _ _' evaluates to TRUE and so does 'foobar' like 'foo%'

A RLIKE B

strings

NULL if A or B is NULL, TRUE if string A   matches the Java regular expression B(See Java regular expressions syntax),   otherwise FALSE e.g. 'foobar' rlike 'foo' evaluates to FALSE where as   'foobar' rlike '^f.*r$' evaluates to TRUE

A REGEXP B

strings

Same as RLIKE

      2 代数操作符    

        返回数字类型，如果任意一个操作符为NULL，则结果为NULL

Operator

Operand types

Description

A + B

All number types

Gives the result of adding A and B. The type of the   result is the same as the common parent(in the type hierarchy) of the types   of the operands. e.g. since every integer is a float, therefore float is a   containing type of integer so the + operator on a float and an int will   result in a float.

A - B

All number types

Gives the result of subtracting B from A. The type of   the result is the same as the common parent(in the type hierarchy) of the   types of the operands.

A * B

All number types

Gives the result of multiplying A and B. The type of   the result is the same as the common parent(in the type hierarchy) of the   types of the operands. Note that if the multiplication causing overflow, you   will have to cast one of the operators to a type higher in the type   hierarchy.

A / B

All number types

Gives the result of dividing B from A. The result is a   double type.

A % B

All number types

Gives the reminder resulting from dividing A by B. The   type of the result is the same as the common parent(in the type hierarchy) of   the types of the operands.

A & B

All number types

Gives the result of bitwise AND of A and B. The type of   the result is the same as the common parent(in the type hierarchy) of the   types of the operands.

A | B

All number types

Gives the result of bitwise OR of A and B. The type of   the result is the same as the common parent(in the type hierarchy) of the   types of the operands.

A ^ B

All number types

Gives the result of bitwise XOR of A and B. The type of   the result is the same as the common parent(in the type hierarchy) of the   types of the operands.

~A

All number types

Gives the result of bitwise NOT of A. The type of the   result is the same as the type of A.


      3 逻辑操作符   ？ 

        

      4 复杂类型操作符    

Constructor Function

Operands

Description

Map

(key1, value1, key2, value2, ...)

Creates a map with the given key/value pairs

Struct

(val1, val2, val3, ...)

Creates a struct with the given field values. Struct   field names will be col1, col2, ...

Array

(val1, val2, ...)

Creates an array with the given elements

      5 内建函数    ？

        

      6 数学函数    ？

        

      7 集合函数    ？

        

      8 类型转化    ？

        

      9 日期函数      

返回值类型

名称

描述

string

from_unixtime(int unixtime)

将时间戳（unix epoch秒数）转换为日期时间字符串，例如from_unixtime(0)="1970-01-01   00:00:00"

bigint

unix_timestamp()

获得当前时间戳

bigint

unix_timestamp(string date)

获得date表示的时间戳

bigint

to_date(string timestamp)

返回日期字符串，例如to_date("1970-01-01 00:00:00") =   "1970-01-01"

string

year(string date)

返回年，例如year("1970-01-01 00:00:00") = 1970，year("1970-01-01")   = 1970

int

month(string date)

int

day(string date) dayofmonth(date)

int

hour(string date)

int

minute(string date)

int

second(string date)

int

weekofyear(string date)

int

datediff(string enddate, string startdate)

返回enddate和startdate的天数的差，例如datediff('2009-03-01', '2009-02-27') = 2

int

date_add(string startdate, int days)

加days天数到startdate: date_add('2008-12-31', 1) = '2009-01-01'

int

date_sub(string startdate, int days)

减days天数到startdate: date_sub('2008-12-31', 1) = '2008-12-30'

      10 条件函数    

返回值类型

名称

描述

-

if(boolean testCondition, T valueTrue, T   valueFalseOrNull)

当testCondition为真时返回valueTrue，testCondition为假或NULL时返回valueFalseOrNull

-

COALESCE(T v1, T v2, ...)

返回列表中的第一个非空元素，如果列表元素都为空则返回NULL

-

CASE a WHEN b THEN c [WHEN d THEN e]* [ELSE   f] END

a = b，返回c；a = d，返回e；否则返回f

-

CASE WHEN a THEN b [WHEN c THEN d]* [ELSE   e] END

a 为真，返回b；c为真，返回d；否则e

      11 字符串函数    

        The following are built-in String functions are supported in hive:    

返回值类型

名称 

描述

Int

length(string A)

返回字符串长度

String

reverse(string A)

反转字符串

String

concat(string A, string B...)

合并字符串，例如concat('foo', 'bar')='foobar'。注意这一函数可以接受任意个数的参数

String

substr(string A, int start) substring(string A, int   start)

返回子串，例如substr('foobar', 4)='bar'

String

substr(string A, int start, int len) substring(string   A, int start, int len)

返回限定长度的子串，例如substr('foobar', 4, 1)='b'

String

upper(string A) ucase(string A)

转换为大写

String

lower(string A) lcase(string A)

转换为小写

String

trim(string A)

String

ltrim(string A)

String

rtrim(string A)

String

regexp_replace(string A, string B, string C)

Returns the string resulting from replacing all   substrings in B that match the Java regular expression syntax(See Java   regular expressions syntax) with C e.g. regexp_replace("foobar",   "oo|ar", "") returns 'fb.' Note that some care is   necessary in using predefined character classes: using '\s' as the second   argument will match the letter s; '\\s' is necessary to match whitespace,   etc.

String

regexp_extract(string subject, string pattern, int   intex)

返回使用正则表达式提取的子字串。例如，regexp_extract('foothebar', 'foo(.*?)(bar)', 2)='bar'。注意使用特殊字符的规则：使用'\s'代表的是字符's'；空白字符需要使用'\\s'，以此类推。

String

parse_url(string urlString, string partToExtract)

解析URL字符串，partToExtract的可选项有：HOST, PATH, QUERY, REF, PROTOCOL, FILE, AUTHORITY,   USERINFO。

例如，

parse_url('http://facebook.com/path/p1.php?query=1',   'HOST')='facebook.com'

parse_url('http://facebook.com/path/p1.php?query=1',   'PATH')='/path/p1.php'

parse_url('http://facebook.com/path/p1.php?query=1',   'QUERY')='query=1'，可以指定key来返回特定参数，key的格式是QUERY:<KEY_NAME>，例如QUERY:k1

parse_url('http://facebook.com/path/p1.php?query=1&field=2','QUERY','query')='1'可以用来取出外部渲染参数key对应的value值

parse_url('http://facebook.com/path/p1.php?query=1&field=2','QUERY','field')='2'

parse_url('http://facebook.com/path/p1.php?query=1#Ref',   'REF')='Ref'

parse_url('http://facebook.com/path/p1.php?query=1#Ref',   'PROTOCOL')='http'

String

get_json_object(string json_string, string path)

解析json字符串。若源json字符串非法则返回NULL。path参数支持JSONPath的一个子集，包括以下标记：

$: Root object

[]: Subscript operator for array

&: Wildcard for []

.: Child operator

String

space(int n)

返回一个包含n个空格的字符串

String

repeat(string str, int n)

重复str字符串n遍

String

ascii(string str)

返回str中第一个字符的ascii码

String

lpad(string str, int len, string pad)

左端补齐str到长度为len。补齐的字符串由pad指定。

String

rpad(string str, int len, string pad)

右端补齐str到长度为len。补齐的字符串由pad指定。

Array

split(string   str, string pat)

返回使用pat作为正则表达式分割str字符串的列表。例如，split('foobar',   'o')[2] = 'bar'。？不是很明白这个结果

Int

find_in_set(string str, string strList)

Returns the first occurance of str in strList where   strList is a comma-delimited string. Returns null if either argument is null.   Returns 0 if the first argument contains any commas. e.g. find_in_set('ab',   'abc,b,ab,c,def') returns 3

6.2 UDTF

UDTF即Built-in Table-Generating Functions

使用这些UDTF函数有一些限制:

1、SELECT里面不能有其它字段

如：SELECT pageid, explode(adid_list) AS myCol...

2、不能嵌套

如：SELECT explode(explode(adid_list)) AS myCol...不支持

3、不支持GROUP BY / CLUSTER BY / DISTRIBUTE BY / SORT BY

    如：SELECT explode(adid_list) AS myCol ... GROUP BY myCol

    eg：

    将数组进行转置

  例如：

1、create table test2(mycol array<int>);
2、insert OVERWRITE table test2 select * from (select array(1,2,3) from a union all select array(7,8,9)  from d)c;
 
3、hive> select * from test2;
OK
[1,2,3]
[7,8,9]
hive> SELECT explode(myCol) AS myNewCol FROM test2;
OK
1
2
3
7
8
9


转载于:https://my.oschina.net/MrMichael/blog/307141

chunli5093
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
hive join select demo
u013777684的专栏
07-09 534
1) create table test_partition(id int,desc string) partitioned by (dt string, country string) row format delimited fields terminated by '\t' stored as textfile;
Hive自定义函数及优化（整理版）
Swordfall的博客
07-04 2816
1. 概述 1.1 hive的特征： 可以通过SQL轻松访问数据的工具，从而实现数据仓库任务，如提取/转换/加载（ETL），报告和数据分析； 它可以使已经存储的数据结构化； 可以直接访问存储在Apache HDFS或其他数据存储系统（如Apache HBase）中的文件； Hive除了支持MapReduce计算引擎，还支持Spark和Tez这两种分布式计算引擎； 它提供类似sql的...
Hive-Sql常用参数设置和开发技巧
hechao_123的博客
04-19 1025
常用开发技巧的整理： 1、Hive脚本常用参数的设置 ##压缩设置 set mapred.compress.map.output = true; set mapred.output.compress = true; set hive.exec.compress.output = true; ##输出设置 set hive.merge.mapfiles = true; set hive.merge...
hive select 语句
jslijb的博客
02-01 4996
hive 查询操作： 1、列匹配正则表达式 select 查询列使用正则表达式匹配列，hive 0.13 版本之前直接用。0.13及后续版本需要开设置hive的属性 set hive.support.quoted.identifiers=none; hive (mydb)&gt; select `price.*` from stocks; OK 3.31 1.31 3....
Hive数据类型（join、函数、hql）
tyhawk的博客
03-22 803
文章目录Join操作 Join操作 连接数据准备 创建两张学生表（studenta、studentb） CREATE TABLE studenta( id INT, name STRING) ROW FORMAT DELIMITED FIELDS TERMINATED BY ‘\t’; CREATE TABLE studentb( id INT, age INT) ROW FORMA...
Flink 同步数据+mongo<->hive+支持复杂类型
最新发布
02-29
Flink 同步数据+mongo<->hive+支持复杂类型
Hive用户指南 Hive user guide 中文版
11-14
Hive用户指南 Hive user guide 中文版
hive开窗函数知识点总结.txt
05-24
工作中用到了几个hive开窗函数,便想把hive开窗函数系统梳理一遍。 开窗函数 普通的聚合函数聚合的行集是组,开窗函数聚合的行集是窗口。因此,普通的聚合函数每组(Group by)只返回一个值，而开窗函数则可为窗口中的每...
hive数仓、hive SQL 、 hive自定义函数 、hive参数深入浅出
03-24
hive数仓、hive SQL 、 hive自定义函数 、hive参数深入浅出
hive sql + left join 数据缺失
02-29
hive sql + left join 数据缺失
[ Hive ] Select查询.Join连接
jason_bone_的博客
04-07 1294
1 DQL-Select查询数据 1.1 语法树 [WITH CommonTableExpression (, CommonTableExpression)*] SELECT [ALL | DISTINCT] select_expr, select_expr, ... FROM table_reference [WHERE where_condition] [GROUP BY col_list] [ORDER BY col_list] [CLUSTER BY col_list
python-pandas实现简单筛选数据功能
鲸落寰宇
09-08 3606
python-pandas实现简单筛选数据功能这里写自定义目录标题一、简述二、模块介绍三、样例3.1 简单查询3.2 模式匹配3.3 范围区间值筛选 一、简述 python的pandas库可以轻松的处理excel中比较难实现的筛选功能，以下简单的介绍几种利用pandas实现筛选功能方式： 二、模块介绍 pandas——专为解决数据分析与处理任务而创建的。 引入模块： import pandas as pd ，导入 pandas 包- df=pd.read_excel(‘data.elsx’,sheet_n
hive命令参数
我是明星的专栏
10-17 4735
$HIVE_HOME/bin/hive是一个shell工具，它可以用来运行于交互或者批处理方式配置单元查询，语法如下： 1. -i filename 执行脚本文件filename，会在终端上显示mapreduce的进度，执行完毕后，最后把查询结果输出到终端上，然后进入交互模式     eg：hive -i script.sql             1       jim    
如何将hive的执行结果返回给一个变量
热门推荐
yx_keith的博客
01-25 1万+
首先可以将hive sql写入python脚本 假如有如下hive sql： hive_cmd = 'hive -e "select count(*) from hbase.routermac_sort_10;"' 一般在python中按照如下方式执行该hive sql： os.system(hive_cmd) 但是当我需要在程序中拿到count()的执行结果时，使用os.s
hive sql 将结果输出到变量中并用于后续使用(未完全解决)
24/7
05-18 1万+
问题场景描述：遇到会有需要反复使用的结果，比如总数，一直join就感觉不够优雅，就想着能不能把结果输出到变量中，然后利用变量就好了。 然后百度搜了半天的结果无一例外是像下面这样，先设定了变量，然后用变量去做判断。这个结果和我要的其实算是相反的？ set cur_time = '2012-01-01' select a from table_name where date_time = ${hiveconf:cur_time} 无奈之下换个语言搜索，stack overflow大法好，我竟然在差评回答中找到
hive select 1
jslijb的博客
03-12 1714
LIMIT 语句 hive (default)&gt; SELECT upper(name), salary,deductions["Federal Taxes"], round(salary * (1 - deductions["Federal Taxes"])) FROM employees limit 2; JOHN DOE 100000.0 0.2 ...
hive使用小技巧-如何往Hive SQL中传入参数
weixin_30732487的博客
05-02 891
很多SQL需要重复执行，可能是每天执行一次，而需要修改的只是SQL中的日期字段，这种情况下可以使用 参数代入 使用的方式 $hive-d key1=value1 -d key2=value -d key3=value3 ... 复制代码 例子-1： hive -d shell_date_1='20120425' -d s...
hive调优之SQL语法和运行参数
starzy
03-03 1119
hive语法和运行参数层面，主要写出高效运行SQL，并且利用一些运行参数进行调优SQL执行 查看hive执行计划 hive的SQL语句在执行之前需要将SQL语句转换成MapReduce任务，因此需要了解转换过程，可以再SQL语句中输入如下命令查看具体的执行计划。 explain [extended] query --查看执行计划，添加extended关键字可以查看更详细的查询计划 示例如下 explain select department, count(*) as total from student
<property> <name>hive.cli.print.header</name> <value>true</value> </property> <property> <name>hive.cli.print.current.db</name> <value>true</value> </property>
07-15
这段代码是Hive的配置文件中的两个属性。这些属性用于配置Hive客户端在执行查询时打印表头和当前数据库的信息。 `hive.cli.print.header`属性设置为`true`，表示在查询结果中打印表头信息。这样，在执行查询时，...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值