Hive-数据类型

Hive 数据类型

数据类型中最常用的是基本数据类型中的 INT、BIGINT、BOOLEAN、DOUBLE以及STRING。

基本数据类型

对于 Hive 的 String 类型相当于数据库的 varchar 类型,该类型是一个可变的字符串,不过它不能声明其中最多能存储多少个字符,理论上它可以存储 2GB 的字符数。

集合数据类型

Hive 有三种复杂数据类型 ARRAY、MAP 和 STRUCT。ARRAY 和 MAP 与 Java 中的 Array和 Map 类似,而 STRUCT 与 C 语言中的 Struct 类似（类似于Java的JavaBean）,它封装了一个命名字段集合,复杂数据类型允许任意层次的嵌套。

案例实操

假设某表有如下一行,我们用 JSON 格式来表示其数据结构。在 Hive 下访问的格式为

{
    "name": "caocao",
    "friends": ["liubei" , "sunquan"], //列表 Array,
    "children": {                      //键值 Map,
        "caozhi": 15 ,
        "caopi": 16
    }
    "address": {                      //结构 Struct,
        "street": "huanggong",
        "city": "xuchang"
    }
}

基于上述数据结构,我们在 Hive 里创建对应的表,并导入数据。创建本地测试文件 test.txt

源数据如下：

caocao,liubei_sunquan,caozhi:15_caopi:16,huanggong_xuchang
caopi,simayi,caorui:10,huanggong_xuchang

注意:MAP,STRUCT 和 ARRAY 里的元素间关系都可以用同一个字符表示,这里用“_”。

Hive 上创建测试表 weitest

create table weitest(
name string,
friends array<string>,
children map<string, int>,
address struct<street:string, city:string>
)
row format delimited 
fields terminated by ','
collection items terminated by '_'
map keys terminated by ':'
lines terminated by '\n';

##  fields terminated by ','                    // 字段与字段之间的分隔符
##  collection items terminated by '_'          // 集合元素之间的分隔符，只能统一定义，不能单独定义
##  map keys terminated by ':'                  // map的key和value的分隔符
##  lines terminated by '\n';                   // 每一行的分隔符

导入测试文本数据到指定表中

load data local inpath '/opt/module/hive/testData/test.txt' into table weitest;

或者直接将文件放到/user/hive/warehouse/weitest目录下

访问数据

hive (default)> select * from weitest;
OK
weitest.name    weitest.friends weitest.children        weitest.address
caocao  ["liubei","sunquan"]    {"caozhi":15,"caopi":16}        {"street":"huanggong","city":"xuchang"}
caopi   ["simayi"]      {"caorui":10}   {"street":"huanggong","city":"xuchang"}
Time taken: 2.784 seconds, Fetched: 2 row(s)

hive (default)> select friends[0], children['caopi'], address.city from weitest;
OK
_c0     _c1     city
liubei  16      xuchang
simayi  NULL    xuchang
Time taken: 1.285 seconds, Fetched: 2 row(s)

## 数组访问用index，map访问用key，struct访问用对应的字段

类型转化

Hive 的原子数据类型是可以进行隐式转换的,类似于 Java 的类型转换,例如某表达式使用 INT 类型,TINYINT 会自动转换为 INT 类型,但是 Hive 不会进行反向转化,例如,某表达式使用 TINYINT 类型,INT 不会自动转换为 TINYINT 类型,它会返回错误,除非使用 CAST操作。

1)隐式类型转换规则如下

(1)任何整数类型都可以隐式地转换为一个范围更广的类型,如 TINYINT 可以转换成INT,INT 可以转换成 BIGINT。

(2)所有整数类型、FLOAT 和 STRING 类型都可以隐式地转换成 DOUBLE。

(3)TINYINT、SMALLINT、INT 都可以转换为 FLOAT。

(4)BOOLEAN 类型不可以转换为任何其它的类型。

2)可以使用 CAST 操作显示进行数据类型转换

例如 CAST(‘1’ AS INT)将把字符串’1’ 转换成整数 1;如果强制类型转换失败,如执行CAST(‘X’ AS INT),表达式返回空值 NULL。

hive (default)> select '1'+2, cast('1'as int) + 2;
OK
_c0     _c1
3.0     3
Time taken: 0.954 seconds, Fetched: 1 row(s)