hive综合运行情况----影评

本文通过一个实际的影评数据案例,详细介绍了如何使用Hive进行数据清洗、建表、导入数据以及执行复杂的查询操作。包括清洗shell脚本、数据导入验证、电影评分统计、性别与评分分析、特定电影的年龄评分分布、高评分女性用户电影平均评分、不同年份的高评分电影、特定类型的高评分电影、各年评分最高电影类型、地区最高评分电影等。
摘要由CSDN通过智能技术生成

案例说明
现有如此三份数据:
1、users.dat 数据格式为: 2::M::56::16::70072,

共有6040条数据
对应字段为:UserID BigInt, Gender String, Age Int, Occupation String, Zipcode String
对应字段中文解释:用户id,性别,年龄,职业,邮政编码

2、movies.dat 数据格式为: 2::Jumanji (1995)::Adventure|Children’s|Fantasy,

共有3883条数据
对应字段为:MovieID BigInt, Title String, Genres String
对应字段中文解释:电影ID,电影名字,电影类型

3、ratings.dat 数据格式为: 1::1193::5::978300760,

共有1000209条数据
对应字段为:UserID BigInt, MovieID BigInt, Rating Double, Timestamped String
对应字段中文解释:用户ID,电影ID,评分,评分时间戳

题目要求

数据要求:
    (1)写shell脚本清洗数据。(hive不支持解析多字节的分隔符,也就是说hive只能解析’:’, 不支持解析’::’,所以用普通方式建表来使用是行不通的,要求对数据做一次简单清洗)
    (2)使用Hive能解析的方式进行

Hive要求:
    (1)正确建表,导入数据(三张表,三份数据),并验证是否正确

(2)求被评分次数最多的10部电影,并给出评分次数(电影名,评分次数)

(3)分别求男性,女性当中评分最高的10部电影(性别,电影名,影评分)

(4)求movieid = 2116这部电影各年龄段(因为年龄就只有7个,就按这个7个分就好了)的平均影评(年龄段,影评分)

(5)求最喜欢看电影(影评次数最多)的那位女性评最高分的10部电影的平均影评分(观影者,电影名,影评分)

(6)求好片(评分>=4.0)最多的那个年份的最好看的10部电影

(7)求1997年上映的电影中,评分最高的10部Comedy类电影

(8)该影评库中各种类型电影中评价最高的5部电影(类型,电影名,平均影评分)

(9)各年评分最高的电影类型(年份,类型,影评分)

(10)每个地区最高评分的电影名,把结果存入HDFS(地区,电影名,影评分)
解析:
1、建表,导入数据
创建一个数据库movie,在数控里创建三张表:t_user,t_movie,t_rating。
2、求被评分次数最多的10部电影,并给出评分次数(电影名,评分次数)
(1)思路分析:
  1、需求字段:电影名 t_movie.moviename
评分次数 t_rating.rate count()
2、核心SQL:按照电影名进行分组统计,求出每部电影的评分次数并按照评分次数降序排序 
(2)sql:
在这里插入图片描述
(3)运行情况:
在这里插入图片描述
3、分别求男性,女性当中评分最高的10部电影(性别,电影名,影评分)

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值