is_pass_rule bigint,
is_obtain_qutoa bigint,
quota decimal(30,6), update_time string
) partitioned by (ds string comment ‘日期分区’);
–动态分区需要设置
set hive.exec.dynamic.partition=true;
set hive.exec.dynamic.partition.mode=nonstrict;
insert overwrite table check_t partition (ds) select sno,
uid, is_risk_apply, is_pass_rule, is_obtain_qutoa, quota,
update_time,
ds
from check_view;
![img](https://img-blog.csdnimg.cn/img_convert/aee0381a010bb999b2d180e113f3828c.png)
– 创 建 借 据 表
create table debt(
duebill_id string comment ‘借据号’,
uid string, prod_type string,
putout_date string,
putout_amt decimal(30, 6),
balance decimal(30, 6),
is_buliang int,
overduedays int
)partitioned by (ds string comment ‘日期分区’);
–资料提供了一个34899条借据数据的文件
–下面补充如何将文件的数据导入到分区表中。需要一个中间普通表过度。
drop table if exists webank_db.debt_temp;
create table webank_db.debt_temp(
duebill_id string comment ‘借据号’, uid string,
prod_type string,
putout_date string, putout_amt decimal(30, 6),
balance decimal(30,6),
is_buliang int, overduedays int,
ds string comment ‘日期分区’
) row format delimited fields terminated by ‘t’;
load data local inpath ‘/root/debt.txt’ overwrite into table webank_db.debt_temp;
–动态分区需要设置
set hive.exec.dynamic.partition=true;
set hive.exec.dynamic.partition.mode=nonstrict;
insert overwrite table webank_db.debt partition (ds)
select * from webank_db.debt_temp;
–技巧:如果查询debt表,由于分区数太多,导致查询很慢。
– 开发阶段,我们可以事先将表缓存起来,并且降低分区数比如为6,那么查缓存表大大提升了开发效率。
– 上线阶段,再用实际表替换缓存表。
–首次缓存会耗时慢
cache table cache_debt as select /+ coalesce(6) / from
debt;
–第二次使用缓存会很快
select count(*) from cache_debt;
select ds,count(1) from cache_debt group by ds;
### 思路分析
假设计算当天2021-10-29日的报表
为了统计附录2《借据表》中的指标,需要进行以下步骤:
1. 筛选借据表中逾期1-30天、逾期30-90天和逾期90天以上的数据,并分别统计户数和余额。逾期率可以通过计算逾期户数与借据总户数之比来得到。
2. 将逾期1-30天、逾期30-90天和逾期90天以上的数据合并,得到逾期合计指标。同样地,逾期率也需要重新计算。
3. 不良率是指不良贷款余额与总贷款余额之比。因此,需要筛选借据表中不良贷款的数据,并计算不良贷款余额。然后,将不良贷款余额与借据表中总贷款余额之比得到不良率。
4. 最后,可以将所有统计的指标按照产品类型进行分组,以得到表格中的结果。
### 答案获取
建议你先动脑思考,动手写一写再对照看下答案,如果实在不懂可以点击下方卡片,回复:`大厂sql` 即可。
参考答案适用HQL,SparkSQL,FlinkSQL,即大数据组件,其他SQL需自行修改。
### 加技术群讨论
点击下方卡片关注 联系我进群
或者直接`私信我进群`
#### 微众银行源数据表附录:
1. 核额流水表
| 字段名 | 字段意义 | 字段类型 |
| --- | --- | --- |
| ds | 日期分区,样例格式为20200101,每个分区有全量流水 | string |
| sno | 每个ds内主键,流水号 | string |
| uid | 户id | string |
| is\_risk\_apply | 是否核额申请(核额漏斗第一步)取值0和1 | bigint |
| is\_pass\_rule | 是否通过规则(核额漏斗第二步)取值0和1 | bigint |
| is\_obtain\_qutoa | 是否授信成功(核额漏斗第三步)取值0和1 | bigint |
| quota | 授信金额 | decimal(30,6) |
| update\_time | 更新时间样例格式为2020-11-14 08:12:12 | string |
2. 借据表
| 字段名 | 字段意义 | 字段类型 |
| --- | --- | --- |
| ds | 日期分区,样例格式为20200101每个分区有全量借据 | string |
| duebilid | 借据号(每个日期分区内的主键) | string |
| uid | 用户id | string |
| | | |
| prod\_type | 产品名称仅3个枚举值XX贷YY贷ZZ贷 | string |
| putout\_date | 发放日期样例格式为2020-10-10 00:10:30 | bigint |
| putout\_amt | 发放金额 | decimal(30,6) |
| balance | 借据余额 | decimal(30,6) |
| is\_buliang | 状态-是否不良取值0和1 | bigint |
| overduedays | 逾期天数 | bigint |
3. 模型输出表
| 字段名 | 字段意义 | 字段类型 |
| --- | --- | --- |
| ds | 日期分区,样例格式为20200101增量表部分流水记录可能有更新 | string |
| sno | 流水号,主键 | string |
| create time | 创建日期样例格式为2020-10-10 00:10:30与sno唯一绑定,不会变更 | string |
| uid | 用户id | string |
| content | son格式key值名称为V01~V06,value值取值为0和1 | string |
| create\_time | 更新日期样例格式为2020-10-1000:10:30 | string |
#### 文末SQL小技巧
提高SQL功底的思路。
1、造数据。因为有数据支撑,会方便我们根据数据结果去不断调整SQL的写法。
造数据语法既可以create table再insert into,也可以用下面的create temporary view xx as values语句,更简单。
其中create temporary view xx as values语句,SparkSQL语法支持,hive不支持。
2、先将结果表画出来,包括结果字段名有哪些,数据量也画几条。这是分析他要什么。
![img](https://img-blog.csdnimg.cn/img_convert/1807eb4cc97cddaca9c3e297cf71a2fb.png)
![img](https://img-blog.csdnimg.cn/img_convert/6b6498044251ab58b100a707d5f12ca3.png)
![img](https://img-blog.csdnimg.cn/img_convert/9da1481f9206f259180de477a65a480e.png)
**既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!**
**由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新**
**[需要这份系统化资料的朋友,可以戳这里获取](https://bbs.csdn.net/topics/618545628)**
涵盖了95%以上大数据知识点,真正体系化!**
**由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新**
**[需要这份系统化资料的朋友,可以戳这里获取](https://bbs.csdn.net/topics/618545628)**