网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
set hive.exec.dynamic.partition=true;
set hive.exec.dynamic.partition.mode=nonstrict;
insert overwrite table check_t partition (ds) select sno,
uid, is_risk_apply, is_pass_rule, is_obtain_qutoa, quota,
update_time,
ds
from check_view;
![img](https://img-blog.csdnimg.cn/img_convert/aee0381a010bb999b2d180e113f3828c.png)
– 创 建 借 据 表
create table debt(
duebill_id string comment ‘借据号’,
uid string, prod_type string,
putout_date string,
putout_amt decimal(30, 6),
balance decimal(30, 6),
is_buliang int,
overduedays int
)partitioned by (ds string comment ‘日期分区’);
–资料提供了一个34899条借据数据的文件
–下面补充如何将文件的数据导入到分区表中。需要一个中间普通表过度。
drop table if exists webank_db.debt_temp;
create table webank_db.debt_temp(
duebill_id string comment ‘借据号’, uid string,
prod_type string,
putout_date string, putout_amt decimal(30, 6),
balance decimal(30,6),
is_buliang int, overduedays int,
ds string comment ‘日期分区’
) row format delimited fields terminated by ‘t’;
load data local inpath ‘/root/debt.txt’ overwrite into table webank_db.debt_temp;
–动态分区需要设置
set hive.exec.dynamic.partition=true;
set hive.exec.dynamic.partition.mode=nonstrict;
insert overwrite table webank_db.debt partition (ds)
select * from webank_db.debt_temp;
–技巧:如果查询debt表,由于分区数太多,导致查询很慢。
– 开发阶段,我们可以事先将表缓存起来,并且降低分区数比如为6,那么查缓存表大大提升了开发效率。
– 上线阶段,再用实际表替换缓存表。
–首次缓存会耗时慢
cache table cache_debt as select /+ coalesce(6) / from
debt;
–第二次使用缓存会很快
select count(*) from cache_debt;
select ds,count(1) from cache_debt group by ds;
### 思路分析
假设计算当天2021-10-29日的报表
为了统计附录2《借据表》中的指标,需要进行以下步骤:
1. 筛选借据表中逾期1-30天、逾期30-90天和逾期90天以上的数据,并分别统计户数和余额。逾期率可以通过计算逾期户数与借据总户数之比来得到。
2. 将逾期1-30天、逾期30-90天和逾期90天以上的数据合并,得到逾期合计指标。同样地,逾期率也需要重新计算。
3. 不良率是指不良贷款余额与总贷款余额之比。因此,需要筛选借据表中不良贷款的数据,并计算不良贷款余额。然后,将不良贷款余额与借据表中总贷款余额之比得到不良率。
4. 最后,可以将所有统计的指标按照产品类型进行分组,以得到表格中的结果。
### 答案获取
建议你先动脑思考,动手写一写再对照看下答案,如果实在不懂可以点击下方卡片,回复:`大厂sql` 即可。
参考答案适用HQL,SparkSQL,FlinkSQL,即大数据组件,其他SQL需自行修改。
### 加技术群讨论
点击下方卡片关注 联系我进群
或者直接`私信我进群`
#### 微众银行源数据表附录:
1. 核额流水表
| 字段名 | 字段意义 | 字段类型 |
| --- | --- | --- |
| ds | 日期分区,样例格式为20200101,每个分区有全量流水 | string |
| sno | 每个ds内主键,流水号 | string |
| uid | 户id | string |
| is\_risk\_apply | 是否核额申请(核额漏斗第一步)取值0和1 | bigint |
| is\_pass\_rule | 是否通过规则(核额漏斗第二步)取值0和1 | bigint |
| is\_obtain\_qutoa | 是否授信成功(核额漏斗第三步)取值0和1 | bigint |
| quota | 授信金额 | decimal(30,6) |
| update\_time | 更新时间样例格式为2020-11-14 08:12:12 | string |
2. 借据表
| 字段名 | 字段意义 | 字段类型 |
| --- | --- | --- |
| ds | 日期分区,样例格式为20200101每个分区有全量借据 | string |
| duebilid | 借据号(每个日期分区内的主键) | string |
| uid | 用户id | string |
| | | |
| prod\_type | 产品名称仅3个枚举值XX贷YY贷ZZ贷 | string |
| putout\_date | 发放日期样例格式为2020-10-10 00:10:30 | bigint |
| putout\_amt | 发放金额 | decimal(30,6) |
| balance | 借据余额 | decimal(30,6) |
| is\_buliang | 状态-是否不良取值0和1 | bigint |
| overduedays | 逾期天数 | bigint |
3. 模型输出表
| 字段名 | 字段意义 | 字段类型 |
| --- | --- | --- |
| ds | 日期分区,样例格式为20200101增量表部分流水记录可能有更新 | string |
| sno | 流水号,主键 | string |
| create time | 创建日期样例格式为2020-10-10 00:10:30与sno唯一绑定,不会变更 | string |
| uid | 用户id | string |
| content | son格式key值名称为V01~V06,value值取值为0和1 | string |
| create\_time | 更新日期样例格式为2020-10-1000:10:30 | string |
#### 文末SQL小技巧
提高SQL功底的思路。
1、造数据。因为有数据支撑,会方便我们根据数据结果去不断调整SQL的写法。
造数据语法既可以create table再insert into,也可以用下面的create temporary view xx as values语句,更简单。
其中create temporary view xx as values语句,SparkSQL语法支持,hive不支持。
2、先将结果表画出来,包括结果字段名有哪些,数据量也画几条。这是分析他要什么。
从源表到结果表,一路可能要走多个步骤,其实就是可能需要多个子查询,过程多就用with as来重构提高可读性。
3、要由简单过度到复杂,不要一下子就写一个很复杂的。
先写简单的select from table…,每个中间步骤都执行打印结果,看是否符合预期, 根据中间结果,进一步调整修饰SQL语句,再执行,直到接近结果表。
4、数据量要小,工具要快,如果用hive,就设置set hive.exec.mode.local.auto=true;如果是SparkSQL,就设置合适的shuffle并行度,set spark.sql.shuffle.partitions=4;
![img](https://img-blog.csdnimg.cn/img_convert/0871b2395ae2a284a0976fe84d087249.png)
![img](https://img-blog.csdnimg.cn/img_convert/eb66e892cf7ae6bc05f6dc81eafece26.png)
**网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。**
**[需要这份系统化资料的朋友,可以戳这里获取](https://bbs.csdn.net/topics/618545628)**
**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**
*
**[需要这份系统化资料的朋友,可以戳这里获取](https://bbs.csdn.net/topics/618545628)**
**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**