每天一道大厂SQL题【Day11】微众银行真题实战(一)_微众银行大数据面试

ds
from check_view;

![img](https://img-blog.csdnimg.cn/img_convert/98c39d34651a967e1020eeb522fc4a1a.png)

– 创 建 借 据 表
create table debt(
duebill_id string comment ‘借据号’,
uid string, prod_type string, putout_date string, putout_amt decimal(30, 6),
balance decimal(30, 6), is_buliang int, overduedays int
)partitioned by (ds string comment ‘日期分区’);
–资料提供了一个34899条借据数据的文件
–下面补充如何将文件的数据导入到分区表中。需要一个中间普通表过度。drop table if exists webank_db.debt_temp;
create table webank_db.debt_temp(
duebill_id string comment ‘借据号’, uid string,
prod_type string,
putout_date string, putout_amt decimal(30, 6),
balance decimal(30,6),
is_buliang int, overduedays int,
ds string comment ‘日期分区’
) row format delimited fields terminated by ‘\t’;
load data local inpath ‘/root/debt.txt’ overwrite into table webank_db.debt_temp;

–动态分区需要设置
set hive.exec.dynamic.partition=true;
set hive.exec.dynamic.partition.mode=nonstrict;
insert overwrite table webank_db.debt partition (ds)
select from webank_db.debt_temp;

–技巧：如果查询debt表，由于分区数太多，导致查询很慢。
– 开发阶段，我们可以事先将表缓存起来，并且降低分区数比如为6，那么查缓存表大大提升了开发效率。
– 上线阶段，再用实际表替换缓存表。
–首次缓存会耗时慢
cache table cache_debt as select /+ coalesce(6) / from
debt;
–第二次使用缓存会很快
select count() from cache_debt;
select ds,count(1) from cache_debt group by ds;

先了解表数据的分布情况，有2年多，每天都有分区，共760多个分区。


![img](https://img-blog.csdnimg.cn/img_convert/ff3339bd756fec5216fd73b9338d0bc2.png)


![img](https://img-blog.csdnimg.cn/img_convert/9e3e77cdce6d3089700a06bdcd051034.jpeg)


随机观察2个借据的情况


![img](https://img-blog.csdnimg.cn/img_convert/fb150b1ca8bfaaaf510e912bb29fae48.png)


![img](https://img-blog.csdnimg.cn/img_convert/592fc9191edf3343054d381265cb5be4.png)


### 思路分析


方案1  
 假设当天是20201231，昨日是20201230  
 预先将复用分数据集缓存起来，只用加载一次源表。后面多次union all起来。cache table仅Spark支持，hive不支持。


方案2


借用stack函数，性能与方案1一样 ，都只加载一次表。


### 答案获取


建议你先动脑思考，动手写一写再对照看下答案，如果实在不懂可以点击下方卡片，回复:`大厂sql` 即可。  
 参考答案适用HQL，SparkSQL，FlinkSQL，即大数据组件，其他SQL需自行修改。


### 加技术群讨论


点击下方卡片关注 联系我进群


或者直接`私信我进群`


#### 微众银行源数据表附录：


1. 核额流水表




| 字段名 | 字段意义 | 字段类型 |
| --- | --- | --- |
| ds | 日期分区，样例格式为20200101，每个分区有全量流水 | string |
| sno | 每个ds内主键，流水号 | string |
| uid | 户id | string |
| is\_risk\_apply | 是否核额申请（核额漏斗第一步）取值0和1 | bigint |
| is\_pass\_rule | 是否通过规则（核额漏斗第二步）取值0和1 | bigint |
| is\_obtain\_qutoa | 是否授信成功（核额漏斗第三步）取值0和1 | bigint |
| quota | 授信金额 | decimal(30,6) |
| update\_time | 更新时间样例格式为2020-11-14 08:12:12 | string |


2. 借据表




| 字段名 | 字段意义 | 字段类型 |
| --- | --- | --- |
| ds | 日期分区，样例格式为20200101每个分区有全量借据 | strng |
| duebilid | 借据号（每个日期分区内的主键） | strng |
| uid | 用户id | string |
|  |  |  |
| prod\_type | 产品名称仅3个枚举值XX贷YY贷ZZ贷 | string |
| putout\_date | 发放日期样例格式为2020-10-10 00:10:30 | bigint |
| putout\_amt | 发放金额 | decimal(30,6) |
| balance | 借据余额 | decimal(30,6) |
| is\_buliang | 状态-是否不良取值0和1 | bigint |
| overduedays | 逾期天数 | bigint |


3. 模型输出表




| 字段名 | 字段意义 | 字段类型 |
| --- | --- | --- |
| ds | 日期分区，样例格式为20200101增量表部分流水记录可能有更新 | strng |
| sno | 流水号，主键 | strng |
| create time | 创建日期样例格式为2020-10-10 00:10:30与sno唯一绑定，不会变更 | strng |
| uid | 用户id | strng |
| content | son格式key值名称为V01～V06，value值取值为0和1 | strng |
| create\_time | 更新日期样例格式为2020-10-1000:10:30 | strng |


#### 文末SQL小技巧


提高SQL功底的思路。  
 1、造数据。因为有数据支撑，会方便我们根据数据结果去不断调整SQL的写法。  
 造数据语法既可以create table再insert into，也可以用下面的create temporary view xx as values语句，更简单。  
 其中create temporary view xx as values语句，SparkSQL语法支持，hive不支持。  
 2、先将结果表画出来，包括结果字段名有哪些，数据量也画几条。这是分析他要什么。  
 从源表到结果表，一路可能要走多个步骤，其实就是可能需要多个子查询，过程多就用with as来重构提高可读性。  
 3、要由简单过度到复杂，不要一下子就写一个很复杂的。  
 先写简单的select from table…,每个中间步骤都执行打印结果，看是否符合预期， 根据中间结果，进一步调整修饰SQL语句，再执行，直到接近结果表。  
 4、数据量要小，工具要快，如果用hive，就设置set hive.exec.mode.local.auto=true;如果是SparkSQL，就设置合适的shuffle并行度，set spark.sql.shuffle.partitions=4;



![img](https://img-blog.csdnimg.cn/img_convert/c9b77f39dec393b1e6674755f31669dd.png)
![img](https://img-blog.csdnimg.cn/img_convert/eb1e97ac04237419acf5b9b8fa1ca1fd.png)
![img](https://img-blog.csdnimg.cn/img_convert/d604ae6339f44f295431e9f2f31b30a3.png)

**既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！**

**由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新**

**[需要这份系统化资料的朋友，可以戳这里获取](https://bbs.csdn.net/topics/618545628)**

的进阶课程，涵盖了95%以上大数据知识点，真正体系化！**

**由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新**

**[需要这份系统化资料的朋友，可以戳这里获取](https://bbs.csdn.net/topics/618545628)**