大数据测试 - 数仓测试_数据仓库测试，2024年最新一个大数据开发程序员的阿里面试心得

本文链接：https://blog.csdn.net/2401_84181326/article/details/137794819

先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7

深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新大数据全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以添加V获取：vip204888 （备注大数据）

正文

字段非空非 null 判断
非正常值判断
枚举准确性
如果是关于金额类型的是否有负数
数据是否有效合理

关于以上校验的一些 sql 样例

唯一性

--sku唯一，无重复记录
SELECT  sku_id
        ,count(1)
FROM    xxx.ads_xxx_sku
WHERE   pt = '20221211'
GROUP BY sku_id
HAVING  count(1) > 1
;

判断为 null

--空值判断
SELECT  sku_id,sku_name 
FROM     xxx.ads_xxx_sku
WHERE   pt = '20221211'
and     (sku_id IS NULL OR  sku_name IS NULL)
;

判断是否为空

select sku_id,sku_name
from xxx.ads_xxx_sku
where pt='20221211'
and (sku_id="" or sku_name="")

负值判断

select price
from xxx.ads_xxx_sku
where pt='20221211'

枚举判断

SELECT  distinct(sku_name)
FROM    from xxx.ads_xxx_sku
WHERE   pt = '20221211' 
；

2.白盒测试

需要对开发的代码走读，check 指标处理逻辑。同时测试也需要准备验证脚本，或者查找到可以作为验证参考的数据，便于口径核对，这个环节，对测试人员的指标口径沉淀有一定的要求。在发现指标数据存在差异的情况，需要协助开发人员一起定位差异原因，时常需要在现有的口径基础上，在数仓空间往上翻多层，或者一个指标定义不够清晰，需要自行去数分空间查找口径定义。另外，在测试通过后，需要编写相应的 DQC 脚本，及时监控生产数据质量。这些对测试来说，需要有一定的 sql 功底；

字段长度、最大最小值、异常值、边界等
计算单位是否统一
常见函数，比如 dateadd 等日期函数的时间偏差
查看调度配置是否缺少依赖

关于以上情况举下一些实际案例

使用的是 DATEADD 函数，统计近 6 天数据，需往前推 5 天，对应的前置条件应调整为 ‘-5’

BETWEEN TO_CHAR(DATEADD(TO_DATE('${bizdate}','yyyyMMdd'), -6,'dd'),'yyyyMMdd')

字段未做默认处理，数值字段一般默认为 0，字符串默认为 ‘’；

nvl(t22.spu_bid_cnt_30d,0)             as  spu_bid_cnt_30d    -- 近30天_出价spu数
    ,nvl(t17.spu_cnt_td,0)                  as  spu_cnt_td         -- 当天动销商品数
    ,nvl(t22.spu_inv_num_7d,0)              as  spu_inv_num_7d     -- 近七天_在售商品数
    ,t22.spu_inv_num_30d                    as  spu_inv_num_30d    -- 近30天_在售商品数

常用的测试方法

DQC 校验

在日常测试时，常会遇到一种迁移任务和重构任务，此类任务对于原先的指标和口径几乎是没有任何差别，这个时候 DQC 校验可以方便快捷的来解决

通常使用的方法如下：

SELECT  t1.xxx_id AS xxid
        ,t1.xxx_month AS xx统计时间
        ,t1.xxx_rate AS xx率
        ,t2.xxx_rate AS 旧xx率
FROM    (
            SELECT  xxx_id
                    ,xxx_month
                    ,xxx_rate
            FROM    newtalbe
            WHERE   pt = '20221011'
        ) t1 inner JOIN    (
            SELECT  xxx_id
                    ,xxx_time
                    ,xxx_rate
            FROM    oldtable
            WHERE   pt = '20221011'
        ) t2
ON      t1.xxx_id = t2.xxx_id
AND     t1.xxx_month = t2.xxx_time
where     t1.xxxx_rate <> t2.xxxx_rate

血缘横向对比

测试过程中往往会发现数据对不上或者枚举不对的情况，为了进一步排查我们就需要通过血缘关系，来了解我们字段的来源是否错误。