学习公司在阿里云中的部署时,发现有个不熟悉的函数:max_pt
INSERT OVERWRITE TABLE hardware_audio PARTITION (ds=${bdp.system.bizdate})
SELECT u.uid AS uid, u.baby_birthday AS baby_birthday
FROM portrait u
WHERE u.ds = max_pt('portrait');
解释如下:
USER_META、USER_META_CONFIG、ITEM_META、ITEM_META_CONFIG中的ds最大值分区是指:该表中所有存在的ds分区取值中按字符串字典序升序排序最大的那个值(不是数据条数最多、数据存储量最大等其他意义上的最大)。
举例来说,假设有三个分区20171010、20171110和20171210,推荐引擎实际在做数据预处理时会使用MaxCompute SQL的max_pt函数,取到的是20171210这个单一分区里的全量数据,对于其他分区会完全忽视,也不会进行任何的合并、去重操作。
还有需要注意的是,由于这里取的仅仅是字典序最大的那个分区,而不是字典序最大且“有数据”的那个分区,因此对于这个最大分区里的数据完整性、规范性需要您自行保证。