2024年大数据最新多标签用户画像分析跑得快的关键在哪里？_用户画像做的很快(1)，靠着这份900多页的PDF面试整理

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

需要这份系统化资料的朋友，可以戳这里获取

总数据量很巨大时，运算性能的瓶颈常常集中在这个条件过滤上。这些条件非常随意，无法预先计算或指望索引，必须要有高效的硬遍历能力。这时候，对枚举标签和二值标签采用的存储和计算方法就非常关键了。

在关系数据库、数据仓库中，枚举标签也就是个普通字段，相应的过滤计算是在WHERE子句中用IN来完成，一般是d IN (d1,…,dn)的形式，即字段 d 取值包含于值集合 {di,…} 时为真。IN计算的性能较差，主要由于其中有太多的比较运算。要判断字段d是否包含在值集合中，如果采用顺序查找，需用d与值集合中的成员做1到n次的比较计算。即使在值集合有序的情况下用二分法查找，也要比较数次。数据量较大时比较次数会非常多，判断IN 的速度就会很慢，而且值集合越大速度越慢。

枚举标签过滤性能优化的关键是消除其中的比较运算。首先，确定 IN 字段（即写成IN条件前面的字段）可能取值的列表。可能值通常不会太多，这个列表也不会太长。然后转换原数据，把 IN 字段值替换为列表中对应记录的序号（位置），另存成一份新数据。

对替换后的新数据做 IN 判断时，先要生成一个与列表等长的布尔值集合，其第 i 个值由列表的第 i 个成员是否在 IN 字段的值集合中决定，在其中就是true，不在就是false。遍历时，用 IN 字段值（列表的序号）去取布尔值集合中的成员，是true就符合过滤条件，否则就不符合。

这种方法本质上是将“集合值比较”转换为“序号引用”，省去了比较计算，性能会大幅提升。而且计算时间和值集合大小无关，不会随着 IN条件中枚举值的增多而增加。

SQL中一般不支持通过序号（位置）直接取集合成员的方法，要用关联表过渡，会导致更复杂的JOIN运算，不能直接实现这种优化方法。

二值标签在数据库中一般用布尔型字段来存储。如果只有几个或几十个，那就简单地把过滤条件写在 WHERE 中就可以了。但标签总数有可能达到成百上千个。很多数据库表不支持这么多字段，还要分成多个表再做 JOIN。在数据量很大时，大表连接的性能非常差。

为了避免大表连接，还可以把几千个布尔字段转列为行，用一个“标签号”字段存储，计算时先分组再过滤、统计。但这个分组结果集很大，需要外存缓存，性能还是很差。

如果用整数的二进制位来存储二值标签（0，1 各代表一个取值），那么 16 位短整数就能存 16 个标签，100 个整型字段就能存 1600 个标签，可以有效减少字段数量，避免大表连接。

但是，很多数据库还不支持这种位相关的计算，也就不能实现这种性能优化方法。

开源数据计算引擎 SPL支持序号引用和位式运算，可以很方便地实现上述优化方法。相应的SPL代码也很简单，例如原数据表T_ordinary中的字段包括：用户id、枚举标签字段dName（比如年龄段：children、juvenile、youth、middle age、old age）、16个布尔标签字段flag1到flag16，以及金额字段amt。其中，dName的取值范围在选项表dim中。下面的代码可以完成序号引用和位式存储的转换：

	A
1	=file(“T_ordinary.ctx”).open().cursor(id,dName,flag1,flag2,…,flag16,amt)
2	=T(“dim.btx”)
3	=A1.new(id,dim.pos@b(dName):d,bits(flag1,flag2,…,flag16):b,amt)
4	=file(“T.ctx”).create(id,d,b,amt)
5	=A4.append(A3)

A3用pos函数将dName的值替换为dim中的序号，存成新字段d。dim预先按照 dName有序，这里用二分法查找速度更快。同时使用 bits 函数把 16 个标签字段转换成一个16位整数字段b。

转换好的表T就可以做高性能的标签过滤和统计了。例如，过滤条件是dName取值在前端传入的集合[“middle age”,“old age”]中，且标签 flag4、flag8 为 1。 完成过滤之后，按照d分组汇总金额和记录数，代码大致是这样的：

	A
1	=bits(0,0,0,1,0,0,0,1,0,0,0,0,0,0,0,0)
2	=T(“dim.btx”).([“middle age”,“old age”].contain@b(~))
3	=file(“T.ctx”).open().cursor(amt;A2(d) && and(b,A1)==A1)
4	=A3.groups(d;sum(amt),count(~))

A1用bits函数生成16位小整数，第4、8位值是1，对应标签 flag4、flag8。A2生成布尔值集合。A3利用布尔值集合和小整数做过滤计算。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

需要这份系统化资料的朋友，可以戳这里获取

讲解视频，并且后续会持续更新**

需要这份系统化资料的朋友，可以戳这里获取