clickhouse FULL JOIN 全连接遇到的坑

声明:只在我实际使用中碰到的一个问题

clickhouse官网文档中并没有找到full join 的信息,但是实际使用的时候是可以用 all full join 关联将两个不同接口的表通过某些字段关联成一张表。

问题:

我用两个子查询查出的结果用 all full join 关联,关联keyword_id和fr字段,但是两张表中除了这两个字段以外还有一个同名的account_id字段,遇到的问题是,第一个子查询得到的结果是44条,第二个子查询得到的结果是5条,能根据keyword_id 和fr关联上的数据只有两条。结果是47条数据,这个是没问题的,而有问题的是其中有3条是第二张表的与第一张没对应上的结果account_id变成空了。

如下:

sql:

 
	SELECT

		*
		
	FROM
		(
			SELECT
				fr,
				keyword_id,
				account_id,
				sum(cost) AS ad_cost,
				sum(cost_real) AS ad_cost_real,
				sum(impression) AS ad_impression,
				sum(click) AS ad_click
			FROM
				marketing.sem_keyword_report
			WHERE
				1 = 1
			AND the_day >= '2018-12-12'
			AND the_day <= '2018-12-18'
			AND lower(fr) IN ('bd_sem')
			AND account_id IN ('18091503')
			GROUP BY
				account_id,
				keyword_id,
				fr
		) ALL
	FULL JOIN (
		SELECT
			fr,
			keyword_id,
		 
			account_id,
			clue_all,
			clue_all_new,
			c1_kpi_daily_new_customer_amount,
			c1_kpi_new_customer_amount,
			c2_kpi_daily_new_customer_amount,
			c2_kpi_new_customer_amount,
			c2c_c1_create,
			c2b_c1_create,
			c2c_c1_onsite,
			c2b_c1_onsite,
			c2c_c1_onsale,
			c2b_c1_onsale,
			c2c_c2_appoint,
			b2c_c2_appoint,
			ssss_c2_appoint,
			c2c_c2_finish_appoint,
			b2c_c2_finish_appoint,
			ssss_c2_finish_appoint,
			c2c_c2_order,
			b2c_c2_order,
			weighting_number,
			ssss_c2_order
		FROM
			(
				SELECT
					fr,
					kid AS keyword_id,
					sum(clue_all) AS clue_all,
					sum(clue_all_new) AS clue_all_new,
					sum(
						c1_kpi_daily_new_customer_amount
					) AS c1_kpi_daily_new_customer_amount,
					sum(c1_kpi_new_customer_amount) AS c1_kpi_new_customer_amount,
					sum(
						c2_kpi_daily_new_customer_amount
					) AS c2_kpi_daily_new_customer_amount,
					sum(c2_kpi_new_customer_amount) AS c2_kpi_new_customer_amount,
					sum(c2c_c1_create) AS c2c_c1_create,
					sum(c2b_c1_create) AS c2b_c1_create,
					sum(c2c_c1_onsite) AS c2c_c1_onsite,
					sum(c2b_c1_onsite) AS c2b_c1_onsite,
					sum(c2c_c1_onsale) AS c2c_c1_onsale,
					sum(c2b_c1_onsale) AS c2b_c1_onsale,
					sum(c2c_c2_appoint) AS c2c_c2_appoint,
					sum(b2c_c2_appoint) AS b2c_c2_appoint,
					sum(ssss_c2_appoint) AS ssss_c2_appoint,
					sum(c2c_c2_finish_appoint) AS c2c_c2_finish_appoint,
					sum(b2c_c2_finish_appoint) AS b2c_c2_finish_appoint,
					sum(ssss_c2_finish_appoint) AS ssss_c2_finish_appoint,
					sum(c2c_c2_order) AS c2c_c2_order,
					sum(b2c_c2_order) AS b2c_c2_order,
					sum(weighting_number) AS weighting_number,
					sum(ssss_c2_order) AS ssss_c2_order
				FROM
					marketing.market_kid_stat_new_v5
				WHERE
					1 = 1
				AND dims = 'clue'
				AND dts >= '2018-12-12'
				AND dts <= '2018-12-18'
				AND lower(fr) IN ('bd_sem')
				GROUP BY
					keyword_id,
					fr
			) ANY
		LEFT JOIN (
			SELECT
				fr,
				keyword_id,
				account_id
			FROM
				marketing.sem_keyword_type
		) USING keyword_id,
		fr
	WHERE
		1 = 1
	AND lower(fr) IN ('bd_sem')
	AND account_id IN ('18091503')
	) USING keyword_id,fr
	

继续排查:

将右边的account_id 起别名显示时 account_id as aid

结果如下: aid显示的是第二张表能查到的5条数据对应的account_id ,

将第一张表与第二张表颠倒顺序,结果就是相反的。只有5条数据有accountid而其他42条没有account_id
数据字段是没有问题的,没有的为0,但是keyword_id和fr被补齐了,而account_id 却没有。
看了一下sql 可能是因为fr和keyword_id作为关联条件using了。那么尝试一下把account_id 也加入using
结果account_id被补全了
结果:

 

结论:

虽然我不是很清楚到底是什么机制导致了上述的问题,也不明白为什么最后在using中加入那个字段,结果就被补全了

但是有一点儿我能明白的是clickhouse使用 full join 还是隐约跟左右表有关,并不是真正实现将左右两张表完全放到根据条件相同完全补全字段。同名字段可能会存在问题。

 

以上是我遇到的问题以及解决,仅作为自己工作记录

感谢观看

 

### 回答1: Hive 中的全连接(full join)是一种数据连接操作,它将两个表的所有数据行进行连接。在全连接中,如果一个表中的某一行在另一个表中没有匹配,则在结果中显示 NULL 值。全连接在数据分析和报表生成中非常有用。 ### 回答2: Hive是一个大数据处理框架,在处理数据时需要使用join操作将多个数据表进行连接。其中,Hive Full Join全连接)是一种非常重要的连接方式,它可以同时返回左右两个表中所有的数据,不论是否存在匹配项,这种方式相比其他类型的连接非常灵活。下面详细介绍Hive Full Join的相关内容。 1. 全连接的概念 通常情况下,join连接分为内连接、左连接和右连接三种。内连接用于返回两个表中共有的数据,左连接返回左表中的所有数据以及与之匹配的右表数据,右连接则是返回右表中的所有数据以及与之匹配的左表数据。而Hive Full Join则是同时返回左右表中所有数据,无论是否存在匹配项,这也是全连接名称的由来。 2. Hive Full Join使用方法 在Hive中,使用full join进行连接操作可以使用语句:SELECT * FROM table_left FULL OUTER JOIN table_right ON table_left.key = table_right.key; 其中:table_left表示左表名,table_right表示右表名,key表示连接关键字。 需要注意的是,在使用Hive Full Join进行连接操作时,可能会出现一些性能问题,因为全连接会将两个表中的所有数据都进行匹配。如果两个表中数据量极大,可能会导致连接过程非常缓慢,因此需要采取一些措施来提高全连接的性能。 3. Hive Full Join的性能优化 在使用Hive Full Join进行连接操作时,可以采用以下策略来提高全连接的性能: 使用Index进行优化:可以在两个关键字上建立索引,这样可以加快连接操作的速度。 使用Map Join进行优化:使用Map Join机制可以将一个小表的数据加载到内存中,然后再将其与另一个大表进行连接,这样可以减少磁盘I/O的操作,提高连接速度。 使用Bucket进行优化:使用Bucket可以将数据按照特定的方式划分为多个部分,这样可以使连接操作更加高效。 总之,Hive Full Join是一种非常重要的连接方式,可以同时返回两个表中所有数据,无论是否存在匹配项。在使用全连接时,需要注意性能问题,可以采用一些策略来优化连接过程,提高全连接的性能。 ### 回答3: Hive是一种基于Hadoop的数据仓库系统,全连接是一种常用的关系型数据库查询方式,它可以返回两个表中所有的行匹配项和非匹配项。因此,Hive中的全连接是基于两个表的所有行组合集,对比这些行的值,将匹配的行和非匹配的行一起返回。 在Hive中,我们可以使用FULL OUTER JOIN语句来执行全连接。它可以将左表、右表中的所有记录按字段连接起来。如果在两个表中都存在的记录,则返回匹配项,否则返回非匹配项。FULL OUTER JOIN语句的语法如下: SELECT tb1.column1, tb1.column2, tb2.column1, tb2.column2 FROM table1 tb1 FULL OUTER JOIN table2 tb2 ON tb1.common_column = tb2.common_column; 在上面的语法中,tb1和tb2是要连接的两个表,common_column是它们之间共有的字段。SELECT语句中的列分别表示左表tb1和右表tb2中的字段列。如果匹配了记录,则返回匹配记录中的列;如果找不到匹配的记录,则在一个表中或另一个表中返回NULL值。 需要注意的是,全连接可能产生大量的重复数据,因此在使用全连接的时候比较费资源。如果不需要所有行的组合,也可以使用其他JOIN操作,比如内连接、左连接、右连接等。这些JOIN操作可以根据实际需要选择最适合的方法来连接数据,以提高查询效率。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值