Elasticsearch 去重统计 cardinality去重复

Elasticsearch 去重统计 按照deviceId 去重统计总数

相当于SQL

SELECT COUNT(DISTINCT deviceId ?) FROM log_info where userName= 'admin' and operateTime > '2020-05-18 00:00:00' and?perateTime < '2020-05-25 00:00:00'?

{
	"query": {
		"bool": {
			"must": [{
				"match": {
					"userName": "admin"
				}
			}, {
				"range": {
					"operateTime": {
						"gt": "2020-05-18 00:00:00",
						"lt": "2020-05-25 00:00:00"
					}
				}
			}],
			"must_not": [],
			"should": []
		}
	},
	"from": 0,
	"size": 0,
	"sort": [],
	"aggs": {
		"deviceId_aggs": {
			"cardinality": {
				"field": "deviceId"
			}
		}
	}
}

es在使用cardinality实现count(distinct)时会在准确性和及时性上做一定的取舍

可以在使用cardinality时,配置下面的参数来增加准确性,牺牲的是时间和内存

percision_threshold : 40000

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
在Java中实现ES去重统计数量可以使用ES的Java客户端库。下面是一个示例代码: ``` import org.elasticsearch.action.search.SearchRequest; import org.elasticsearch.action.search.SearchResponse; import org.elasticsearch.client.RequestOptions; import org.elasticsearch.client.RestHighLevelClient; import org.elasticsearch.index.query.QueryBuilders; import org.elasticsearch.search.aggregations.AggregationBuilders; import org.elasticsearch.search.aggregations.metrics.cardinality.Cardinality; import org.elasticsearch.search.aggregations.metrics.cardinality.CardinalityAggregationBuilder; import org.elasticsearch.search.builder.SearchSourceBuilder; public class EsDeduplication { public static long getDeduplicatedCount(RestHighLevelClient client, String index, String field) throws IOException { SearchRequest searchRequest = new SearchRequest(index); SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder(); searchSourceBuilder.query(QueryBuilders.matchAllQuery()); CardinalityAggregationBuilder aggregationBuilder = AggregationBuilders.cardinality("deduplicated_count").field(field); searchSourceBuilder.aggregation(aggregationBuilder); searchRequest.source(searchSourceBuilder); SearchResponse searchResponse = client.search(searchRequest, RequestOptions.DEFAULT); Cardinality cardinality = searchResponse.getAggregations().get("deduplicated_count"); return cardinality.getValue(); } } ``` 在这个代码中,我们创建了一个名为`getDeduplicatedCount`的方法,该方法接受ES客户端、索引名和要去重的字段名作为参数。该方法首先创建一个`SearchRequest`对象,并使用`SearchSourceBuilder`对象构建了一个查询。查询使用`matchAllQuery`来匹配所有文档,并使用`CardinalityAggregationBuilder`聚合函数来对指定字段进行去重统计。聚合结果中的`deduplicated_count`桶中包含去重后的数量,并通过`getValue`方法获取该值。 在代码中,我们使用了ES的Java客户端库,因此需要将该库添加到项目的依赖中。您可以根据您的ES版本和其他要求选择正确的版本。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值