Everything You Always Wanted to Know About Compiled and Vectorized Queries But Were Afraid to Ask 笔记

最新推荐文章于 2021-12-22 11:24:52 发布
最新推荐文章于 2021-12-22 11:24:52 发布
阅读量3.2k 收藏
点赞数
分类专栏： 工程
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/rsy56640/article/details/90274649
版权

Everything You Always Wanted to Know About Compiled and Vectorized Queries But Were Afraid to Ask 论文阅读笔记

看了 Ref[1] 和 Ref[2]，基本就差不多了

Vectorization：materialization 开销，可以利用 SIMD 并行数据操作，最好是 column store
Code gen：指令数少，利于计算密集型

  • join (memory bound)：向量化快
    • memory load 消耗 CPU cycle，向量化减少 cache miss
  • computation (CPU intensive task)：code gen 快
    • cache 压力小，code gen 指令数少，高效利用 register
  • selection 使用 SIMD
    • 越多 select，越稀疏，column 上 offset 越大，导致 cache miss

消除分支的操作：a>b?1:0 可以被写成没有分支的语句 setg

在这里插入图片描述

在这里插入图片描述

Reference

rsy56640
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
RuntimeError: Detected that PyTorch and torchvision were compiled with different CUDA versions解决方案
weixin_43178406的博客
09-06 4万+
本文主要介绍了RuntimeError: Detected that PyTorch and torchvision were compiled with different CUDA versions解决方案，希望能对学习torch的同学们有所帮助。 文章目录 1. 问题描述 2. 解决方案
Everything About Compiled and Vectorized
10-20
本文“Everything About Compiled and Vectorized”探讨了两种现代数据库系统中广泛采用的查询处理范式：编译式和向量化。这两种方法在系统架构和执行代码上有着根本性的差异，但都致力于构建快速响应的系统。 编译...
Everything You Always Wanted to Know About Synchronization but Were Afraid to Ask (p33-david)-计算机科学
04-22
Everything You Always Wanted to Know About Synchronization but Were Afraid to AskTudor David, Rachid Guerraoui, Vasileios Trigonakis∗School of Computer and Communication Sciences, École Polytechnique Fédérale de Lausanne (EPFL), Switzerland{tudor.david, rachid.guerraoui, vasileios.trigonakis}@epfl.chAbstract This paper presents the most exhaustive study of syn- chronization to date. We span multiple layers, from hardware cache-coherence protocols up to high-level concurrent software. We do so
Everything you always wanted to know about the processing of customer exit variables, but …
xinzw的博客
03-17 696
 原文链接：https://blogs.sap.com/2014/11/11/everything-you-always-wanted-to-know-about-the-processing-of-customer-exit-variables-but/ Everything you always wanted to know about the processing o
OLAP系统核心技术点，每一点都值得单独收藏
朱小厮的博客
09-26 2559
OLAP系统广泛应用于BI、Reporting、Ad-hoc、ETL数仓分析等场景，本文主要从体系化的角度来分析OLAP系统的核心技术点，从业界已有的OLAP中萃取其共性，分为谈存储，谈...
数据库 Selection Scan 学习笔记
kaka11的专栏
12-22 1152
一. SIMD 的 store/ load 指令 1.1 selective store 将 vector lane(simd 寄存器) 的一部分（根据 mask）写入连续内存 ![image.png](https://img-blog.csdnimg.cn/img_convert/a21ead523e002a7a2afa439ad2127237.png#clientId=ua75d289f-9a44-4&crop=0&crop=0&crop=1&crop=1&fro
数据库计算引擎的优化技术：向量化执行与代码生成
The_Inertia的博客
05-17 783
数据库计算引擎的优化技术：向量化执行与代码生成 原文链接：https://zhuanlan.zhihu.com/p/100933389 阿尔德里竹 作者：徐飞，李德竹 随着数据库软硬件技术的发展，经典的 SQL 计算引擎逐渐成为数据库系统的性能瓶颈，尤其是对于涉及到大量计算的 OLAP 场景。如何进一步提升 SQL 计算引擎的性能成为数据库从业者们的热门研究方向，无论是学术界还是工业界都对此作了大量的努力，而向量化执行与代码生成正是在这一过程中实践总结出来的两种有效方法，在新一代的数据库系统中，大多都能看
Vectorized Execution Engine in MaxCompute 2.0简介
weixin_34392435的博客
03-15 175
原文链接：http://click.aliyun.com/m/13993/前言 在《数据库系统中的Code Generation技术介绍》一文中，我们阐述了代码的CPU执行效率对于大规模分布式OLAP系统的重要性。现在简单总结如下：OLAP系统中查询往往比较复杂，比如多表Join, 各种聚合函数以及窗口函数，其中涉及大量的Hash计算（比如采用Hash Join, Ha...
rhel8 安装vmware workstation15.1报错 Before you can runVMware, several modules must be compiled and load-附件资源
03-05
rhel8 安装vmware workstation15.1报错 Before you can runVMware, several modules must be compiled and load-附件资源
Docker image to run compiled MATLAB applications or components
07-24
Docker image to run compiled MATLAB applications or components without installing MATLAB.zip
CHM转PDF CHM to PDF v1.0
10-29
《CHM转PDF：CHM to PDF v1.0转换工具详解》 在信息技术领域，文件格式的转换是一项常见的需求，特别是在文档管理和分享过程中。CHM（Compiled Help Manual）是微软开发的一种帮助文件格式，常见于Windows系统的...
每个大数据工程师都应该知道的OLAP 核心知识点
过往记忆大数据
09-27 878
OLAP 系统广泛应用于 BI, Reporting, Ad-hoc, ETL 数仓分析等场景，本文主要从体系化的角度来分析 OLAP 系统的核心技术点，从业界已有的 OLAP 中萃取其...
Eclipse install new software 失败 解决方案
rsy56640的博客
04-30 9156
这个东西烦我好久了。。。 一句话： 进入这个目录，看文件夹名称是否与自己eclipse安装路径名吻合，修改，成功 C:\Users\lenovo.p2\org.eclipse.equinox.p2.engine\profileRegistry...
Perfbook 阅读笔记（持续更新）
rsy56640的博客
12-15 3919
https://github.com/rsy56640/triviality/tree/master/content/perf-book
The Chubby lock service for loosely-coupled distributed systems 论文阅读笔记
rsy56640的博客
05-02 3898
The Chubby lock service for loosely-coupled distributed systems 论文阅读笔记 特点：高可靠、高可用、粗粒度锁服务、小文件存储 主要用于高可用的集群配置管理和系统元数据 GFS：使用 Chubby lock 任命 master server Bigtable 选举 master master 轮询获得下面的 server clien...
An Empirical Evaluation of In-Memory Multi-Version Concurrency Control 论文阅读笔记
rsy56640的博客
06-12 3092
An Empirical Evaluation of In-Memory Multi-Version Concurrency Control 论文阅读笔记 Ref[1]中他讲了这篇论文名字的变化历程。。。 上课笔记：03 Multi-Version Concurrency Control Design Decisions Concurrency Control Protocol Versio...
Percolator 论文阅读笔记
rsy56640的博客
05-19 2911
Large-scale incremental processing using distributed transactions and notifications 论文阅读笔记 主要有2点： 事务提交细节（lock列，write列），相当于用 SI+锁 实现一致性（注意 Write Skew） 2PC 细节，故障恢复 需求：海量数据，随机读写，跨行事务（强一致性），高吞吐量，延迟无所谓 为...
Fast Serializable Multi-Version Concurrency Control for Main-Memory Database Systems 论文阅读笔记
rsy56640的博客
06-15 2872
Fast Serializable Multi-Version Concurrency Control for Main-Memory Database Systems 论文阅读笔记 这是一篇好论文 Serializable MVCC implementation 不允许 write-write（CAS更新？），commit-ts 作为 serialization order delta s...
the udf library you are trying to load (libudf) is not compiled for parallel
最新发布
09-20
这个错误信息是在尝试加载一个名为libudf的udf库时出现的。这个错误的原因是该库没有为并行计算进行编译。 并行计算是指同时执行多个计算任务，以提高计算速度和效率。在使用并行计算时，需要使用特别编译的库，以确保库中的函数可以在并行环境中正确运行。 要解决这个问题，可以尝试以下几个步骤： 1. 检查是否有并行版本的libudf库可用：首先确认是否存在专门为并行计算准备的libudf库。如果没有，并行版本的库可能需要从官方或其他可靠来源获得。 2. 更新库文件：如果已经下载了并行版本的libudf库，将其替换原来的库文件。确保新库文件的名称和路径与原来的库文件一致。 3. 重新编译UDF代码：如果你自己编写了UDF代码，并且想要在并行计算中使用，可能需要重新编译UDF代码，以确保它可以正确链接并与并行库一起使用。 4. 在编译选项中指定并行库：如果你无法获取并行版本的libudf库，可以尝试在编译选项中明确指定并行库。通过这种方式，可以确保编译器能够正确处理并行计算。 总之，要解决"the udf library you are trying to load (libudf) is not compiled for parallel"错误，需要获得相应的并行版本库，或者通过重新编译UDF代码或修改编译选项来确保代码在并行计算中能够正确运行。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值