看编译器优化等级的时候,看到MSVC /02会尝试把一些循环矢量化,有点好奇什么是循环矢量化。
说白了就是底层执行逻辑的优化。
循环矢量化(Loop Vectorization)会把循环中的操作并行化,使得CPU能够同时处理多个数据元素,从而提升程序的执行效率。
for (int i = 0; i < n; i++) {
C[i] = A[i] + B[i];
}
比如上面这个司空见惯的循环,如果不循环矢量化就会逐个处理数据元素,每个数组取第i个元素叠加存放到C变量对应位置,执行n个加法操作;当循环矢量化之后会成批处理,把A、B两个数组加载到向量寄存器中,一次性执行多个加法操作。
示例
#include <iostream>
#include <chrono>
#include <vector>
#include <immintrin.h> // For AVX
void add_arrays_non_vectorized(const float* A, const float* B, float* C, int n) {
for (int i = 0; i < n; ++i) {
C[i] = A[i] + B[i];
}
}
void add_arrays_vectorized(const float* A, const float* B, float* C, int n) {
for (int i = 0; i < n; i += 8) {
__m256 a = _mm256_loadu_ps(&A[i]);
__m256 b = _mm256_loadu_ps(&B[i]);
__m256 c = _mm256_add_ps(a, b);
_mm256_storeu_ps(&C[i], c);
}
}
int main() {
const int n = 1 << 20; // 1 million elements
std::vector<float> A(n, 1.0f);
std::vector<float> B(n, 2.0f);
std::vector<float> C(n, 0.0f);
auto start = std::chrono::high_resolution_clock::now();
add_arrays_non_vectorized(A.data(), B.data(), C.data(), n);
auto end = std::chrono::high_resolution_clock::now();
std::chrono::duration<double> duration_non_vectorized = end - start;
std::cout << "Non-vectorized time: " << duration_non_vectorized.count() << " seconds\n";
start = std::chrono::high_resolution_clock::now();
add_arrays_vectorized(A.data(), B.data(), C.data(), n);
end = std::chrono::high_resolution_clock::now();
std::chrono::duration<double> duration_vectorized = end - start;
std::cout << "Vectorized time: " << duration_vectorized.count() << " seconds\n";
return 0;
}
运行的时候需要确保编译器支持AVX指令集,加入”-mavx“或者“/mavx”编译选项,执行结果如下:
Non-vectorized time: 0.00181928 seconds
Vectorized time: 0.000843904 seconds