![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
分布式系统与并行计算
文章平均质量分 83
xcy6666
这个作者很懒,什么都没留下…
展开
-
再谈并行与分布式计算
并行模型https://en.wikipedia.org/wiki/Communicating_sequential_processeshttps://www.tutorialspoint.com/parallel_algorithm/parallel_algorithm_models.htmhttps://en.wikipedia.org/wiki/Parallel_programming...原创 2020-03-01 17:53:58 · 391 阅读 · 0 评论 -
[system-track][computing][cuda] branch divergence and __syncthreads
#include<stdio.h>#include<cuda_runtime.h>__global__ void branch_divergence_0(){ __shared__ int counter; if(threadIdx.x == 0 ) counter = 0; int c = 0; whi...原创 2019-07-05 18:05:49 · 161 阅读 · 0 评论 -
[system-track][computing][GPU][Intel HD 530 Gen9] architecture and performance issue
intel原创 2019-03-22 11:43:38 · 58 阅读 · 0 评论 -
[system-track][computing][cuda]cuda : performance issue
cuda : performance issuememory coalescing. about global memoryshared memory. about on-chip memorybranch divergence / threads divergencetutorial frommemory coalescing. about global memoryhttps://devb...原创 2019-03-12 20:21:52 · 183 阅读 · 0 评论 -
[system-track][computing][cuda]parallel reduce/scan/qsort
recursive versionvoid exclusive_scan_recursive(int* start, int* end, int* output, int* scratch){ int N = end - start; if (N == 0) return; else if (N == 1) { output[0] = 0; return; } // sum...原创 2019-03-14 21:26:42 · 275 阅读 · 0 评论 -
深度学习并行训练——AD-PSGD算法
机器学习并行模型原创 2018-07-23 20:42:33 · 2914 阅读 · 0 评论 -
计算范式V2
计算范式V2原创 2018-06-16 21:00:59 · 2672 阅读 · 4 评论 -
计算范式
尝试对并行计算,分布式计算,云计算,串行计算,异构计算等概念进行梳理原创 2016-07-09 10:12:33 · 10752 阅读 · 1 评论 -
辨析三种一致性:缓存一致、内存一致、数据一致
一致性是一个深刻而复杂的问题,这篇文章是我目前的粗浅理解,如果发现理解错误还会继续更新 目前这篇文章只是记录我自己的理解,并没有考虑文章的可读性本文由giantpoplar发表于CSDN,未经允许不得转载。缓存一致性cache coherence 的coherence这个词猜测是体系结构圈为了和memory consistency做区分,用了coherence这个...原创 2018-06-16 13:08:55 · 10246 阅读 · 0 评论