MNN笔记
gaussrieman123
喜欢新技术与老故事。
展开
-
MNN 中的矩阵乘法
背景之前也写过sgemm,然后就想看看MNN是如何实现的,有没有什么可以借鉴的地方,看完之后发现MNN的实现也是简单的按行数据并行处理,记录一下。矩阵乘法矩阵乘法的目的是完成一个计算:C = A * B,其中A是h * k, B是k * w,所以C是h * w。常用的方式是分行处理,对于C的第一行,可以按如下方式处理:C(0,j) += A(0,i)*B(i,j)对于行主序矩阵,每...原创 2019-10-29 14:22:23 · 1064 阅读 · 1 评论 -
MNN中的for循环并行Concurrency.h
for循环并行概念性的东西可以参考c++ 对for循环的并行优化例子,此文中使用多线程对for循环进行了优化,并提出可能遇到的一些问题。实际上for循环还有一种可用的优化方法是使用OpenMP来进行多线程的加速。OpenMp提供了对于并行描述的高层抽象,降低了并行编程的难度和复杂度,这样程序员可以把更多的精力投入到并行算法本身,而非其具体实现细节。实际在一些开源库当中,大多数都使用OpenM...原创 2019-10-12 15:15:18 · 944 阅读 · 0 评论 -
阿里巴巴推断框架MNN在iOS上的使用小结
MNN介绍端侧智能现在已经不是新鲜话题,不管是从数据安全出发,还是从实时性能考虑,端侧深度学习算法推理都有其不可替代的优势。之前已经有一段时间的端侧推理框架热潮,google、Facebook、百度、腾讯、小米以及一些名气不大但是实力很强的小公司,都开源了自家的端侧推理框架,阿里MNN在18年年底开源,有后来居上的趋势和决心,不仅工程结构的完备性和规范性很好,开发团队和应用场景也有一定的优势。...原创 2019-07-03 11:17:34 · 5570 阅读 · 15 评论