![](https://img-blog.csdnimg.cn/20201014180756724.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
工具链与软件库
文章平均质量分 82
工具链与软件库
普通网友
这个作者很懒,什么都没留下…
展开
-
稀疏向量计算技术杂谈
稀疏向量计算技术杂谈原创 2022-07-18 05:30:23 · 1490 阅读 · 0 评论 -
计算机视觉几个应用
计算机视觉几个应用原创 2022-06-14 07:10:18 · 422 阅读 · 1 评论 -
云边端与边缘计算技术
云边端与边缘计算技术原创 2022-06-13 06:44:21 · 2831 阅读 · 0 评论 -
MLIR技术杂谈
MLIR技术杂谈原创 2022-06-08 06:32:18 · 1236 阅读 · 2 评论 -
RISC-V技术与展望
RISC-V技术与展望RISC-V(发音为“risk-five”)是一个基于精简指令集(RISC)原则的开源指令集架构(ISA)。与大多数指令集相比,RISC-V指令集可以自由地用于任何目的,允许任何人设计、制造和销售RISC-V芯片和软件。虽然这不是第一个开源指令集,但具有重要意义,因为其设计使其适用于现代计算设备(如仓库规模云计算机、高端移动电话和微小嵌入式系统)。设计者考虑到了这些用途中的性能与功率效率。该指令集还具有众多支持的软件,这解决了新指令集通常的弱点。该项目2010年始于加州大学伯克利原创 2022-05-04 05:47:49 · 458 阅读 · 0 评论 -
ISA指令集基础应用
ISA指令集基础应用ISA(Instruction Set Architecture,指令集体系结构)的缩写,指令集因系统性和复杂性,称为(Instruction Set Architecture,ISA)。指令集对上限定了软件的基本功能,对下制订了硬件实现的功能目标,指令系统的设计(指令集中应该包含哪些指令,指令应该采用什么样的格式表示)是计算机系统设计中十分重要的一环。重构处理器架构基础Adi Fuchs 为AI 加速器的架构基础,包括指令集架构 ISA、特定领域的 ISA、超长指令字 (VLI原创 2022-04-10 05:53:15 · 3152 阅读 · 0 评论 -
编译器基本抽象技术
编译器技术编译器组成编译器内部可以分为分析(analysis)部分和 整合(synthesis) 两部分。分析过程把源程序分成多个结构,分别对其格式进行校验,如果违反语法格式则进行提醒。分析部分还会收集有关源程序的信息,会把收集到的信息存放在一个被称为符号表(symbol table) 的数据结构中。符号表和中间表示形式一起传给整合部分。整合过程是根据分析过程传递的信息来构造用户期待的目标程序。分析和整合又被称为 前端(front end) 和 后端(back end)。...原创 2022-04-03 07:10:08 · 786 阅读 · 0 评论 -
GPU架构与桌面级图形显卡
GPU架构与桌面级图形显卡GPU芯片 设计为主的集成电路高科技公司。致力于创新面向元计算应用的新一代GPU,构建融合视觉计算、3D图形计算、科学计算及人工智能计算的综合计算平台,建立基于云原生GPU计算的生态系统,助力驱动数字经济发展。注于研发设计国产全功能GPU芯片及相关产品,构建面向数据中心、边缘计算、高性能PC及工作站的计算加速平台,为中国科技生态合作伙伴提供强大的计算加速能力。本文参考链接https://www.mthreads.com/news重磅发布第一代MUSA架构GPU,以元计算赋原创 2022-03-31 14:32:40 · 9006 阅读 · 0 评论 -
GPU、AI芯片技术市场分析
GPU、AI芯片技术市场分析市场将高速增长,GPU曙光初现,预计到2024年,国内人工智能技术市场规模将达到172亿美元;全球占比将从2020年12.5%上升到15.6%,是全球市场增长的主要驱动力,在AI计算的训练和推理两个领域,已经有不少初创公司发布了GPU产品。异构计算是灵活性和效率综合平衡的结果,训练指模拟人类接收、学习并理解外界信息能力的AI技术;推理指模拟人类通过学习、判断、分析等心理活动获取信息内含逻辑的AI技术。从部署的灵活性来看,CPU最为灵活 ,GPU次之 ,FPGA和ASIC分列原创 2022-03-30 06:08:33 · 1291 阅读 · 0 评论 -
自动驾驶公司尴尬处境
小马智行自动驾驶公司尴尬处境小马智行(Pony.ai)成立于2016年底, 以中国和美国为起点,分别在硅谷、广州、北京、上海设立研发中心,并获得中美多地自动驾驶测试、运营资质与牌照。 凭借人工智能技术领域的最新突破,已与丰田、现代、一汽、广汽等车厂建立合作。截至2021年2月,公司融资总额已达11亿美元,估值超53亿美元。2021年6月11日,小马智行回应“造车传闻”,积极评估各业务前景,随时调整。核心技术小马智行经过长期的城区公开道路测试,积累了众多的复杂及极端场景数据,并能安全、智能地处理这些原创 2022-03-25 06:15:10 · 3202 阅读 · 0 评论 -
2002年3月英伟达发布核弹GPU与大算力自动驾驶芯片
2002年3月英伟达发布核弹GPU与大算力自动驾驶芯片英伟达核弹级GPU:800亿晶体管,20块承载全球互联网流量2022年3 月 22 日,在英伟达 GTC2022 上,英伟达介绍了 Hopper 架构、H100 GPU、元宇宙、新型超级计算机、软件、数据中心等方面的最新进展。英伟达公司创始人兼 CEO 黄仁勋在本届英伟达 GTC 大会的开幕仪式上,盛赞 AI 技术已经取得“惊人”进展,展望了 AI 与 Omniverse 将如何把真实世界与虚拟世界合二为一。黄仁勋做出承诺,意欲改造总值达万亿美元原创 2022-03-24 06:32:06 · 1929 阅读 · 1 评论 -
Intel发布FPGA
Intel发布FPGAFPGA概述FPGA(Field Programmable Gate Array)是在PAL (可编程阵列逻辑)、GAL(通用阵列逻辑)等可编程器件的基础上进一步发展的产物。作为专用集成电路(ASIC)领域中的一种半定制电路而出现的,既解决了定制电路的不足,又克服了原有可编程器件门电路数有限的缺点。FPGA设计不是简单的芯片研究,主要是利用 FPGA 的模式进行其他行业产品的设计。与 ASIC 不同,FPGA在通信行业的应用比较广泛。与传统模式的芯片设计进行对比,FPGA 芯片原创 2022-03-23 05:20:03 · 876 阅读 · 0 评论 -
各种小芯片Chiplet的机遇
各种小芯片Chiplet的机遇进入后摩尔定律时代,先进封装成为半导体产业的新显学,小晶片的异质整合商机更是众厂商磨刀霍霍的兵家必争之地。在半导体芯片制造的过程中,当芯片从晶圆厂被生产出来之后,必须经过最后一道非常关键的步骤,才能变成具备不同功能的元件,这个步骤就是:封装测试。所谓封装,将晶片连上印刷电路板或其他电子元件,让讯号与电流能够顺利地传递,测试则是在芯片制作过程的各个阶段,进行不同程度的检测,确认晶片的可靠度以及良率,两者都是在晶片制造的过程当中不可或缺的重要程序。在封装的同时,为了能够达到更原创 2022-03-20 06:23:18 · 1355 阅读 · 0 评论 -
三星芯片制造深陷良率泥沼
三星芯片制造深陷良率泥沼Intel、三星、台积电之类的,做IC芯片制造的,良率大概在多少呢?各种不同芯片(内存、CPU等)是不一样的。首先除了wafer良率,还会有封装良率,凡是大批量制作的东西,都会有不确定性。其次,良率没有统一规定,跟生产线,测试要求,测试程序都有关联。不过一般一个成熟的产品,良率都会在90%以上。有50%良率的产品,但代价就是价格几乎翻倍,没有人会做亏本生意;或者降低测试要求来提高良率降低成本,这都是设计工程师,产品工程师,市场和销售部门都需要考虑的事情。如果良率不改善,技术没原创 2022-03-19 06:19:18 · 820 阅读 · 0 评论 -
算力优化演进展望
算力优化演进展望什么是算力?算力通俗来说,就是计算能力,指的是数据的处理能力。小至手机笔记本、大到超级计算机,算力存在于各种智能硬件设备,没有算力就没有各种软硬件的正常应用。人工智能并非无源之水、无本之木。AI完成每一次人脸识别、每一次语音文字转换,都需要硬件芯片的算力支持。身边的笔记本电脑有着不同配置,价格也会有高低,这主要取决于不同配置产品搭载的CPU、显卡及内存等的差异性。高配置的笔记本具有更高的计算能力,并且可以玩具有更高配置要求的游戏,并运行更多的内存消耗型3D和视听软件。低配置的笔记本运算原创 2022-03-18 06:22:04 · 515 阅读 · 0 评论 -
TensorRT-8量化分析
TensorRT-8量化分析本文讲非对称量化、量化方式等等一些细节,不过有一段时间在做基于TensorRT的量化,需要看下TensorRT的量化细节。这次文章是偏实践的一篇,主要过一下TensorRT对于explict quantization的流程和通用的量化思路。010x01 TensorRT量化都2022年了,量化技术已经很成熟了,各种量化框架[1]和量化算法层出不穷。之前接触过几个量化框架,大部分都是在算法层面模拟一下,实际上无法直接部署到具体的硬件层,也只是停留在算法的层面。而现在成熟的量原创 2022-03-17 06:14:29 · 2190 阅读 · 1 评论 -
算力定律分析
算力定律分析什么是算力?算力通俗来说,就是计算能力,指的是数据的处理能力。小至手机笔记本、大到超级计算机,算力存在于各种智能硬件设备,没有算力就没有各种软硬件的正常应用。人工智能并非无源之水、无本之木。AI完成每一次人脸识别、每一次语音文字转换,都需要硬件芯片的算力支持。以普通人为例,身边的笔记本电脑有着不同配置,价格也会有高低,这主要取决于不同配置产品搭载的CPU、显卡及内存等的差异性。高配置的笔记本具有更高的计算能力,并且可以玩具有更高配置要求的游戏,并运行更多的内存消耗型3D和视听软件。低配置的原创 2022-03-16 06:31:55 · 9490 阅读 · 0 评论 -
2022年AI芯片场景
2022年AI芯片场景随着技术成熟化,AI芯片的应用场景除了在云端及大数据中心,也会随着算力逐渐向边缘端移动,部署于智能家居、智能制造、智慧金融等领 域;同时还将随着智能产品种类日渐丰富,部署于智能手机、安防摄像头、及自动驾驶汽车等智能终端,智能产品种类也日趋丰富。未来,AI计算将无处不在。云端:当前仍是AI的中心,需更高性能计算芯片以满足市场需求当前,大多数AI训练和推理工作负载都发生在公共云和私有云中,云仍是AI的中心。在对隐私、网络安全和低延迟的需求推动下,云端出现了在网关、设备和传感器上执原创 2022-03-16 06:08:01 · 324 阅读 · 0 评论 -
EDA电子设计技术与应用
EDA电子设计技术与应用电子设计自动化(英语:Electronic design automation,缩写:EDA)是指利用计算机辅助设计(CAD)软件,来完成超大规模集成电路(VLSI)芯片的功能设计、综合、验证、物理设计(包括布局、布线、版图、设计规则检查等)等流程的设计方式。EDA被誉为“芯片之母”,是电子设计的基石产业。拥有百亿美金的EDA市场构筑了整个电子产业的根基,可以说“谁掌握了EDA,谁就有了芯片领域的主导权。”在多个领域面临关键核心技术“卡脖子”的危机,对芯片技术领域的制约尤为严重原创 2022-03-11 05:51:59 · 1321 阅读 · 0 评论 -
芯片设计IP重用与集成
芯片设计IP重用与集成半导体芯片在汽车、人工智能(AI)、数据处理、智能终端等领域需求旺盛,半导体产业发展不断提速。半导体芯片变得更小、更快、更强大,灵活性和功能大幅提高。但随着设计变得越来越复杂,对验证能力和下一代验证技术的需求也在增加,功能安全合规性也变得越来越重要。本文围绕合规性与合规管理、嵌入式系统与IP集成、芯片设计中的挑战以及芯片设计工具等方面进行了系统的分析。半导体芯片在汽车、人工智能(AI)、数据处理、智能终端等领域需求旺盛,半导体产业发展不断提速,预计到2030年将飙升到8085亿美原创 2022-02-18 06:05:08 · 585 阅读 · 0 评论 -
NVIDIA N卡与AMDA卡区别
NVIDIA N卡与AMDA卡区别比如A卡的VEGA架构和Pascal架构的区别VEGA64 流处理器4096,单精度浮点12+Flops,理论性能和GP100有的一拼,功耗也差不多(230W),可是实测性能却只能和1080(GP104 流处理器2580 单精度8TFLOPS TDW180W)打平手?A卡的基本执行部件为SIMD(此处可能写为SIMD阵列的SIMT执行模式更为贴切?),而N卡的基本执行部件为SIMT(此处可能写成lock-step的MIMD更为贴切?)。这是最为根本的区别。SIMD是单原创 2022-02-15 06:16:42 · 1247 阅读 · 0 评论 -
传统芯片与AI芯片
传统芯片与AI芯片Ai芯片是现在热门的领域,与传统的芯片相比,算法和架构有着很大的差异,给市场带来的无限的创造空间,让很多的不可能变为可能。Ai芯片特定的算法比传统芯片更具优势Ai芯片是具有Al算法的专业芯片,传统的芯片来运行Ai算法,性能会很低,不具备处理能力。在手机终端,执行人脸识别、智能Ai美颜、语音识别,都必须要经过Ai算法开发的GPU来执行。Ai算法与传统芯片的算法有很大的区别,通过卷积、全连接、网络残差这些类型,再用加法和乘法运算,如果确定了运算图形的尺寸,可以确定运算的总数。、Ai芯原创 2022-02-14 06:04:03 · 632 阅读 · 0 评论 -
TensorFlow与PyTorch模型部署性能比较
TensorFlow与PyTorch模型部署性能比较前言2022了,选 PyTorch 还是 TensorFlow?之前有一种说法:TensorFlow 适合业界,PyTorch 适合学界。这种说法到 2022 年还成立吗?从模型可用性、部署便捷度和生态系统三个方面对比了两个框架的优缺点,针对不同身份的读者给出了不同的选择建议。模型可用性对比:PyTorch 胜出在模型可用性方面,PyTorch 和 TensorFlow 表现出了明显的区别。都有官方模型库,但是对于从业者来说,这些库里的模型可能还不原创 2022-02-12 06:16:30 · 2001 阅读 · 0 评论 -
DPU(Data Processing Unit)数据处理器
DPU(Data Processing Unit)数据处理器DPU:5G边缘云5G时代带来通信带宽的巨大提升,更多的带宽使能更多的应用。数据量的迅猛增多,服务器网络带宽的快速增长,都已经远超计算能力的增长,有线速I/O处理需求的应用程序,受到CPU和内存的限制,现有系统因为CPU资源占用,致延迟增加,包处理性能出现波动。5G时代带来互联终端设备的大爆发,也带来数据大爆发。据统计2019年全球产生数据45ZB,预计到2024年这一数字将达到142ZB,其中24%的数据将来自终端实时数据。海量数据条件下,原创 2021-10-22 05:38:47 · 1692 阅读 · 0 评论 -
LLVM Clang前端编译与调试
LLVM Clang前端编译与调试iOS 关于编译o 一、Objective-C 编译过程o 为什么需要重新编译?o 编译步骤o 二、编译步骤的详细说明o 1.预处理o 2.编译o 词法分析o 语法分析o clang static analyzero 3.生成o LLVM IRo LLVM Backendo 三、编译完成生成的文件o Link Map Fileo dSYM 文件o Mach-Oo 四、总结o 五、推荐学习技术学习有两种方向,一种是不断向前,了解前沿和趋原创 2021-10-17 06:38:35 · 957 阅读 · 0 评论 -
Clang调试诊断信息Expressive Diagnostics
Clang调试诊断信息Expressive Diagnostics除了快速和实用,目标是使 Clang用户友好。命令行编译器,使编译器生成的诊断(错误和警告消息)尽可能有用。有几种方法可以做到这一点。依据命令行编译器经验,将 Clang 输出与 GCC 4.9 的输出进行对比。Column Numbers and Caret Diagnostics首先,clang 生成的所有诊断,都包含完整的列号信息。clang 命令行编译器驱动程序使用此信息打印“点诊断”。(IDE 可以使用这些信息,显示内嵌错误标原创 2021-10-16 18:06:20 · 815 阅读 · 0 评论 -
Linux 交叉编译简介
Linux 交叉编译简介主机,目标,交叉编译器主机与目标编译器是将源代码转换为可执行代码的程序。像所有程序一样,编译器运行在特定类型的计算机上,输出的新程序也运行在特定类型的计算机上。运行编译器的计算机称为主机,运行新程序的计算机称为目标。当主机和目标是同一类型的机器时,编译器是本机编译器。当宿主和目标不同时,编译器是 交叉编译器。为什么要交叉编译?某些设备构建程序的PC,用户可以获得适当的目标硬件(或模拟器),启动 Linux Release版,在该环境中进行本地编译。这是一种有效的方法(在原创 2021-10-16 06:17:13 · 363 阅读 · 0 评论 -
JIT Compiler编译器
JIT Compiler编译器原创 2021-10-15 05:35:16 · 293 阅读 · 0 评论 -
Cache 与Memory架构及数据交互
Cache 与Memory架构及数据交互原创 2021-10-14 05:11:29 · 210 阅读 · 0 评论 -
自动微分原理与示例
自动微分原理与示例机器学习的同学在学习过程中会经常遇到一个问题,那就是对目标函数进行求微分,线性回归这类简单的就不说、复杂的如神经网络类那些求导过程。本文介绍了五种微分方式,最后两种才是自动微分。前两种方法求出了原函数对应的导函数,后三种方法只是求出了某一点的导数。假设原函数是f(x,y)=x2y+y+2,需要求其偏导数和,以便应用于梯度下降等算法。1、手工求导首先准备一张纸和一支笔,根据上学时候学到的求导法则,开始计算。最终得到的结果。缺点是对于复杂函数容易出错。这一计算过程可由计算机原创 2021-10-13 06:21:04 · 442 阅读 · 0 评论 -
AI多种并行算法
AI多种并行算法并行模型• 模型并行( model parallelism ):分布式系统中的不同机器(GPU/CPU等)负责网络模型的不同部分 —— 例如,神经网络模型的不同网络层被分配到不同的机器,或者同一层内部的不同参数被分配到不同机器;[14]• 数据并行( data parallelism ):不同的机器有同一个模型的多个副本,每个机器分配到不同的数据,然后将所有机器的计算结果按照某种方式合并。• 当然,还有一类是混合并行(Hybrid parallelism),在一个集群中,既有模型并原创 2021-10-12 06:20:37 · 640 阅读 · 0 评论 -
LLVM与Clang局部架构与语法分析
LLVM与Clang局部架构与语法分析Clang与LLVMLLVM整体架构,前端用的是clang,广义的LLVM是指整个LLVM架构,一般狭义的LLVM指的是LLVM后端(包含代码优化和目标代码生成)。源代码(c/c++)经过clang–> 中间代码(经过一系列的优化,优化用的是Pass) --> 机器码OC源文件的编译过程这里用Xcode创建一个Test项目,然后cd到main.m的上一路径。命令行查看编译的过程:$ clang -ccc-print-phases原创 2021-10-11 06:06:09 · 732 阅读 · 1 评论 -
LLVM语法语义指令特性
LLVM语法语义指令特性High Level StructureModule StructureLLVM 程序由Module’s组成,每个 's 是输入程序的一个翻译单元。每个模块由函数,全局变量和符号表条目组成。模块可与 LLVM 链接器组合在一起,后者合并函数(全局变量)定义,解析前向声明,合并符号表条目。这是“hello world”模块的示例:; Declare the string constant as a global constant.@.str = private unnamed原创 2021-10-10 05:58:20 · 404 阅读 · 0 评论 -
AI中pass架构设计优化
AI中pass架构设计优化Relay 和 TVM IR,包含一系列优化passes,可提高模型的性能指标,例如平均推理,内存占用,或特定设备的功耗。有一套标准优化,及特定机器学习的优化,包括常量折叠,死代码消除,算子布局更改,算子融合,缓冲区处理和循环转换等。这些passes中的每一个都构造为一个 ir-to -ir 转换,使用在遍历期间和/或前收集的分析结果。随着 TVM 的快速发展,对管理这些pass的更系统,更有效的方法的需求,变得越来越明显。此外,管理跨 TVM 堆栈不同层(例如 Relay 和原创 2021-10-09 05:55:59 · 526 阅读 · 0 评论 -
Relay IR表示
Relay IR表示Relay IR简介本节介绍了 Relay IR——第二代 NNVM。期待两种背景的读者——具有编程语言背景的读者和熟悉计算图表示的,深度学习框架开发人员。简要总结了设计目标,讨论要点。• 支持传统的数据流式编程和转换。• 支持函数式作用域,let-binding,成为功能齐全的可微分语言。• 能够允许用户混合两种编程风格。使用 Relay 构建计算图传统的深度学习框架,使用计算图作为中间表示。计算图(或数据流图)是表示计算的有向无环图 (DAG)。由于缺乏控制流,数据流原创 2021-10-08 05:22:23 · 335 阅读 · 0 评论 -
TVM Operator Inventory (TOPI)简介
TOPI简介这是 TVM Operator Inventory (TOPI) 的介绍。TOPI 提供了比 TVM 具有更高抽象的 numpy 风格的,通用操作和调度。TOPI 如何在 TVM 中,编写样板代码。from future import absolute_import, print_functionimport tvmimport tvm.testingfrom tvm import tefrom tvm import topiimport numpy as np基本示例重新审视原创 2021-10-07 05:33:17 · 703 阅读 · 0 评论 -
Conda安装Glossary词汇表
Conda安装Glossary词汇表https://docs.conda.io/projects/conda/en/latest/glossary.html#anaconda-glossary• .condarc• Activate/Deactivate environment• Anaconda• Anaconda Cloud• Anaconda Navigator• Channels• conda• conda environment• conda package• conda r原创 2021-10-06 05:57:39 · 183 阅读 · 0 评论 -
一些量化(quantization)技巧
一些量化(quantization)技巧对象:对权重量化,对特征图量化(神经元输出),对梯度量化(训练过程中)过程:在inference网络前传,在训练过程(反传)一步量化(仅对权重量化),两步量化(对神经元与特征图量化,第一步先对feature map进行量化,第二步再对权重量化)。32位浮点和16位浮点存储的时候,第一位是符号位,中间是指数位,后面是尾数。英特尔在NIPS2017上,提出了把前面的指数项共享的方法。这样可以把浮点运算,转化为尾数的整数定点运算,加速网络训练。分布式训练梯原创 2021-10-04 06:24:13 · 750 阅读 · 0 评论 -
探索 TVM 进行量化方法
探索 TVM 进行量化方法Relay框架如上图所示,有两种不同的并行工作正在进行中• 自动整数量化 - 采用 FP32 框架图,在 Relay 中自动转换为 Int8。• 接受预量化整数模型 - 这种方法接受预量化模型,引入称为 QNN 的Relay方言,生成 Int8 Relay图。关于 Relay Automatic FP16 Downcasting 的讨论很少。还没有任何 RFC。 正在对此进行探索/原型设计,计划提出 RFC。Relay优化• 与目标无关的Relay pass- TV原创 2021-10-03 06:18:20 · 986 阅读 · 0 评论 -
CPU0 处理器的架构及应用
CPU0 处理器的架构及应用简介CPU0 是一个 32 位的处理器,包含 R0…R15, IR, MAR, MDR 等缓存器,结构如下图所示。图 1 :CPU0 处理器的结构其中各个缓存器的用途如下所示:IR 指令缓存器R0 常数缓存器, 值永远为 0。R1~R11 通用型缓存器。R12 状态缓存器 (Status Word : SW)R13 堆栈指针缓存器 (Stack Pointer : SP)R14 链接缓存器 (Link Register : LR)R15 程序计数器 (Pr原创 2021-10-02 05:32:27 · 1140 阅读 · 0 评论