AVX是什么?AVX指令集技术与应用解析

转载 2014年03月13日 14:38:34
        http://www.expreview.com/tag/AVX.html  


     2007年8月,AMD抢先宣布了SSE5指令集(SSE到SSE4均为英特尔出品),英特尔当即黑脸表示不支持SSE5,转而在2008年3月宣布Sandy Bridge微架构将引入全新的AVX指令集,同年4月英特尔公布AVX指令集规范,随后开始不断进行更新,业界普遍认为支持AVX指令集是Sandy Bridge最重要的进步,没有之一。
     AVX(Advanced Vector Extensions,高级矢量扩展)指令集借鉴了一些AMD SSE5的设计思路,进行扩展和加强,形成一套新一代的完整SIMD指令集规范。Windows 7 SP1已经开始支持英特尔AVX指令集了。   

                                                                                                                       

                                                         


                                                         AVX是什么?AVX指令集技术与应用解析
                                2010-12-31 11:37   |  关键字:Sandy Bridge,AVX指令,SSE指令,扩展指令集

 指令集是指CPU能执行的所有指令的集合,每一指令对应一种操作,任何程序最终要编译成一条条指令才能让CPU识别并执行。CPU依靠指令来

计算和控制系统,所以指令强弱是衡量CPU性能的重要指标,指令集也成为提高CPU效率的有效工具。

  CPU都有一个基本的指令集,比如说目前英特尔和AMD的绝大部分处理器都使用的是X86指令集,因为它们都源自于X86架构。但无论CPU有多

快,X86指令也只能一次处理一个数据,这样效率就很低下,毕竟在很多应用中,数据都是成组出现的,比如一个点的坐标(XYZ)和颜色(RGB

)、多声道音频等。为了提高CPU在某些方面的性能,就必须增加一些特殊的指令满足时代进步的需求,这些新增的指令就构成了扩展指令集。

英特尔CPU扩展指令集演变

  英特尔在1996年率先引入了MMX(Multi Media eXtensions)多媒体扩展指令集,也开创了SIMD(Single Instruction Multiple Data,单

指令多数据)指令集之先河,即在一个周期内一个指令可以完成多个数据操作,MMX指令集的出现让当时的MMX Pentium大出风头。

1.jpg (91.56 KB, 下载次数: 14)

下载附件  保存到相册

2013-1-26 15:12 上传



英特尔处理器扩展指令集演变史(图片来源后藤弘茂)

SSE(Streaming SIMD Extensions,流式单指令多数据扩展)指令集是1999年英特尔在Pentium III处理器中率先推出的,并将矢量处理能力从

64位扩展到了128位。在Willamette核心的Pentium 4中英特尔又将扩展指令集升级到SSE2(2000年),而SSE3指令集(2004年)是从Prescott核

心的Pentium 4开始出现。

  SSE4(2007年)指令集是自SSE以来最大的一次指令集扩展,它实际上分成Penryn中出现的SSE4.1和Nehalem中出现的SSE4.2,其中SSE4.1占

据了大部分的指令,共有47条,Nehalem中的SSE4指令集更新很少,只有7条指令,这样一共有54条指令,称为SSE4.2。

2.png (18.47 KB, 下载次数: 11)

下载附件  保存到相册

2013-1-26 15:12 上传


Sandy Bridge支持AVX指令集

当我们还在惯性的认为英特尔将推出SSE5时,不料半路杀出来个程咬金,2007年8月,AMD抢先宣布了SSE5指令集(SSE到SSE4均为英特尔出品),

英特尔当即黑脸表示不支持SSE5,转而在2008年3月宣布Sandy Bridge微架构将引入全新的AVX指令集,同年4月英特尔公布AVX指令集规范,随后

开始不断进行更新,业界普遍认为支持AVX指令集是Sandy Bridge最重要的进步,没有之一。

英特尔AVX指令集简介

  AVX(Advanced Vector Extensions,高级矢量扩展)指令集借鉴了一些AMD SSE5的设计思路,进行扩展和加强,形成一套新一代的完整

SIMD指令集规范。

3.jpg (30.41 KB, 下载次数: 11)

下载附件  保存到相册

2013-1-26 15:12 上传


IDF2010上演示AVX应用

在今年4月的IDF2010上,英特尔演示了AVX的应用,在两个不同平台上动态跟踪刘翔运行服上的五星红旗,结果显示,支持AVX的系统视频跟踪的

用时为14秒,比不支持AVX的系统快了21秒,性能提升了60%以上。

  有兴趣的读者可以点击观看AVX应用主题演讲视频,

时间大概在第33分钟左右。

4.jpg (87.68 KB, 下载次数: 12)

下载附件  保存到相册

2013-1-26 15:13 上传


英特尔AVX的新特性

英特尔AVX指令集主要在以下几个方面得到扩充和加强:

   ·支持256位矢量计算,浮点性能最大提升2倍

   ·增强的数据重排,更有效存取数据

   ·支持3操作数和4操作数,在矢量和标量代码中能更好使用寄存器

   ·支持灵活的不对齐内存地址访问

   ·支持灵活的扩展性强的VEX编码方式,可减少代码

支持256位矢量计算

  自1999年SSE将矢量处理能力从64位提升到128位后,SSE系列指令都只能使用128位XMM寄存器,这次AVX将所有16个128位XMM寄存器扩充为

256位的YMM寄存器,从而支持256位的矢量计算。

5.jpg (19.4 KB, 下载次数: 12)

下载附件  保存到相册

2013-1-26 15:13 上传



128位的XMM寄存器扩展到256位的YMM寄存器

这意味着可以同时处理8个32bit的浮点或是一个256bit的浮点,在写程序时可以忽略SSE 128bit的限制,直接写入一个可以进行多组操作,能够

充分利用256bit数据位宽的代码,理想状态下,浮点性能最高能达到前代的2倍水平。

  当然有时并不是能完全能利用这256位,在大多数情况下,这些寄存器的高128位是设为0或者是“left unchanged”,同时所有的

SSE/SSE2/SSE3/SSSE3/SSE4指令是被AVX全面兼容的(AVX不兼容MMX),因此实际操作的是YMM寄存器的低128位,在这一点上与原来的SSE系列指

令集无异。

6.jpg (102.96 KB, 下载次数: 11)

下载附件  保存到相册

2013-1-26 15:13 上传


Sandy Bridge最突出的部分

为了满足指令集带来的改进,Load载入单元也要适应一次载入256Bit的能力,所以增加了一组载入单元完成载入操作,并不是单纯的将带宽扩展

一倍。这样可以在一个时钟周期内实现256位的乘、加和Shuffle运算。

  使用新的256位寄存器来提升数据I/O效率,更好的标记、传播载入的数据,动态的改变数据序列,以此来组织、访问和载入运算所需的数据

,速度更快效率更高。

7.jpg (93.02 KB, 下载次数: 11)

下载附件  保存到相册

2013-1-26 15:13 上传


AVX增加了很多新的浮点运算指令

AVX还引入了很多新的浮点运算指令,浮点运算能力加强,不光提升了3D游戏,还可以更有效的支持如复杂的flash显示,更快的SVG(可伸缩矢

量图形)支持,更好的HTML5效果等等,相比用GPU计算来讲功耗更小,体积更小,成本也小,对GPU计算是个不大不小的冲击。

支持3操作数和4操作数

  通常一条计算机指令包括有操作码和操作数(operands),操作码决定要完成的操作,操作数指参加运算的数据及其所在的单元地址。比如

movaps xmm1, xmm0就是一个双操作数,SSE指令movaps为操作码,其功能是将xmm0寄存器的内容复制给xmm1。

8.jpg (93.45 KB, 下载次数: 11)

下载附件  保存到相册

2013-1-26 15:13 上传



新的3操作数和4操作数格式

AVX指令集改进和加强了原有的在3个操作数指令的编码和语法,使之更灵活。比如要实现 xmm10 = xmm9 + xmm1 的功能,以前需要两个指令执

行:

    movapps xmm10, xmm9       将xmm9寄存器数据copy到xmm10
    addpd xmm10, xmm1        将xmm1和xmm10寄存器数据相加,并存放到xmm10

  应用AVX指令集新的3操作数方式,可以直接由一条指令就能完成:

    vaddpd xmm10, xmm9, xmm1

  显然AVX三操作数能带来更少的寄存器复制,并且代码也更精简。

  4操作数虽然是AMD在SSE5中首先提出的,但英特尔的AVX也能支持这一方式,其最终收益是对AVX 128和AVX 256使用非破坏性语法,减少寄

存器间的拷贝,精简代码,增加load/op fusion的机会。

    movaps xmm0, xmm4
    movaps xmm1, xmm2
    blendvps xmm1, m128

  比如上面的三条指令,利用4操作数,可以不需要使用隐含的xmm0,直接由下面一条指令完成:

    vblendvps xmm1, xmm2, m128, xmm4

支持灵活的不对齐内存地址访问

  CPU在工作时只能按照内部数据位宽长度(比如说32bit)的整倍数为边界进行内存操作,即只能从地址0、32、64、96...处进行存取,而不

能从27、58、83等非边界地址处进行。如果一定要取这些非边界地址处的内容,则必须用若干个操作将其凑出来,因而大大影响存取效率。

  一个结构体的设计长度却并不一定是32的倍数,例如一个六个字符的结构其长度为48位,如果多个这样的结构在内存中顺着摆放,则许多结

构的起始地址将不在边界处,因此编译程序总是会将每个结构的尾部都加入一些必要的空白,将其凑成32的整数倍,这就是边界对齐的基本道理




9.jpg (15.44 KB, 下载次数: 12)

下载附件  保存到相册

2013-1-26 15:13 上传



传统的指令中,当访问不对齐内存(unaligned memory access)时,需要相当大的访问周期,甚至会有惩罚性延时,极大地降低速度。

  而在AVX指令集中,以VEX前缀编码的算术指令和内存访问指令在访问内存时更灵活,既可访问对齐的内存地址,也可访问未对齐的数据。当

然访问未对齐数据,多少都会有损失,但相对传统的指令来说,所承受的惩罚要小得多。

革新的VEX指令编码方式

  英特尔在2008年春天的IDF上介绍AVX的时候就表示AVX的重点在于采用了称为“VEX (Vector Extension)”革新的指令编码方式。

10.jpg (58.67 KB, 下载次数: 11)

下载附件  保存到相册

2013-1-26 15:13 上传



VEX编码指令解决方案

x86指令集容易扩张,但是每次对于新指令和新数据类型的增加,都会在操作码(opcode)之前增加了一个字节的前缀(prefix),从而实现对

扩展的支持。这样的就带来指令集的复杂化和命令长度增加,从而导致二进制的冗余和增加CPU命令解码硬件的复杂性。

  VEX编码方式解决了这个问题,VEX的构想,就是压缩prefix中包含的信息,在1个字节的payload中全部包括了prefix的内容,这样缩短指令

长度,从而极大地降低了无谓的code size浪费。并且在今后导入的新的寄存器中,128bits或更长的256bits的数据,也将在payload中压缩。

11.jpg (36.47 KB, 下载次数: 11)

下载附件  保存到相册

2013-1-26 15:13 上传



Intel AVX vs. AMD XOP(图片来源后藤弘茂)

VEX prefix分为2个字节和3个字节的版本,即前缀部分使用C4h和C5h。AMD的XOP指令集采用了类似的方式,XOP前缀字节改成了8Fh,虽然前缀不

同,但是payload部分的格式与VEX是相同的。AVX的VEX的编码系统,也反应了英特尔处理器今后的进化趋势,它解决了x86系列CPU在解码能力上

的不足。

AVX是Sandy Bridge最重要的改进

12.jpg (59.76 KB, 下载次数: 12)

下载附件  保存到相册

2013-1-26 15:13 上传




AVX相对SSE带来的处理速度提升

英特尔AVX指令集将矢量处理能力提升到256bit,理论上可以让CPU的浮点性能最大提升两倍,而且革新的VEX编码方式也突破x86在解码方面的瓶

颈,非常值得期待。

  由于AMD的SSE5和AVX指令集功能类似,并且AVX包含更多的优秀特性,虽然SSE5是要早于AVX宣布的,但在去年AMD还是决定支持AVX,避免让

开发者徒增开发难度。同时AMD改写SSE5,重定义为XOP、CVT16和FMA4指令集。AMD有关人员甚至暗示由于受到了AVX指令集影响,Bulldozer的计

划从2010年延迟到了2011年。

  AVX作为Sandy Bridge处理器最重要的改进,在几天后将闪亮登场,除硬件支持外,软件上的支持也是必不可少的,所幸的是Windows 7 SP1

已经开始支持英特尔AVX指令集了。

相关文章推荐

X86 SSE/AVX指令集:向量内积

向量内积 向量a和b的内积为:a⋅b=a1×b1+a2×b2+⋯+an×bna \cdot b = a_{1} \times b_{1} + a_{2} \times b_{2} + \cdots ...

在C/C++代码中使用SSE等指令集的指令(3)SSE指令集基础

相关参考: http://edu.gamfe.com/tutor/d/11820.html http://blog.163.com/chenqneu@126/blog/static/4573848...

利用AVX指令集实现矩阵乘法

Recent Intel processors such as SandyBridge and IvyBridge have incorporated an instruction set calle...

单数据多指令(SIMD) MMX SSE AVX

概述 SIMD是指单指令多数据技术,它已经成为Intel处理器的重要性能扩展。目前Intel处理器支持的SIMD技术包括MMX,SSE,AVX. MMX提供了8个64bit的寄存器进行SIMD操作,S...

Intel 的AVX2指令集解读

在Intel Sandy Bridge微架构中,Intel引入了256位SIMD扩展AVX,这套指令集在兼容原MMX、SSE、SSE2对128位整点SIMD支持的基础上,把支持的总向量数据宽度扩展成了...
  • vbskj
  • vbskj
  • 2014年08月06日 22:48
  • 19031

测试CPU支持指令集AVX,AVX2,SSE情况的代码【VS2010调试通过】

Intel® Advanced Vector Extensions (Intel® AVX) is a set of instructions for doing Single Instruction...
  • vbskj
  • vbskj
  • 2014年08月06日 23:32
  • 4815

Intel汇编指令集SSE4

1、引言 Intel SSE 4指令集是当前使用广泛的汇编指令集,最初在45nm的Intel 64位处理器和AMD的K10处理器中提供。SSE4的含义是Streaming SIMD Extension...

SSE4.1和SSE4.2 Intrinsics各函数介绍

SSE4.1和SSE4.2 Intrinsics各函数介绍

Delphi7高级应用开发随书源码

  • 2003年04月30日 00:00
  • 676KB
  • 下载

总结一下DLL函数声明的一些问题

有关DLL的问题很多,很多人写DLL时经常出现调用程序无法找到相关的导出函数的问题,其实主要的原因是DLL在声明时出的问题。  在这里主要有两个问题,一个是调用约定的问题,一个是函数名修饰的问题,而...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:AVX是什么?AVX指令集技术与应用解析
举报原因:
原因补充:

(最多只允许输入30个字)