第十章安腾高性能处理机体系结构.ppt

1、第十章安腾高性能处理机体系结构,返回,第十章安腾高性能处理机体系结构,高性能处理机体系结构的演变安腾体系结构的基本设计思想安腾指令系统结构指令级并行机制双核安腾处理机的组成,10.1高性能处理机体系结构的演变,一、IA体系结构的历史演变二、英特尔64位处理机的两种体系结构,10.1高性能处理机体系结构的演变,一、IA体系结构的历史演变IA32体系结构：IA32家族中的第一款32位微处理机流水技术IA32体系结构仍是基于CISC架构的处理机。Pentium体系结构:CISC外壳加RISC内核的结构,10.1高性能处理机体系结构的演变,二、英特尔64位处理机的两种体系结构1、64T(英特尔64):

2、基于显式并行指令计算EPIC（Explicitly Parallel Instruction Computing）技术的IA64体系结构,不与IA32指令系统的兼容性。2、安腾体系结构:与IA32指令系统的兼容性。,10.2安腾体系结构的基本设计思想,安腾体系结构脱离了IA32 CISC体系结构的束缚，但并没有完全照搬RISC处理机的设计思想。EPIC既不是RISC，也不是CISC，而是一种吸收了CISC和RISC两者长处的全新的体系结构。主要体现在以下几个方面：显式并行指令计算(EPIC)技术超长指令字(VLIW)技术分支推断技术推测技术软件流水技术寄存器堆栈技术,10.2安腾体系结构的基本

3、设计思想,1、显式并行指令计算(EPIC)技术安腾的指令中设计了属性字段，用于指明哪些指令可以并行执行。这些属性信息并不是在指令执行过程中由处理机判定后获得的，而是由编译程序在编译时通过对源代码的分析获取指令级的并行性信息，并填写到执行代码中。这就是所谓显式并行的概念。EPIC技术则充分利用现代编译程序强大的对程序执行过程的调度能力，由专用的EPIC编译器首先分析源代码，根据指令之间的依赖关系最大限度地挖掘指令级的并行性，从而确定哪些指令可以并行执行，然后把并行指令放在一起并重新排序，提取并调度其指令级的并行，并将这种并行性通过属性字段“显式”地告知指令执行部件。,10.2安腾体系结构的基本设

4、计思想,2、超长指令字(VLIW)技术超长指令字(VLIW)技术是提高计算机系统并行性的有效手段。VLIW系统中指令字长可多达几百位，编译器经过优化，能将多条能够并行执行的指令合并成一个具有多个操作码的超长指令字，控制多个独立的功能部件工作。EPIC是基于超长指令字的设计。 通过将多条指令放入一个超长指令字，能有效提高处理机内各个执行部件的利用率。,10.2安腾体系结构的基本设计思想,3、分支推断技术技术能将传统的“ifthenelse”分支结构转变为无分支的顺序/并行代码，以避免由于错误预测分支而付出代价。当处理机在运行中遇到分支时，它并不是进行传统的分支预测并选择可能性最大的一个分支执行，

5、而是按分支的所有可能的后续路径开始并行执行多段代码并暂存各段代码的执行结果，直到处理机能够确认分支转移与否的条件是真是假时，处理机再把应该选择的路径上的指令执行结果保留下来。 采用了推断技术后，原有的转移指令被转换成条件执行指令。原有的转移指令的所有的分支都被并行执行，无论哪条分支将被命中，都不会出现流水线断流现象，故消除了因分支预测失误而重新装载流水线导致的低效率现象。更进一步，以前由于程序分支和指令依赖等因素不能并行执行的许多指令现在完全可以并行执行，从而提高了处理机的执行效率。,10.2安腾体系结构的基本设计思想,4、推测技术推测技术，包括控制推测和数据推测，以减少存储器访问响应时间的影

6、响。控制推测技术和数据推测技术允许提前执行从内存单元至通用寄存器的取数指令。当程序中有分支时，控制推测技术将位于分支指令之后的取数指令提前若干周期执行，以此消除访存延时，提高指令执行的并行度。而数据推测技术则用于解决提前取数指令后的数据相关性问题。推测技术避免了cache命中失败而导致访存延迟的损失，消除了因处理机空闲而导致的并行性降低的缺憾。,10.2安腾体系结构的基本设计思想,5、软件流水技术安腾体系结构提供了很强的硬件支持，使循环执行过程中一次循环的代码执行与下一次循环代码的执行在时间上部分重叠，也即下一个循环步可以在上一个循环步结束前开始执行。 安腾体系结构引入了新机制来支持软件流水，

7、包括自动寄存器重命名、推断执行和特殊的循环终止指令。因此，安腾处理机能够通过旋转寄存器机制为每个循环步提供自己的寄存器，并且不需要把循环扩展开来。安腾体系结构中硬件对编译器管理软件流水线的支持使得编译器能够生成精简的代码，以高度并行的方式实现循环操作。,10.2安腾体系结构的基本设计思想,6、寄存器堆栈技术安腾处理机利用128个通用寄存器中的96个堆栈寄存器实现寄存器堆栈，并在处理机内部设置一个寄存器堆栈引擎RSE来管理寄存器堆栈。当96个堆栈寄存器不够用时，寄存器堆栈引擎能够自动将寄存器堆栈与内存储器对接，将寄存器堆栈溢出的数据转移到内存储器中保存，或在寄存器堆栈弹出数据时执行反向操作。这样

8、，编译器将看到一个容量没有限制的寄存器堆栈空间。,10.3安腾指令系统结构,一、执行单元与指令类型 为提高并行处理能力，安腾处理机内部设置了多个执行单元。这些执行单元被分为四类：I单元:整数执行单元，用于执行整数算术运算、逻辑运算、移位和比特处理等指令，以及32位数据和指针操作。M单元:存储器执行单元，用于执行通用寄存器、浮点寄存器和存储器之间的取数（load)指令、存数(store)指令以及某些整数ALU运算指令。B单元:转移执行单元，用于执行转移分支类指令。F单元:浮点执行单元，用于执行浮点运算指令。相应地，安腾指令系统中的所有指令被分成六种类型，每种指令使用一种或多种执行单元。,10.3

9、安腾指令系统结构,二、安腾寄存器结构与RISC体系结构类似，安腾体系结构大量使用寄存器操作;见下一页图只有取数load和存数store指令才能够访问内存，所有其他指令都在寄存器上操作。在以安腾为基础的处理机内，用户可直接使用的寄存器数量甚至大大超过了主流RISC处理机。一方面可以加快数据存取的速度，减少访存延迟，另一方面可以更好地支持并行操作。,安腾的主要寄存器,10.3安腾指令系统结构,三、安腾指令格式典型指令格式:安腾的每条指令占41位。对于寄存器操作数，需要7位选择128个通用寄存器或浮点寄存器。故一条典型的RRR型安腾指令需要21位来标识两个源寄存器操作数和一个目标寄存器操作数。大多数

10、指令还需要一个6位字段选择64个推断寄存器之一，用于支持推断执行、软件流水等功能。指令束格式安腾体系结构采用超长指令字技术，利用集束指令合成；,10.3安腾指令系统结构,指令组指令组将相互之间没有读后写相关，写后写相关，可以并行执行的一组指令集合。指令束模版模版字段正是为实现EPIC的设计思想服务的：一方面，编译器可以通过5位模版字段指明每个指令槽中的指令使用哪一个执行单元；另一方面，编译器可以通过模板字段明确给出指令束内或指令束间的依赖关系。,10.3安腾指令系统结构,四、安腾汇编语言格式qpMnemonic. Comp1. Comp2 dest=srcmnemonic为指令助记符。dest

11、为目标操作数，指明存放运算结果的寄存器。src为源操作数，给出若干个寄存器操作数或立即数。qp选择64个推断寄存器之一。在指令执行时，如果选定的一比特推断寄存器的当前值为1，则该指令的执行结果最终会被硬件采用；否则，该指令的执行结果将被硬件放弃。对于不需要推断寄存器的指令，在机器指令中将默认指定推断寄存器0，该寄存器的值固定为0。因此，所有的指令都可以看作是条件执行的。.comp1. Comp2 为指令完成符，用于进一步限定指令所需完成的操作。,例1:下面给出一些汇编指令,add rl=r2，r3 /简单指令:r2+r3=r1(P4)add rl=r2，r3 /推断指令，指定推断寄存器4add

12、 r1=r2，r3, /立即寻址指令cmpeq P3，P5=0，r4 /带指令完成符的指令：将r4寄存器的值与0比较，若相等则置推断寄存器P3为1，P5为0；否则置推断寄存器P3为0，P5为1ld8 r1=r7 /从寄存器r7指向的存储器空间读取连续8个字节,装入寄存器r1add r6=r9，r8； /与上一条指令不存在相关性，故可放在一个指令组中sub r3=r1,r4 /第一条指令的目标操作数是本指令的源操作数，故需重新开始一个指令组st8 r6=r10 /将寄存器r10的内容存入寄存器r6指向的存储器单元,10.4指令级并行机制,一、推断执行技术1、分支对系统性能的影响分支是在两个指令序

13、列中根据判定条件选择其中一个序列执行。为了判定最终选择哪一个指令序列执行，必须等待一些条件判断指令的执行结果。指令执行一旦遇到分支转移，在执行判定操作之前，多个功能部件由于无法确定程序的执行方向而空闲等待，使系统性能明显下降。分支预测并不能充分利用处理机流水线的功能部件,10.4指令级并行机制,2、安腾的推断技术原理推断技术处理分支的方法是利用多个功能部件并行执行各个分支，然后根据判定结果选取某一分支的运行结果，因而可消除大部分的转移，使得整个系统的运行速度得到提高。采用显式并行指令计算技术的安腾处理机将处理机的多个功能部件的并行处理能力与编译器的强大功能相结合，允许在编译时让编译器对程序进行

14、优化，消除转移，提高效率。安腾处理机的指令系统允许在每条指令中都指定一个推断寄存器。,10.4指令级并行机制,3、推断执行的实现例2考察下面的一个典型的if-then-else结构：If （x=0) then m=m+1 else m=m-1 在传统的超标量流水线体系结构中，完成上述判断通常要首先安排一条比较语句，将x与0进行比较。得到比较结果后，再选择执行then分支或else分支。 相应的汇编语句大致如下所示：cmp x，0;比较x和0je L1;若相等则转移至标号L1sub m,1；m=m-1jmp L2；无条件转移至标号L2L1：add m，1；m=m+lL2：,10.4指令级并行机制

15、例2续,而安腾处理机可以通过编译优化消除条件语句中的分支指令，将该结构转化成顺序的推测执行结构：cmpeq P1，P2=0，x；/无条件执行：将r4寄存器的值与0比较，若相等则置推断寄存器P1为1，P2为0，否则置推断寄存器P1为0，P2为1 (P1)add m=1，m /若P1为1，则m+1送m(P2)add m=-1，m /若P2为1，则m-1送m从判定流程上，似乎上面的三条语句并没有从逻辑上改变if-then-else结构的执行过程。但如果我们能够把这个例子和安腾体系结构结合起来，还是可以从这个简单的例子中体会到安腾处理机的设计思想。,10.4指令级并行机制,4、安腾处理机设计思想首先，

16、安腾指令系统中的每条指令都能够支持推断执行，所以第二条指令和第三条指令中的条件判断并不需要使用专门的判断指令。虽然后面两条指令是条件执行的，但整体条件判断结构不再需要分支指令。其次，指令中的推断操作的安排是由编译器在编译过程中完成的，不需要处理机在执行指令的非常短的时间内动态安排各条指令的条件执行。最后，每条指令中虽然可以指定推断寄存器，但取指令、指令译码和执行操作并不需要等到推断寄存器的取值确定后再进行。 下面可以看一下传统流水线与安腾处理机比较。,传统流水线与安腾处理机比较,10.4指令级并行机制,二、推测技术1、存储器访问延迟与指令级并行在现代计算机体系结构中，多级存储体系能够有效提高存

17、储系统的性能价格比。但是，在多个功能单元实现并行处理的处理机中，执行指令的速度仍然受到存储器访问速度的制约。现代RISC处理机用专用指令访问内存，取数指令往往成为影响处理机性能的瓶颈。见下图看一下取数指令对处理机并行执行指令的影响。,取数指令对处理机并行执行指令的影响,给出的实例显示了取数指令对处理机并行执行指令的影响。现利用具有四个并行执行单元的超标量处理机完成如下的指令序列：load(a)/从内存单元取数至寄存器ak=k+1i=i-1n=n+3q=q+a假设所有的算术运算指令可以在一个时钟周期中完成，而访存指令需要三个时钟周期。前四条指令可以分别安排在四个执行单元中并行执行。如果load指

18、令所要访问的内存单元并没有被调入cache，那么load指令直接访问内存需要三个时钟周期才能执行完毕。而第五条指令依赖于load指令取得的操作数，所以在执行第五条指令之前需要等待两个时钟周期，从而所有的执行单元都必须闲置两个时钟周期，这就大大降低了执行效率。,10.4指令级并行机制,2、控制推测解决处理机访存延迟的办法就是将访存操作尽可能提前执行。在安腾处理机中，控制推测技术用于解决上述与取数指令有关的控制相关问题。,10.4指令级并行机制,3、数据推测控制推测技术能够解决分支和取数操作中的控制相关，但在指令优化过程中还可能存在数据相关。,【例3】考察下面包含分支与取数指令的程序段：,if(r

19、3=0) then r2=r2+1 else r1=r3其功能是判断指针寄存器r3的值是否为零：若是则将寄存器r2加1；否则将r3指向的内存单元的内容加载到寄存器r1中。其原始汇编代码如下：cmpeq P1，P2=0，r3；/无条件执行：将r3寄存器的值与0比较，若相等则置推断寄存器P1为1，P2为0,否则置推断寄存器P1为0，P2为1(P1) add r2=1，r2 /若P1为1，则r2+1送r2 (P2)ld8 r1=r3/若P2为1，则以r3的内容为地址访存.,8字节操作数被加载至寄存器r1.为了减少访存延迟，希望将第3条取数指令提前至第1条指令的前面，或是更早的位置。但第3条指令是推断

20、执行的，其实际结果只有在P2为真的情况下才会被真正存储。如果第3条指令固执行错误而引起异常处理，但最后发现该取数指令实际上并不需要执行，那么将浪费大量时间。,安腾体系结构采用的控制推测技术对此的解决方案,由编译器将一条取数指令分解为两条指令：(1)推测取数指令(loads)，可以提前到适当位置先期执行取数操作，但如果需要进行异常处理时，并不真正调用操作系统的异常处理例程，而仅仅设置一个与被装入寄存器相关联的标志。这一标志就是每个通用寄存器中64位以外的延迟异常标记(NaT)位。(2)推测检查指令chks)， 安排在原来的取数指令位置，也即真正使用数据之前的位置。chks指令检查被装入的寄存器的

21、延迟异常标记位：如果有未被执行的异常处理，则转入异常处理程序；否则，处理机将loads指令的执行结果保存，并继续执行下一条指令。,【例4】按照上面的处理方式，安腾的编译器将对例3的汇编代码进行优化,1d8.S r1r3/以r3内容为地址访存，推测加载寄存器r1/加载指令被提前若干个周期cmpeq P1，P2=0，r3；/无条件执行：将r3寄存器的值与0比较,若相等则置推断寄存器P1为1，P2为0,否则置推断寄存器P1为0，P2为1(P1) add r2=1，r2 /若P1为1，则r2+l送r2(P2) chkS r1err_recov /若P2为1，则检查r1寄存器的NaT标记,若NaT=1，

22、则转入err_recov例程,若NaT0，则保存r3到r1,【例5】研究下面的程序段,add r5=4，r0；st4r7=r5; / /将r5的值存入r7指向的内存单元ld4 r2=r8；/以r8的内容为地址访存，加载寄存器r2add r6=r2，r5 /r6=r2+r5其中第4条指令需要使用第3条指令取数的结果。为了减少访存延迟，编译器可以将第3条指令提前到第1条指令之前。但这样做的风险是，假如当前寄存器r8的值和r7的值相等，则意味着第三条取数指令和第二条存数指令访问的是同一个内存单元。而把取数指令提前到存数指令之前将使取数指令得到存数之前的值，而不是程序原意要使用的存数指令执行之后的取值

23、。因此，在传统体系结构中，如果编译器不能确定存数和取数的目标地址是否相同(例如在上例中使用指针访存的情况)，则存数指令之后的取数指令将不能被移到存数指令之前.,安腾处理机采用数据推测技术,解决上述问题。与控制推测技术的解决办法类似，由编译器将一条取数指令分解为两条指令：（1）高级取数指令(loada)，可以提前到适当位置先期执行取数操作，但该指令执行时除了从给定的内存单元取数据之外，还将被访问的内存单元的地址登记到一个名为高级取数地址表(ALAT)的硬件数据结构中。该地址表中保存了所有已经被取数指令访问过、且未被存数指令修改过的内存单元的地址、相应的寄存器以及存取数据的字节数。安腾的所有存数指

24、令在执行时均会根据存数的目标内存地址检索该地址表，如果检索到地址匹配，则从地址表中删除该地址。（2）取数检查指令(load c)， 安排在原来的取数指令位置，也即真正使用数据之前的位置。该指令执行时将检索高级取数地址表，以便确认在高级取数指令执行后、取数检查指令执行前是否有任何指令修改了高级取数指令访问过的内存单元：如果检索到匹配项，则说明没有任何指令修改过高级取数指令访问过的内存单元，取数检查指令不再执行其他操作；如果检索不成功，则取数检查指令重新执行一次取数操作，以便加载到最新的数据。,例6按照上面的处理方式，安腾的编译器将对例5的汇编代码进行优化：,ld4a r2=r8 /高级取数， /

25、以r8的内容为地址访存add r5=4，r0；st4r7=r5 /将r5的值存入r7 /指向的内存单元ld4c r2=r8； /检查以r8为指针的寄存器 / r2加载操作add r6=r2，r5 /r6=r2+r5,10.5双核安腾处理机的组成,一、双核安腾处理机的基本特性1、并行处理技术2、显式并行指令计算技术3、超线程技术4、三级大容量高速缓冲存储器5、硬件辅助虚拟化技术6、高速缓存安全技术,虚拟化技术,所谓虚拟化，是指用单个处理机模拟多个处理机并行工作，而每个处理机都可以被看作一个独立的工作环境，从而在一个平台上同时运行多个操作系统，并且每一个操作系统中都有多个程序运行。应用程序在相互独

26、立的空间内运行而互不影响，从而显著提高计算机的工作效率。,返回,超线程技术1/2,在双核安腾处理机中，英特尔首次把在奔腾4处理机中采用的超线程(Hyper Threading)技术引进到安腾处理器家族中，每个处理机支持四个线程，使其能够处理的应用线程数是早期单核产品的四倍。,返回,超线程技术2/2,超线程技术在一颗处理机芯片内设计多个逻辑上的处理机内核，这些逻辑上的内核共享处理机内的整数运算单元、浮点运算单元和二级cache等资源，但却被模拟成多个物理内核芯片。从软件的角度看，系统中好像存在多个独立的处理机内核，因而可以让单个处理机在线程级实现并行计算，支持多线程的操作系统和应用软件。但核心硬

27、件资源实际上只有一套，故当多个线程同时访问某一个资源时，其中一个线程要暂时停止并让出资源，直到这些资源闲置后才能继续执行。,返回,10.5双核安腾处理机的组成,二、双核安腾处理机的组织结构1、指令执行单元2、处理机流水线3、cache组织4、双核仲裁,返回,双核安腾处理机流水线,显示了安腾处理机的八级内核流水线结构。流水线每个时钟周期可以执行最多6条指令。前两个流水级构成前端，执行取指令操作IPG，指令指针生成，并将指令送入指令旋转级(ROT)的去耦缓冲器。扩展流水级(EXP)实现指令分派，REN级实现寄存器重命名。寄存器读操作级(REG)完成提交操作码操作，在这一级访问寄存器文件并在处理完推

28、断控制后通过旁路网络提交数据。最后三级实现宽并行执行EXE、异常管理(DET)和写回WRB操作。其中异常检测级实现分支解析、存储器异常管理和推测等功能。,返回,双核仲裁器的方框图,双核安腾处理机配置了两个独立的处理机内核，但两个内核之间必须相互协同工作。两个内核通过一个仲裁器连接到系统接口。仲裁器向每个内核提供低延迟的传输路径，以便对系统事件做出响应。,返回,本 章 小 结,英特尔和惠普合作开发了取代IA32体系结构的64位安腾体系结构。安腾计算机体系结构是64位高性能计算环境中的主流体系结构之一。这一体系结构吸收了以往的先进处理机体系结构的优点，通过提高指令执行的并行性，增强了系统整体的计算

29、性能。安腾体系结构的核心是显式并行指令计算(EPIC)技术。通过精心设计的基于超长指令字技术的指令系统，EPIC编译器能够把在编译过程中发现的并行性显式地传递给处理机。与传统的基于超标量流水技术的处理机相比，处理机在运行时不需要在很短的时间内迅速确定一组指令中的并行执行关系，而是充分利用编译器的强大功能，因而这种设计技术既简化了处理机设计，又保证了很高的指令级并行性。,返回,本 章 小 结,安腾体系结构支持多种指令级并行技术，如推断执行、控制推测和数据推测。推断技术将传统的if-then-else分支结构转换成条件执行指令。处理机按分支的所有可能的后续路径开始并行执行多段代码并暂存各段代码的执

30、行结果，直到处理机能够确认决定分支转移与否的条件是真是假时，处理机再把应该选择的路径上的指令执行结果保留下来。因此无论哪条分支将被命中，都不会出现流水线断流现象，故消除了因分支预测失误而重新装载流水线导致的低效率现象。,返回,本 章 小 结,传统的处理机在访问cache失败时往往由于等待访存读取指令字和操作数而被迫暂停执行指令。安腾体系结构使用推测技术减少存储器访问响应时间。当程序中有分支时，控制推测技术将位于分支指令之后的取数指令提前执行，并在分支之后再进行确认，以此消除访存延时。而数据推测技术则用于解决提前取数指令后的数据相关性问题。作为安腾体系结构的最新实现，双核安腾处理机把安腾体系结构所依赖的显式并行指令计算、推断、推测等技术与经典的超线程、多级高速缓冲存储器等技术相结合，显著提高了处理机的并行运算速度。,返回,