如何采用FPGA协处理器实现算法加速.doc

1、如何采用 FPGA 协处理器实现算法加速当今的设计工程师受到面积、功率和成本的约束，不能采用 GHz 级的计算机实现嵌入式设计。在嵌入式系统中，通常是由相对数量较少的算法决定最大的运算需求。使用设计自动化工具可以将这些算法快速转换到硬件协处理器中。然后，协处理器可以有效地连接到处理器，产生“GHz”级的性能。 本文主要研究了代码加速和代码转换到硬件协处理器的方法。我们还分析了通过一个涉及到基于辅助处理器单元(APU)的实际图像显示案例的基准数据均衡决策的过程。该设计使用了在一个平台 FPGA 中实现的一个嵌入式 PowerPC。 协处理器的意义 协处理器是一个处理单元，该处理单元与一个主处理单

2、元一起使用来承担通常由主处理单元执行的运算。通常，协处理器功能在硬件中实现以替代几种软件指令。通过减少多种代码指令为单一指令，以及在硬件中直接实现指令的方式，从而实现代码加速。 最常用的协处理器是浮点单元(FPU)，这是与 CPU 紧密结合的唯一普通协处理器。没有通用的协处理器库，即使是存在这样的库，将依然难以简单地将协处理器与一个 CPU(例如 Pentium 4)连接。Xilinx Virtex-4 FX FPGA 拥有一个或两个 PowerPC，每个都有一个 APU 接口。通过在 FPGA 中嵌入一个处理器，现在就有机会在单芯片上实现完整的处理系统。 带 APU 接口的 PowerPC

3、使得在 FPGA 中得以实现一个紧密结合的协处理器。因为频率的需求以及管脚数量的限制，采用外部协处理器不大可行。因此可以创建一个直接连接到 PowerPC 的专用应用协处理器，大大地提高了软件速度。因为 FPGA 是可编程的，你可以快速地开发和测试连接到 CPU 的协处理器解决方案。 协处理器连接模型 协处理器有三种基本的形式：与 CPU 总线连接的、与 I/O 连接的和指令流水线连接(Instruction Pipeline Connection)。此外，还存在一些这些形式的混合形式。 1. CPU 总线连接 处理器总线连接加速器需要 CPU 在总线上移动数据以及发送命令。通常，单个数据处理

4、就需要很多的处理器时钟周期。因为总线仲裁以及总线驱动的时钟是处理器时钟的分频，所以会降低数据处理速度。一个与总线连接的加速器可以包含一个存储器存取(DMA)引擎。在增加额外的逻辑情况下， DMA 引擎允许协处理器工作在位于连接到总线的存储器上的数据块，独立于 CPU。 2. I/O 连接 与 I/O 连接的加速器直接连接到一个专用的 I/O 端口。通常通过 GET 或 PUT函数提供数据和控制。因为缺少了仲裁、控制复杂度降低以及连接器件较少，因此这些接口的驱动时钟通常比处理器总线更快。这种接口的一个较好的例子如 Xilinx Fast Simplex Link(FSL)。FSL 是一种简单的

5、FIFO 接口，可以连接到 Xilinx MicroBlaze 软核处理器或 Virtex-4 FX PowerPC。与处理器总线接口中的数据移动相比，通过 FSL 移动的数据具有较低的延时和更高的数据速率。 3. 指令流水线连接 指令流水线连接加速器直接连接到 CPU 的计算内核。通过与指令流水线连接，CPU 不能识别的指令可以由协处理器执行。操作数、结果以及状态直接从数据执行流水线向外传递，或接收。单个运算可以实现两个操作数的处理，同时返回一个结果和状态。 作为一个直接连接的接口，连接道指令流水线的加速器可以用比处理器总线更快的时钟驱动。Xilinx 通过 APU 接口实现这种协处理器连接

6、模型，对于典型的双操作数指令，在数据控制和数据传输上可以缩减 10 倍的时钟周期。APU 控制器还连接到数据缓存控制器，通过它可以执行数据加载/存储操作。因此，APU 接口能在每秒内移动数百兆字节，接近 DMA 速度。 I/O 连接加速器或指令流水线连接加速器可以与总线连接加速器结合起来。在增加额外的逻辑条件下，可以创建一个加速器，这个加速器运行在一个位于总线连接存储器上的数据块上，通过一个快速、低延时的接口接收命令并返回状态。 在本文中介绍的 C-HDL 工具组可以实现总线连接和 I/O 连接加速器，它还能实现连接到 PowerPC 的 APU 接口的加速器。尽管 APU 连接是基于指令流水

7、线的，C-HDL 工具组实现了一种 I/O 流水线接口，该接口具有 I/O 连接加速器的典型性能。 FPGA/PowerPC/APU 接口 FPGA 允许硬件设计工程师利用单芯片上的处理器、解码逻辑、外设和协处理器实现一个完整的计算系统。FPGA 可以包含数千到数十万的逻辑单元，可以从这些逻辑单元实现一个处理器，如 Xilinx PicoBlaze 或 MicroBlaze 处理器，或者可以是一个或者更多的硬逻辑单元(如 Virtex-4 FX PowerPC)。大量的逻辑单元使你可以实现数据处理单元，这些单元与处理器系统一起工作，由处理器对其进行控制或监控。 FPGA 作为一种可重复编程的单

8、元，允许你在设计过程中进行编程并对其进行测试。如果你发现了一个设计缺陷，你可以立即对其进行重新编程设计。FPGA 还允许你实现硬件运算功能，而这在以前的实现成本是很高的。CPU 流水线与 FPGA 逻辑之间紧密结合，这样就可以创建高性能软件加速器。 图 1 的模块框图显示了 PowerPC、集成的 APU 控制器以及一个与之相连的协处理器。来自高速缓存或存储器中的指令可以立即出现在 CPU 解码器和 APU控制器上，如果 CPU 能识别指令，则运行这些指令。否则，APU 控制器或用户创建的协处理器可以对指令做出应答并执行指令。一个或者两个操作数被传递到协处理器，并返回一个结果或状态。APU 接

9、口还支持用一个指令发送一个数据单元。数据单元的大小范围从一个字节到 4 个 32 位的字。 图 1： PowerPC、集成的 APU 控制器和协处理器 通过一个结构协处理器总线(FCB)，可以将一个或多个协处理器连接到 APU 接口。连接到总线的协处理器范围包括现存的内核(例如 FPU)到用户创建的协处理器。一个协处理器可以连接到 FCB 用于控制和状态运算，并连接到一个处理器总线，实现直接存储器数据块访问以及 DMA 数据传递。一种简化的连接方案，例如 FSL，也可以在 FCB 和协处理器之间使用，在牺牲一定性能的条件下实现 FIFO 数据和控制通信。 为展示指令流水线连接加速器的性能优势，

10、我们采用一个处理器总线连接 FPU首先实现了一个设计，然后采用 APU/FCB 连接的 FPU 实现设计。表 1 总结了两种实现方式下有限脉冲响应(FIR)滤波器的性能。如表 1 中所反映的一样，连接到一个指令流水线的 FPU 使软件浮点运算速度增加 30 倍，而 APU 接口相比于总线连接 FPU 来说改善了近 4 倍。 表 1：未加速与加速的浮点性能 C 代码转换到 HDL 采用 C 到 HDL 的转换工具将 C 代码转换到 HDL 加速器是一种创建硬件协处理器的高效方法。图 2 所示以及下面详述的步骤总结了 C 到 HDL 转换的过程： 图 2： C-HDL 设计流程 1. 使用标准 C

11、 工具实现应用程序或算法。开发一种软件测试向量(test bench)用于基线性能和正确性(主机或台式电脑仿真)测试。使用一种编译器(例如 gprof)来开始确定关键的函数。 2. 确定是否浮点到定点转换适当。使用库或宏来辅助这种转换，使用一个基线测试向量来分析性能和准确性。使用编译器来重新评估关键函数。 3. 使用 C 到 HDL 转换工具(如 Impulse C)，在每个关键功能上重复，以实现：将算法分割成并行的进程；创建硬件/软件进程接口 (流、共享存储器、信号)；对关键的代码段(例如内部代码循环)进行自动优化和并行化；使用桌面电脑仿真、周期准确的 C 仿真以及实际的在系统测试对得到的并

12、行算法进行测试和验证。 4. 使用 C 到 HDL 转换工具将关键的代码段转换到 HDL 协处理器。 5. 将协处理器连接到 APU 接口用于最终的测试。 Impulse：C 到 HDL 转换工具 如图 3 所示的 Impulse C 通过结合使用 C 兼容库函数与 Impulse CoDeveloper C 代码到硬件的编译器，使嵌入式系统设计工程师能创建高度并行的、 FPGA加速的应用。Impulse C 通过使用定义完好的数据通信、消息传递和同步处理机制，简化了硬件/软件混合应用设计。Impulse C 提供了 C 代码(例如循环流水线处理、展开和运算符调度)的自动优化以及交互式工具，允

13、许你对每个周期的硬件行为进行分析。 图 3. Impulse C Impulse C 设计用于面向数据流的应用，但是它也具有足够的灵活性来支持其他的编程模型，包括使用共享存储器。这一点很重要，因为基于 FPGA 不同的应用具有不同的性能和数据要求。在一些应用中，通过块存储器读和写在嵌入式处理器和 FPGA 之间转移数据是有意义的；在其它的情况下，流传数通信信道可能提供更高的性能。可以快速建模、编译和评估可选的算法的能力对于实现某个应用最佳的结果来说，非常重要。 到目前为止，Impulse C 库包含以新数据类型和预定义的函数调用形式的最少C 语言扩展。使用 Impulse C 函数调用，你可以

14、定义多个并行程序段(调用进程)，并使用流、信号和其他机制描述它们的互连。Impulse C 编译器将这些 C 语言进程转换并优化成：可以综合到 FPGA 的较低级 HDL，或可以通过广泛存在的C 交叉编译器编译到支持的微处理器上标准 C(带相关的库调用)。 完整的 CoDeveloper 开发环境包括与标准 C 编译器和调试器(包括微软公司的Visual Studio 和 GCC/GDB)兼容的台式电脑仿真库。使用这些库， Impulse C程序设计工程师能编译和执行他们用于算法验证和调试目的的应用程序。C 程序设计工程师还能检验并行进程，分析数据移动，并利用 CoDeveloper Appl

15、ication Monitor 解决进程到进程的通信问题。 在编译时，Impulse C 应用的输出是一组硬件和软件源文件，用于输入到 FPGA 综合工具。这些文件包括： 1. 用于描述编译硬件进程的自动产生的 HDL 文件； 2. 用于描述连接硬件进程到系统总线所需的流、信号和存储器组件的自动产生的 HDL 文件； 3. 自动产生的软件组件 (包括运行时间库)用于建立任何硬件/软件流连接的软件端； 4. 附加文件，包括脚本文件，用于输入产生的应用程序到目标 FPGA 布局布线环境。这种编译进程的结果是一个完整的应用，包括需要的硬件/软件接口，用于在基于 FPGA 的编程平台上实现。 设计实例

16、 图 4 所示的 Mandelbrot 图是一种经典的不规则几何图形，该图形广泛用在科学和工程学界用于仿真无序事件，例如天气。不规则图形也用于产生纹理和在视频显示应用上成像。Mandelbrot 图像描述为自相似性。放大图形的局部，可以获得类似于整个图形的另外一个图形。 图 4： Mandelbrot 图 Mandelbrot 图形是硬件/软件协同设计的理想选择，因为它具有单个运算密集的函数。通过将关键的函数转移到硬件实现将大大地增加整个系统的速度，使这个关键函数更快。Mandelbrot 应用还能清楚地区分硬件和软件进程，使用 C-HDL 工具很容易实现。 本文使用 CoDeveloper

17、工具组作为 C-HDL 工具组用于该设计实例，而且只修改了软件 Mandelbrot C 程序以使其与 C-HDL 工具兼容。其中的改变包括：将软件项目分割成不同的进程(顺序执行的独立单元)；函数接口转换(硬件到软件)到流；增加编译器指令来对产生的硬件进行优化。我们随后使用 CoDeveloper工具组来创建 Pcore 协处理器，将该协处理器输入到 Xilinx Platform Studio(XPS)。利用 XPS，我们将 PC 连接到 PowerPC APU 控制器接口，并测试系统。 Xilinx 公司的应用说明资料 XAPP901 中提供了该设计的全面描述和设计文件，并提供下载。同时，

18、用户指南 UG096 提供一种实现设计实例的逐步设计指导。 我们对 Mandelbrot 图像纹理问题、图像滤波应用和三倍 DES 加密的性能改善进行了测量。性能改善显示了从 11 倍到 34 倍的加速，在表 2 中做出了总结。 表 2：通过协处理器加速器的算法加速性能对比 本文小结 受功率、尺寸和成本的约束，你可能需要做出一个并非理想的处理器选择，通常所选择处理器性能比期望的性能低。当软件代码不能运行足够快时，协处理器代码加速器成为一种很有吸引力的解决方案。你可以在 HDL 中手动设计加速器或使用 C-HDL 工具自动将 C 代码转换成 HDL。 使用 Impulse C 这样的 C-HDL 工具能使加速器运行更快且更简单。Virtex-4 FX FPGA 具有两个嵌入式 PowerPC，能实现处理器指令流水线到软件加速器之间紧密的连接。如上所述，关键的软件程序增加速度 10 倍到 30 倍，使 300MHz 的 PowerPC 提供等于或高于高性能 GHz 级处理器的性能。上面的实例每个只需要几天的时间来产生，显示了采用 C-HDL 流程的快速设计、实现和测试。