基于PC主机北桥的长时间不间断高速采集和存储的系统介绍 芯片组, 主机, 超越, 电脑, 接口

yuyang911220

引言
　　由于现在的PCI、CPCI、VME等系统的持续传输速度很难超越400MB/s,因此要完成实时、长时间的采集存储功能，本设计选择实现一种基于PCI-E的系统，PCI-E是第三代接口通信协议(3GPIO)。传统的PC主机北桥只有一个高速的PCI-E X16接口，本文使用带G31北桥的芯片组的技嘉主板GA-G31M-ES2C为例来进行讨论，虽然G31-ICH7芯片组在南桥上可提供4个PCI-E ×1接口，但是由于其他I/O端口资源的占用，该主板在北桥上仅提供了一个PCI-E ×16的插槽，南桥也只提供一个PCI-E ×1插槽。因此如果只采用G31/ICH7芯片组的电脑建立一个PCI-E采集存储系统，它只能实现PCI-E 1.0 单通道的采集存储系统，带宽就被限制在200MB/s内。而这种格局主要是由于计算机北桥只提供一个PCI-E插槽，不能同时满足高速采集和存储的连接需要,因此扩展主机北桥上的PCI-E接口，将整个采集存储都建立在北桥上变得至关重要。

　　系统结构分析
　　Intel(英特尔)公司最新的双通道DDR3内存以及下一代双×16 PCI-E 2.0的计算机芯片组技术提供了一种更新的个人电脑的架构，这些技术被应用到X38、X48和X58等计算机芯片组中。本文以X58为例，图1为X58芯片组的系统架构。


　　图1 X58芯片组的系统架构
　　X58芯片组搭配新南桥ICH10或ICH10R，可支持四条PCI-E ×16插槽(其中两条符合PCI-E 2.0规范)，根据通道数的要求可组成四种不同模式，当然它只支持双图形处理器(GPU)协同运行的技术CrossFire，仍不支持Scalable Link Interface(SLI)技术。SLI技术是主板能够同时使用两块同型号PCI-E显卡的一种技术，同时芯片间通信通过类似AMD HyperTransport总线技术的QPI总线技术完成，借助PCI-E通道可带来最高25.6GB/s的双向带宽，而现在的前端总线Front Side Bus(FSB)则被彻底弃用。我们可以直接运用X58芯片组构建一个高速实时的系统，但由于现阶段很少有能够完全利用PCI-E ×16带宽的采集卡，因此将资源进行分割，利用多块采集模块组成一个采集系统，通过PCI-E Switch扩展接口的方法可以将X58芯片组扩展成为一个更高速、兼容更多模块的采集存储系统。
　　DMI(Direct Media Interface)直接媒体接口是Intel公司开发用于连接主板南北桥的总线，取代了以前的Hub-Link总线。DMI采用点对点的连接方式，时钟频率为100MHz，由于它基于PCI-E总线，因此具有PCI-E总线的优势。DMI实现了上行与下行各1GB/s的数据传输率，总带宽达到2GB/s，但DMI还要与其他I/O设备进行通信，因此如果选择南桥的PCI-E端口进行传输，传输速度将受到很大的限制，理想情况下至多只能实现1GB/s的传输存储速度。因此，本系统在计算机中DMI以上的结构中完成数据的传输和存储。我们可以将连接在芯片G31 GMCH的PCI-E ×16端口通过一个PCI-E Switch进行扩展，扩展后的结构相当于主机北桥提供了多个高速的PCI-E接口，形成一个类似于图1中的X58架构，从而使整个传输存储过程不受DMI双向2GB/s速度的影响。
　　利用北桥PCI-E扩展技术，将所有的采集卡和存储卡都连接到主机的北桥端，可使整个数据传输不受主机DMI等的速度瓶颈限制，如果只是使用PCI-E ×4对系统进行扩展，理想的有效数据传输速度也可达800MB/s，而且由于PCI-E协议是双向同时传输的，因此将采集卡和存储卡同时连接到一个端口并不会影响其传输和存储的效率。
　　系统设计
　　PCI-E Switch
　　PCI-E Switch为整个系统提供扩展端口，系统中所有的PCI-E接口都是通过PCI-E Switch芯片扩展出来的，类似的可以看成将多个PCI-E插槽直接连接到主机的北桥上。图2为含PCI-E的拓扑结构图，通过Switch可以将一个上游设备口扩展多个下游端口，此外PCI-E Switch还可以级联。通过一个多通道的PCI-E Switch可扩展构建一个多采集卡多存储设备的实时高速采集存储系统。


　　图2 含PCI-E Switch的拓扑结构图
　　本方案采用的是PLX公司的一块PCI-E Switch芯片PEX8616，它是一款可以设置4个接口并拥有16个通道的PCI-E Switch芯片，并可设置每个接口的通道数。其支持透明桥(TB)、非透明桥(NTB)两种方式，即可以支持两个及以上的多主机系统和多智能I/O端口的模块。PEX8616每个通道含有两个虚拟端口，且支持热插拔。由于主要目的是将北桥上的PCI-E ×16插槽扩展成为多个PCI-E接口。因此，本系统中将其分为四个PCI-E ×4的接口。端口号为0、1、5和6，将与主机连接的端口0设置为上游端口，其余三个端口则为下游端口，连接采集卡和RAID存储卡。
　　PCI-E数据传输方式包含地址路由和ID路由等方式，PCI-E设备在系统中都有一个ID，根据所处的PCI总线号、设备号和功能号来确定。一个PCI-E Switch可以看成多个P2P桥的集合，并且在上游设备和下游设备之前还虚拟了一条总线。
系统与桥


　　透明桥系统是指整个系统中只含一个主机设备，其余所有设备都是以端点设备的形式出现。所有下游设备不能自发进行数据传输，只有在上位机引导下进行数据传输。采集卡可以通过DMA等方式将数据传输到上位机的内存中的某个区域，然后再将内存中的数据存储到磁盘阵列中。由于存储和读取同一块内存，因此在软件上可以多开辟几块内存，利用多线程规避系统顺序执行所带来的延迟，提高传输和存储的速度。


　　图3 基于PCI-E Switch的非透明桥系统
　　PEX8616提供非透明桥，非透明端口保持处理器的电气及逻辑隔离,可以防止主机列举端口后面的设备,从而隔离其后的处理器及内存空间。非透明端口允许打开窗口以交换数据，通过地址转换,数据从端口的一侧中传输另外一侧。每个处理器把非透明端口的另一端当作一个下游设备，并把它映射到自己的地址空间。利用非透明端口的地址翻译能力,处理器之间可以通过PCI-E总线进行通信。因此系统构建可以考虑引入非透明桥，在上位机存在的情况下，让采集卡或者存储卡也作为一个主机端，数据在采集存储过程中可以直接绕开PC主机进行，当数据进行反演时，上位机再作为上游，对磁盘阵列进行操作和控制。
　　图3为一种非透明桥的系统，其中包含两个Host Bridge和PCI-E Root Complex，其中本地设备系统中的Root Complex连接到PCI-E Switch的一个NT端口上，从而在主系统的PCI结构中把它作为一个下游设备。PCI-E Switch连接两个独立的处理器域，本地设备的资源和地址对主系统是不可见的。允许本地处理器独立地配置和控制其子系统。主系统和本地系统的时钟完全独立。主系统和本地系统的地址完全独立，在主系统和本地系统之间可以进行地址翻译。增加了隔离主系统、本地系统总线之间地址域的功能。
　　在构建采集存储系统的过程中可以将采集模块或者存储模块以构建本地系统的方式实现，从而可以在采集数据后直接对数据进行预处理然后再送到PCI-E总线进行存储或者可以在存储之后直接在本地系统进行回放或者提供网口访问存储数据等功能。
　　采集存储系统的实现
　　系统结构
　　系统由PC主机、PCI-E Switch背板、采集卡和RAID存储卡组成。在完成背板设计后，先利用一块PEX8311接口芯片的采集卡，Rocket RAID 2680磁盘阵列卡，实现一种高速采集存储的系统。然而因为普通的PC机箱的空间有限，如果将PCI-E Switch背板与上位机的接口直接以PCI-E金手指的形式，则当背板接入主机后，很难创造一个空间可以容纳其他板卡插到背板上。并且由于磁盘阵列是由多个Western Digest WD3200AAJS的硬盘构成，发热量也成为一个很显著的问题。