1、第 1 章 前言. 3第 2 章 存储基本概念. 5第 1 节 存储设备分类. 61.1 SCSI 存储设备. 71.2 SAS 存储设备. 131.3 FC 光纤通道存储设备. 151.4 ISCSI 存储设备. 151.5 存储设备的融合和演变. 201.6 磁带存储. 201.7 应用存储. 20第 2 节 存储网络结构. 202.1 DAS 存储系统网络结构. 202.2 SAN 存储系统网络结构. 222.3 NAS 存储系统网络结构. 222.4 网络结构的融合和演变. 22第 3 节 FC 网络和 FC 交换机. 223.1 FC 网络. 223.2 FC 交换机设计. 22第
2、4 节 接口速率和存储带宽. 22第 5 节 存储共享. 225.1 设备共享. 225.2 文件系统共享. 225.3 存储共享管理软件. 22第 6 节 业务系统分类. 22第 3 章 数据库系统存储设计. 23第 1 节 存储应用特点. 23第 2 节 设计准备. 23第 3 节 主备数据库系统设计. 23第 4 节 双机数据库系统设计. 23第 5 节 数据库备份系统设计. 23第 4 章 非线性网络系统存储设计. 24第 1 节 非性线编辑制作系统存储应用特点. 24第 2 节 带宽分析. 26第 3 节 容量分析. 26第 4 节 小型制作网存储设计. 26第 5 节 中型制作网存
3、储设计. 26第 6 节 大型制作网存储设计. 26第 7 节 高清制作网存储设计. 26第 8 节 媒资系统存储设计. 26第 5 章 视频监控系统存储设计. 27第 1 节 视频监控系统存储应用特点. 27第 2 节 带宽分析. 27第 3 节 容量分析. 27第 4 节 小型视频监控系统存储设计. 27第 5 节 中型视频监控系统存储设计. 27第 6 节 大型视频监控系统存储设计. 27第 6 章 高性能计算系统存储设计. 27第 7 章 网站存储系统设计. 28第 8 章 视频点播系统存储设计. 29第 9 章 容灾中心存储系统设计. 30第 10 章 数字图书馆存储系统设计 31前
4、言存储技术越来越火了。随着网络化、信息化和数据化的发展，数据量越来越大，需要用到的存储设备的容量和数量也越来越多。几年前，一个存储系统的容量大约为几百 GB 到一两个 TB，而现在的系统中存储设备容量一般都在 10-20TB，大型数据中心往往会采用多台存储设备，不同存储设备负担不同的业务应用系统，存储容量经常超过 100TB。“911 事件”以后，为了保护重要数据不会丢失，几乎所有的大型企事业单位、跨国公司、网站和一些重要数据中心不仅增加了数据备份系统，还在纷纷在同城或异地建立了大型数据容灾备份及业务容灾系统。从 2006 年开始，随着中国各级政府构建“和谐社会”及“平安城市”战略的实施，各大
5、城市都在建设全方位的大型视频监控网络系统。大量视频监控系统的设计和建立不仅使得视频网络技术、图像传输技术、运动视频编解码技术等有了最大程度的发展，同时也极大地促进了大容量存储系统的发展和应用。大量现有系统需要更多的存储设备或更大的容量来存储日益增加的数据，大量的系统数据需要备份和容灾设备，大量新建设的系统需要容量更大，性能更高的存储设备。这些需求不仅促进了存储设备的生产、研发和新技术的更新换代，同时也增加了整个社会对存储技术工程师的人力资源需求。存储市场的火爆，存储工程师的高工资和高待遇吸引了越来越多的 IT 技术人员，甚至非 IT 技术人员转行到存储行业。不断学习存储技术成了很多存储人自修和
6、充电的内容。为了学到更多的技术，走上了当年学习网络技术一样的老路，购买大量高价书籍，上互联网络查找资料，翻阅众多厂商的产品技术白皮书，或缴纳高昂的学费去接受厂商的短期技术培训。不仅耗费大量的时间，也花费了大量的金钱。然而，与网络技术相比，存储行业发展的时间相对较短，已实施的案例不仅少而且系统结构相对简单。书店中的书籍内容大多集中在纯理论方面，很少能涉及到具体应用系统环境下的存储系统设计。厂商出于产品宣传、市场推广和最终销售等目的，其产品资料、白皮书一般都对性能和功能有一定程度的夸大和偏离，且内容基本上集中在自有产品的功能特点、参数配置、安装调试、后期维护和故障排除方面，并不具有普遍性。而在网络
7、上查找到资料大多内容雷同，很多资料还可能因为保密原因做了大量地删减，内容非常简单。在这样的学习环境下，很多技术人员除了记住一堆名词概念和英文缩略语，即使能考到几个厂商所谓的认证之外，基本上并不具有实际地操作能力。长时间学习但仍不具有存储系统设计能力和安装调试能力。到了一个工作岗位，仍然需要很长时间才能进入工作状态。这样的状态对于常说的存储厂商的售前或售后技术工程师来说还相对好一点，毕竟具体产品的性能特点、功能、技术参数、硬件配置和安装调试内容等内容相对较少，凡有一定基础的人员通过一定时间的培训后都可以很快成为一个售前或售后工程师。但对于那些经常负责大型的、多应用类型的、结构复杂的应用系统整体设
8、计的人员来讲，他们所面临的困难就非常的了。本书内容主要集中在存储系统结构分析，不同行业的存储网络系统的访问特点分析，存储系统设计前分析，设备选型，及安装调试时 RAID 组、交换机 ZONE设置等方面。与常见技术资料相比，属于较高一级，适合于厂商和集成商中需要为客户提高整体解决方案的售前技术工程师或解决方案顾问等人员。本书将尽量避免使用那些空泛抽象的概念和词语，通过通俗化和简单话的词语向大家介绍如何理解存储、如何去分析一个存储网络系统的结构、如何根据具体项目的需要去设计存储系统、以及如何进行存储设备选项。词语的通俗化和简单化有助于大家更好地理解本书的内容。本书内容适用于已具有一年以上存储系统实
9、施或系统设计经验，对RAID，Fable channel、NAS、SAN、ISCSI、FC-SAN 等基础概念已有较深了解的读者。本书中关于具体设备的安装调试内容较少，有兴趣的读者可以自行查阅资料。第 1 章 存储基本概念第 1 节 存储介质大家都愿意学习存储技术，希望做更多与存储有关的工作，那么首先得明白存储是什么东西。存储设备是指通过一定的存储介质，将文字、数字、图片、图像等具体数据，以及元数据、索引信息、地址信息等抽象数据进行长期保持，并可以通过 RAID组校验，数据复制、备份容灾等多种方式来保证数据的安全，对外提供一定数据传输接口，方便数据交换和传递的各种设备。存储设备的基础是存储介质
10、。我们目前一般所说的存储介质是指磁盘、磁带、光盘、闪存等用来存储数据的存储介质。但这个存储介质的范围只是侠义的。广义上的存储介质是指所有能够记录数据信息，并可以长时间保存数据的设备、设施或者物体，除了磁盘、磁带、光盘和闪存等之外，还包括纸质书籍、锦帛、竹简，甚至原始时代用来记录信息的绳结、石片和壁画。这些都是广义上的存储介质，这些介质都可以保持数据不会轻易丢失。只不过不同时期人们可以获得的存储介质不同罢了。同时因存储介质不同，进行信息交换和信息传递的方式和方便性也不同。壁画上的数据内容是不可变的，会随着时间的流逝而逐渐磨灭，且一般不可以用来传递和交换的。石片、绳结、竹简、锦帛、纸质书籍等都有一
11、定的保存期限，其传递和交换也只能通过手递手地方式。而我们现在经常谈到的磁盘、磁带、光盘和闪存等只是侠义上的存储介质。存储在这些存储介质上的数据理论上可以无限期地保存下去，除了传统的手递手交换外，还可以通过各种各样的网络来进行远程的快速传递和交换。存储是数据在时间上的延续，传输是数据在空间上的位移。与广义上或者传统上的存储介质相比，现代存储介质在数据存储和数据传输两个方面区有不可比拟的优势。本书内容主要介绍采用磁盘介质的存储系统设计，磁带介质的存储设备会有少量涉及，基本上不涉及光盘存储设备。第 2 节 存储分类大家对磁盘、磁带、光盘等存储介质有了初步了解之后即可以开始存储技术的学习。然而初学存储
12、技术的人可能会被 SAN、NAS、DAS、FC、ISCSI、FC-SAN、IPSAN 等这些大量的术语和英文缩略语搞得晕头转向，技术资料的确看了很多，但仍然无法清楚地知道这些概念之间根本的区别。因为常见的资料中一般都不会对 SAN、ISCSI、FC-SAN、IPSAN 都多个概念进行分类，经常只是简单地放在一起来进行论述，论述的内容的大多集中优缺点对比方面，但结果却是相反的，经常是越比较越糊涂。很多初学者经常会问出这样的问题：SAN 和NAS、ISCSI 存储有什么区别？SAN 和 NAS 设备哪个更好？“如何为一个应用系统选择存储设备？实际上 SAN、NAS、DAS、FC、ISCSI、FC-
13、SAN、IP-SAN 等并不是同一类别的概念。SCSI、FC、NAS、ISCSI 等概念指的是存储设备类型，DAS、NAS、SAN 等指的是存储系统的网络结构。存储设备类型是指通过采用 SCSI、FC、TCP/IP，ISCSI 等接口类型、数据传输协议、以及不同数据存储介质的存储设备。常见的存储设备类型可为 SCSI 存储、NAS 存储、FC 存储、iSCSI 存储和磁带存储。存储设备类型这个概念的核心是设备，指的是由存储介质、驱动器、控制器、供电系统、冷却系统等组成的一个整体。它独立与网络层设备和主机层设备，因此当提到存储设备类型的时候，不要涉及与存储设备连接的网络设备和主机。区分一个存储设
14、备的类型主要依靠存储设备对外提供的接口类型、数据传输协议、和存储介质。比如存储设备的对外提供的接口是 SCSI，按照 SCSI 协议传输数据的存储设备就是 SCSI 存储。如果再区分存储介质，那么存储介质为SCSI 磁盘的存储被称为 SCSI-SCSI 存储，存储介质为 SATA 磁盘的存储被称为SCSI-SATA 存储。存储名称分为两个部分，前面表示存储设备接口类型及接口部分的数据传输协议，后部分表示存储介质。同样的道理，存储设备的对外提供的接口是 FC 光纤通道，按照 FC 光纤通道协议传输数据的存储设备就是 FC 存储。存储介质为 FC 磁盘的存储被称为 FC-FC存储。存储介质为 SA
15、TA 磁盘的存储被称为 FC-SATA 存储。注意：采用光纤通道协议的存储设备应该称之为 FC 存储或光纤通道存储，也可以简称为光纤存储，不能称之为 SAN 存储，SAN 指的是一种存储系统的网络结构。采用 ISCSI 输出协议、对外提高 ISCSI 接口的存储设备自然应该成为 ISCSI 存储，只不过 ISCSI 一般都采用 SATA 磁盘作为存储介质，所以 ISCSI 存储在名称上不会再细分，都通称为 ISCSI。NAS 是一种特殊的存储设备类型，虽然 NAS 对外提供 IP 接口，按照 IP 协议进行数据传输，但 NAS 最终提供给主机的是一个文件系统，SCSI 存储、FC 存储和ISC
16、SI 等提供给主机的是一个裸的、没有文件系统的逻辑卷，且 NAS 本身是一个服务器+存储的结构，因此严格上讲，NAS 应该能算是一种存储系统结构，而不是一个存储类型。不过很多时候我们都把 NAS 的服务器+存储结构看成一个整体，这个整体又通过标准的 IP 传输协议来进行访问和数据传输。因此 NAS 一般都被认为是一个存储设备类型。在本书中，NAS 既是一个存储设备类型，又是一个存储系统网络结构。判断一个存储是够是磁带存储的标准是看这个存储设备是否采用磁带作为存储介质。磁带存储的外部接口类型一般有两种，一是 SCSI 接口，二是 FC 光纤通道接口。磁带根据存储的数据是否已经数据化可分为非数据化
17、磁带（即模拟磁带、数字磁带）和数据流磁带两种。模拟磁带一般常用与视音频文件的图像和声音存储，不用与数据存储，不在本书的讨论范围之内。关于 VCD、DVD、SONY 蓝光盘等光盘存储和各种闪存、松下 P2 卡等闪存存储方面的资料，请大家自行查阅相关资料。存储设备类型指的是存储设备这一个单体的分类，存储系统的网络结构自然是指存储设备、主机、以及存储设备与主机之间的连接系统所形成的整体拓扑结构。存储系统网络结构是指存储设备与服务器、工作站等需要进行数据读写操作的主机之间的连接方式，网络拓扑结构、数据读写方式、存储共享方式和数据共享方式。存储系统网络结构不同，存储设备的工作方式、流程和性能就会不同。大
18、家常提到的、主流的存储系统网络架构有 DAS、NAS、SAN 三种网络架构。其中 SAN 网络环境中，因采用存储设备类型的不同又可以分为 FC-SAN（采用光纤通道存储产品）和 IP-SAN（采用 ISCSI 存储设备）。1.1 SCSI 存储设备SCSI 的英文全称为 Small Computer System Interface，中文名“小型计算机系统接口”。它是一种外设接口协议，广泛应用于服务器和高档 PC 中。SCSI技术从推出至今，经过了 SCSI-1、SCSI-2、SCSI-3、Ultra2 SCSI、Ultra3 SCSI、Ultra160 SCSI 和 Ultra320 SCS
19、I 等多个版本，其接口带宽从最初的4MB/S 一直发展到目前最快的 320MB/S。目前 SCSI 存储设备普遍采用 Ultra160 SCSI 和 Ultra320 SCSI 协议。SCSI 技术经过了近 20 年发展，技术非常成熟，产品的研发和生产成本低。市场正在销售的 SCSI 存储品牌种类繁多，销售价格非常的便宜。正因为如此，很多初学存储技术的人对 SCSI 存储往往不屑一顾，认识 SCSI 存储是低端存储，学了没用没前途，甚至有的人认识学习 SCSI 技术有些掉价。其实不然，正因为SCSI 存储技术成熟、结构简单、价格便宜、安装调试简单、使用及维护人员的技术水平要求低，才会得到普遍的
20、应用。即使在 FC 存储、NAS 存储、ISCSI 存储风行的今天，SCSI 存储的应用数量也相当多，丝毫也不少于其它类型的存储设备。与以前版本的 SCSI 硬盘相比，采用 Ultra320 SCSI 接口协议的硬盘接口标准更高、读写速度更快、数据缓存更大、电机转速更高、寻道时间更短、CPU 占用率更低，并且拥有自己独立的 I/O 处理器，所有这些特性都注定 SCSI 硬盘是硬盘中的速度之王，SCSI 磁盘也一直是高端硬盘的代名词。1.1.1 SCSI 存储结构SCSI 存储设备技术成熟、结构简单，因此 SCSI 设备比 FC 设备、NAS 设备、SAN设备具有更高的稳定性和高效率。下图是常见
21、 SCSI 存储设备内部主要的功能模块结构图。图 1.1.1.1 SCSI 设备内部功能模块结构图在上图中可以看出，除了电源系统和风扇冷却系统之外，SCSI 存储设备内部只有磁盘插槽、背板、控制器和接口等 4 个部分。图 1.1.1.2 SCSI 存储前面板如上图所示，SCSI 存储磁盘插槽一般都在设备的前部，即可以竖向也可以横向插入磁盘柜。SCSI 磁盘直接插入磁盘柜内部背板上的标准 SCSI 接口，SATA 磁盘则通过 SATA-SCSI 接口转换模块的转换后插入背板上的标准 SCSI 接口。所谓背板实际上是一个印制好的电路板，如同常见的计算机主板一样，上面有多个标准化和非标准化的插槽，标
22、准化插槽一般用来接入磁盘、电源和风扇等标准化零部件，非标准化插槽一般用来接入厂商自己研制生产的控制器。不同的背板提供不同类型和数量的插槽。背板上除了提高多个插槽之外，本身还是一个 SCSI 总线线路板，这一个 SCSI总线线路板将磁盘和控制器连接在一起，实现数据在磁盘和控制器之间的传输。SCSI 存储上一般只有一个 SCSI 总线，无法提供磁盘和控制器之间的冗余连接。存储系统设计指南-9-什么是 ISCSI 存储iSCSI 技术简介iSCSI（iSCSI = internet Small Computer System Interface ）是由 IIETF开发的网络存储标准，目的是为了用 I
23、P 协议将存储设备连接在一起。通过在IP 网上传送 SCSI 命令和数据，ISCSI 推动了数据在网际之间的传递，同时也促进了数据的远距离管理。由于其出色的数据传输能力，ISCSI 协议被认为是促进存储区域网（SAN）市场快速发展的关键因素之一。因为 IP 网络的广泛应用，ISCSI 能够在 LAN、WAN 甚至 internet 上进行数据传送，使得数据的存储不再受地域的现在。ISCSI 技术的核心是在 TCP/IP 网络上传输 SCSI 协议，是指用 TCP/IP 报文、和ISCSI 报文封装 SCSI 报文，使得 SCSI 命令和数据可以在普通以太网络上进行传输，如下图：iSCSI 协议
24、定义了在 TCP/IP 网络发送、接收 block（数据块）级的存储数据的规则和方 法。发送端将 SCSI 命令和数据封装到 TCP/IP 包中再通过网络转发，接收端收到 TCP/IP 包 之后，将其还原为 SCSI 命令和数据并执行，完成之后将返回的 SCSI 命令和数据再封装到 TCP/IP 包中再传送回发送端。而整个过程在用户看来，使用远端的存储设备就象访问本地的 SCSI 设备一样简单。早在 2001 年上半年，IBM 就推出了 IP Storage 200i，是市场上公认的第一款基于 iSCSI 协议的产品，这款产品的出现，对于身处信息爆炸时代却无法承担光纤通道 SAN 环境高成本的
25、中小型用户来说，具有巨大的吸引力；2001 年10 月，Cisco 也推出了 SN5420 存储路由器，基于 IP 标准和 SAN 标准，可以提供与现有 LAN、WAN、光纤和 SAN 设备之间的互操作，率先建立了 IP 网络与 SAN之间的桥梁。现在，有更多的厂商参与到 iSCSI 产品的开发中，如 Intel 已经推出了存储网卡 IP Storage iSCSI PRO/1000T，将协议转化也就是封装、还原 TCP/IP 包的步骤转移到网卡上来执行，大大降低了服务器处理器的占用率。同时，还有芯片、板卡制造商加入到 iSCSI 产品的开发中，如 Adaptec、Qlogic 等等。iSCS
26、I 可以实现在 IP 网络上运行 SCSI 协议，使其能够在诸如高速千兆以太网上进行路由选择。用户可使用标准的千兆级以太网传输协议，通过 Cat5 线缆和任意的交换机产品，将服务器与磁盘阵列连接在一起，并且能够提供接近 FC SAN 的性能。iSCSI 集 SCSI、以太网和 TCP/IP 等技术于一身，支持 iSCSI 技术的服务器和存储设备能够直接连接到现有的 IP 交换机和路由器上，具有低廉、开放、大容量、传输速度高、安全等诸多优点，最适合需要在网络上存储和传输大量数据的应用环境，比如广电视频制作和媒资系统，视频监控系统，IPTV 系统，数据备份系统，以及许多的对 IOPS 和带宽性能要
27、求不是还很高的数据库存储系统、大容量文件存储系统。存储系统设计指南-5-SCSI 控制器控制器是所有存储系统的核心设备，负责数据在主机与磁盘之间的传输、控制和校验。无论是那种类型的存储设备，存储控制器都可以看成是具有一个数据IO 功能和 RAID 功能的硬件集合体。RAID 一般有全软、半软半硬和全硬之分。全软 RAID 就是指 RAID 功能是由操作系统来完成，没有第三方的控制、处理和 I/O 芯片。有关 RAID 任务的处理都由CPU 来完成，因此这是效率最低的一种 RAID。由于全软 RAID 是在操作系统下实现 RAID，不能保护系统盘，系统分区不能参与实现 RAID。而且一般的 RA
28、ID 配置信息都存在系统信息中，而不是存在数据磁盘中，当系统崩溃需重新安装时，RAID 的信息也会丢失，数据的安全性极低。半软半硬 RAID 是一种把初级的 RAID 功能附加给 SCSI 或者 SATA 卡而产生的产品，它把软件 RAID 功能集成到了产品的固件上，从而提高了产品的功能和容错能力。它可以支持 RAID 0 和 RAID 1 RAID (1+0)。但因为缺乏自己的 I/O 处理芯片，所以这方面的工作仍要由 CPU 与驱动程序来完成。而且，半软半硬是依靠主机本身 CPU 和内存运行，所采用的 RAID 控制、处理芯片的能力一般都比较弱，不能支持高的 RAID 等级。SCSI 存储设备册是一种全硬的 RAID，全面具备了自己的 RAID 控制、处理和I/O 处理芯片，甚至还有阵列缓冲（Array Buffer）。SCSI 存储设备的控制器自带有微处理与 I/O 处理芯片及内存，不依靠主机 CPU 和内存，可直接把相关信息提交给 OS 处理，从而使性能获得很大的提高。对 CPU 的占用率以及整体性能是这三种类型中最有优势的，但设备成本也是三种类型中最高的。
