1、数据中心解决方案之灾备方案设计1.数据中心容灾备份解决方案随着社会的发展和科技的进步，政府日常工作越来越依赖于数据处理来进行，政务系统的连续性依赖于数据中心系统的稳定运行。然而，灾难就像灰尘一样伏击在运营环境周围，政务系统的数据中心可能正在一个充满风险和威胁的环境下运行。如果不能对这些风险采取有效治理，一旦数据由于某种原因丢失，就很有可能对政府的日常工作造成严重的影响。如果核心数据丢失，将会使得某些核心功能陷入瘫痪，造成不可估量的损失。因此，保证政务的连续性和数据的高可靠性和可用性，已经成为政府部门在数据中心建设中，必须要考虑的问题。1.1 灾备解决方案原则首先，在制定容灾系统方案的过程中要考
2、虑的就是容灾系统建设对原有业务系统带来的影响。比如，采用数据复制技术对系统 I/O 带来的延迟，应用数据同步对日常业务处理系统带来的压力等。因此，企业要通过周密的测试和分析来规避容灾系统建设时带来的这些风险，以保证业务系统不会因容灾系统的建设而出现在处理性能上下降的问题。第二，数据状态要保持同步。为保证在灾难发生时，业务可以成功地切换到备份中心，就必须保证容灾系统数据同步机制的可靠性。因此，建立可靠的数据同步校验机制是必须的; 同时，还要考虑建立定时的、自动的数据同步核查对比机制，以检验两个中心数据的一致性，这是数据容灾工作中非常重要的一部分。第三，容灾系统的日常维护工作要尽可能轻，并能承担部
3、分业务处理和测试的工作。容灾系统的维护和管理是容灾切换成功的重要保证，在系统建设中，就必须要考虑系统的维护管理流程。生产中心任何业务处理过程的改变都必须完整地复制到备份中心; 所有新业务系统上线时，必须通知备份中心，并在备份中心配置好数据同步机制; 对原程序的改动也必须保证两个中心同时上线。第四，系统恢复时间要尽可能短。容灾系统主要是为了实现在主中心系统发生灾难时，可以在规定时间切换到备份中心，保证数据不会丢失，并且继续向用户提供服务。但往往在灾难发生时，主要技术人员不能及时到达现场，为了顺利实现系统间的切换，应该让系统切换操作尽可能地简单; 并建立固定化的、标准化的切换流程，要求维护人员在切
4、换演习时严格按照流程的指导步骤进行操作。第五，可实现部分业务子系统的切换和回切。当人事变动、业务变化、IT 设施变化以及其他可能引起恢复规划文档失效的变化发生时，应及时更新各恢复规划文档，并在必要时启动模拟测试或演习，确保业务连续性系统的工作能力。第六，技术方案选择要遵循成熟稳定、高可靠性、可扩展性、透明性的原则。目前，国际上比较成熟的容灾技术包括： SAN/NAS 技术、远程镜像技术、虚拟存储、基于 IP 的 SAN 互连技术以及快照技术等。其中基于 IP 的 SAN 远程数据容灾备份技术应用比较广泛，其是利用基于 IP 的 SAN 的互连协议，将主数据中心 SAN 中的信息通过现有的 TC
5、P/IP 网络，远程复制到备份中心的 SAN 中的。当备份中心存储的数据量过大时，可利用快照技术将其备份到磁带库或光盘库。这种基于 IP 的 SAN 远程容灾备份，可以跨越 LAN、MAN 和 WAN，成本低、可扩展性好。基于 IP 的互连协议主要包括 FCIP、iFCP 、InfiniBand、iSCSI 等。第七，构建系统方案可以选择多种技术组合方式。目前，业内应用较多的容灾方案是基于智能存储系统的远程数据复制技术，它是由智能存储系统自身实现的数据远程复制和同步，即智能存储系统将对该系统中的存储器 I/O 操作请求复制到远端的存储系统中并执行。由于在这种方式下，数据复制软件运行在存储系统内
6、，因此较容易实现主中心和容灾备份中心的操作系统、数据库、系统库和目录的实时拷贝及维护能力，且不会影响主中心主机系统的性能。如果在系统恢复场具备了实时数据，那么就可以做到在灾难发生时，及时开始应用处理过程的恢复。但这种方案也有开放性差(不同厂家的存储设备系统一般不能配合使用)、对于主、备中心之间的网络条件( 稳定性、带宽、链路空间距离)要求较苛刻等缺点。1.2 灾备解决方案设计需要考虑的因素1.2.1 RTO 和 RPORTO（RecoveryTime Object）：是指灾难发生后，从 IT 系统宕机导致业务停顿之刻开始，到 IT 系统恢复至可以支持各部门运作，业务恢复运营之时，此两点之间的时
7、间段成为 RTO。RTO 是反映业务恢复及时性的指标，表示业务从中断到回复正常所需要的时间。RTO 值越小，代表容灾系统的数据恢复能力越强。各种容灾解决方案的 RTO 有较大差别，基于光通道技术的同步数据复制，配合异地备用的业务系统和跨业务中心与备份中心的高可用管理，这种容灾解决方案具有最小的 RTO。RPO（Recovery Point Objective），是指从系统和应用数据而言，要实现能够恢复至可以支持各部门业务运作，系统及生产数据应恢复到怎样的更新程度。RPO 是反映恢复数据完整性的指标，在同步数据复制方式下， RPO 等于数据传输延迟的时间；在异步数据复制下，RPO 基本为异步传输
8、数据排队的时间。在实际应用中，考虑导数据传输的因素，业务数据库与容灾备份数据库的一致性（SCN）是不同的，RPO 表示业务数据库与容灾备份数据库 SCN 的时间差。发生灾难后，启动容灾系统完成数据恢复，RPO 就是新恢复业务系统的数据损失量。设计容灾系统不能只看 RTO 和 RPO，对于不同的业务系统和用户特殊的要求，其它一些指标有可能成为选择容灾解决方案的主要因素。例如，某些地区为了防范一些特定自然灾害的风险，要求容灾备份中心与业务中心保持足够的距离，在这种情况下，容灾备份中心与业务中心的距离要求就是容灾系统的重要指标。1.2.2 数据安全数据的完整性，一致性是保证业务连续的关键。在本地，数
9、据安全需要使用 RAID 技术来保证。在灾备方案的设计中，数据复制方案的设计是整个设计的基础。目前业界主流的数据复制技术有：基于数据库本身的复制技术，基于操作系统的数据复制，基于虚拟存储的复制技术和基于存储的复制技术。在方案所用技术的选择时，应当根据客户的预算，现场的条件，综合来进行考量。后续在1.6.1 数据同步章节，将会有这 4 类数据复制技术的综合对比，可以作为选择的参考。1.2.3 网络安全通信网络是容灾系统的组成部分，通信线路的质量也是容灾系统的性能指标之一，其中包括网络的数据传输带宽、网络传输通道的冗余和网络服务商的服务水平（网络年中断率）。如果容灾系统使用的通信网络是确定的，为了
10、比较不同容灾解决方案，可以用单位存储容量的数据库在同一通信网络上的数据完全恢复时间作为一项设计指标。1.2.4 业务连续性业务连续性是灾备方案的最终目标，是方案的价值所在。为了保证业务的连续，首先需要数据的连续，之前我们讨论了数据安全相关的内容。其次，在数据连续的基础上，出现灾难时，系统需要能够满足（1）网络切换（2 ）应用切换。以此，来保证系统能够顺利切换到灾备地，继续安全运营，最大化保证客户利益。1.3 国标系统灾备等级划分及应对措施国家信息系统灾难恢复规范（GB/T 20988-2007）规定了六个级别的容灾，下表分别针对每个级别给出了相应的应对措施。级别 内容 措施Level6 数据零
11、丢失和远程集群支持 实现远程数据实时备份，实现零丢失；应用软件可以实现实时无缝切换；远程集群系统的实时监控和自动切换能力；Level5 实时数据传输及完整设备支持 实现远程数据复制技术；备用网络也具备字哦那个或集中切换能力；Level4 电子传输及完整设备支持 配置所需要的全部数据和通讯线路及网络设备，并处于就绪状态；7*24 运行；更高的技术支持和运维管理；Level3 电子传输和部分设备支持 配置部分数据，通信线路和网络设备；每天实现多次的数据电子传输；备用场地配置专制的运行管理人员；Level2 备用场地支持 预定时间调配数据，通信线路和网络设备；备用场地管理制度；设备及网络紧急供货协议
12、；Level1 基本支持 每周至少做一次完全数据备份；制定介质存取验证和转储的管理制度；完整测试和演练的灾难恢复计划；1.4 容灾技术分析1.4.1 备份方式(1)冷备份备份系统未安装或未配置成与当前使用的系统相同或相似的运行环境, 应用系统数据没有及时装入备份系统。一旦发生灾难，需安装配置所需的运行环境，用数据备份介质（磁带或光盘）恢复应用数据，手工逐笔或自动批量追补孤立数据，将终端用户通过通讯线路切换到备份系统，恢复业务运行。优点：设备投资较少，节省通信费用，通信环境要求不高。缺点：恢复时间较长，一般要数天至 1 周，数据完整性与一致性较差。(2)温备份将备份系统已安装配置成与当前使用的系
13、统相同或相似的系统和网络运行环境，安装了应用系统业务定期备份数据。一旦发生灾难，直接使用定期备份数据，手工逐笔或自动批量追补孤立数据或将终端用户通过通讯线路切换到备份系统，恢复业务运行。优点：设备投资较少，通信环境要求不高。缺点：恢复时间长，一般要十几个小时至数天，数据完整性与一致性较差。(3)热备份备份处于联机状态，当前应用系统通过高速通信线路将数据实时传送到备份系统，保持备份系统与当前应用系统数据的同步；也可定时在备份系统上恢复应用系统的数据。一旦发生灾难，不用追补或只需追补很少的孤立数据，备份系统可快速接替生产系统运行，恢复营业。优点：恢复时间短，一般几十分钟到数小时，数据完整性与一致性
14、最好，数据丢失可能性最小。缺点：设备投资大，通信费用高，通信环境要求高，平时运行管理较复杂。在计算机服务器备份和恢复中，冷备份服务器（cold server）是在主服务器丢失的情况下才使用的备份服务器。冷备份服务器基本上只在软件安装和配置的情况下打开，然后关闭直到需要时再打开。温备份服务器（warm server）一般都是周期性开机，根据主服务器内容进行更新，然后关机。经常用温备份服务器来进行复制和镜像操作。热备份服务器（hot server）时刻处于开机状态，同主机保持同步。当主机失灵时，可以随时启用热备份服务器来代替。对于关键的业务，Primeton 建议采用同城热备异地热备的方式进行部署
15、，对于一般性的业务，建议采用同城热备异地温备（应用不启动，数据保持异步复制）的方式进行部署。1.4.2 数据复制技术目前数据复制技术主要有如下表所列 4 种，基于红色字体部分的要求，结合客户的需要，Primeton 推荐采用基于存储或者基于应用程序的数据复制技术来进行数据同步。存储系统数据复制基于存储的数据复制 虚拟存储技术操作系统层数据复制 应用程序层数据复制基本原理数据的复制过程通过本地的存储系统和远端的存储系统之间的通信完成。复制技术是伴随着存储局域网的出现引入的，通过构建虚拟存储上实现数据复制。通过操作系统或者数据卷管理器来实现对数据的远程复制。数据库的异地复制技术，通常采用日志复制功
16、能，依靠本地和远程主机间的日志归档与传递来实现两端的数据一致。平台要求 同构存储与平台无关，需要增加专有的复制服务器或带有复制功能的 SAN 交换机同构主机、异构存储 与平台无关复制性能 高 高 高 较高资源占用对生产系统存储性能有影响 对网络要求高对生产系统主机性能有影响 占用部分生产系统数据库资源技术成熟度成熟 成熟度有待提高，非主流复制技术。 成熟 成熟投入成本 高，需要同构存储 较高，需要专有设备 较高，需要同构主机一般部分软件免费，如 DataGuard复制软件IBM PPRCEMC SRDFHP CA（Continues Access）HDS TrueCopyBrocade Tap
17、estry DMMUIT SVMEMC VSM原厂技术：IBM AIX LVMHP-UINX MirrorDiskSun Solaris SVM专业的复制软件：Symantec SF/VVROracle DataGuardOracle GoldenGateDNT IDRDSG RealSyncQuest SharePlex1.4.3 重复数据删除技术重复数据删除技术是指将存储系统中存在的大量内容相同的数据删除，只保留其中一份，从而缩减存储空间的技术。在云灾备中，该技术既能大幅减少灾备中心存储的数据量，降低灾备中心的建设和运维成本，又能大幅减少数据备份和恢复过程中用户和灾备提供商间的数据传输量，
18、提高备份和恢复的性能，是一项十分重要的技术。随着灾备中心的规模不断增大，存储的数据量和访问量不断增加，单一节点上的重复数据删除方法已不能满足性能和容量的需求。除上述基本重复数据删除技术外，一些优化和改进技术对云灾备是至关重要的，包括高性能、可扩展的、分布式的重复数据删除技术，以及为提高灾备中心数据可靠性的高可靠重复数据删除技术。1.4.4 操作系统虚拟化技术 除了数据级的灾备，还应提供系统级的灾备。即在将数据复制到云端的同时，也将受保护的应用程序的状态复制到云端，当灾难发生时可以立即切换到云端的应用程序运行，保证业务连续性。系统级灾备是通过操作系统虚拟化和检查点实现的。检查点用来捕获进程某一时
19、刻的运行状态，从而实现进程迁移。进程迁移既可以是用户应用程序进程到云灾备中心的迁移，也可以是云灾备中心内部的虚拟机池间进程迁移，以实现根据前端用户的需求自动地调节灾备服务提供商有限的硬件与软件资源，动态地、弹性的反应前端业务对灾备的需求。当程序因故障中断，如果不能保留其中间运行状态，恢复后从头运行将会带来极大的消耗。检查点技术能够解决这个问题。通过保留各个进程的运行状态，恢复时能够复原到最近一次保留的数据映像。传统的检查员机制是基于库的检查点机制。例如以静态库的形式实现，或通过加载动态链接库来追踪程序运行过程中的数据变化。也有一些检查点机制实现于内核级别甚至硬件级别。例如通过在文件系统层之上引
20、入一个中间层来实现保留文件系统状态的检查点机制；或者借助 Fuse 内核模块实现的支持检查点机制的文件系统，通过 Fuse 侦测、拦截内核级别的文件系统操作并将控制权传递给用户，从而能够在用户空间对文件系统状态进行保留。随着操作系统虚拟化技术的发展，基于虚拟容器的检查点技术也得到了很好的应用。虚拟容器是通过系统虚拟化技术构建出来的一个进程运行的较独立的上下文环境。虚拟容器检查点技术能够有效保护容器内运行的应用程序和服务而不需要对应用进行修改。1.5 总体架构设计1.5.1Primeton“两地三中心”容灾解决方案架构设计结合近年国内出现的大范围自然灾害，以同城双中心加异地灾备中心的“两地三中心”的灾备模式也随之出现，这一方案兼具高可用性和灾难备份的能力。1.5.1.1“两地三中心 ”本地高可用和容灾保护策略（1）本地保护策略： 本地高可用 本地 clone 持续数据保护
