设备软件可靠性测试（上） 可靠性, 软件, 能力, 评估

Bazinga

检验设备软件在各种条件下可实现持续运行状态，以及评估设备从故障中恢复正常服务所需要的时间和其他影响，就是软件可靠性测试主要涉及的课题。
设备为达到连续可运行目标，除了在硬件设计中考虑器件可连续无故障运行外，很重要的方面是软件在各种条件下可经受考验，持续工作。这需要在实现基本功能前提下，在软件中设计一系列容错性逻辑去保证。
为全面评估软件容错性和故障恢复能力，测试需要制造或模拟一系列条件，包括内部硬件故障条件、外部恶意攻击条件、偶发过载条件、软件资源耗尽条件、周边环境故障条件以及长时间正常负荷持续运行模拟。为了在产品开发的不同阶段组织针对性测试，这些测试行为又被明确定义并归类。
测试分类
1、协议健壮性测试
协议健壮性测试是为了找出特定协议的具体实现代码的弱点。是一种以破坏性手段去尝试运行软件的行为，通过用户接口的异常输入，使用异常协议消息交互引导软件进入未定义或未保护的状态。
对软件系统而言，合法输入组合以外的输入往往超出正常输入的组合，软件运行中总会遇到一些预期之外的输入。因此，软件需要有严格的合法性检查才能避免进入未知状态。协议健壮行测试的目标就是尽可能找出软件保护不周的问题。
在软件测试的早期阶段进行的参数边界值测试就属于健壮性测试的一部分。比如一个用户接口接受1-100的整数输入，那么1和100就是合法边界，大于100和小于1的输入都是非法输入。其他非整数型的输入也属于非法值，包括故意破坏检查输入条件的代码的一些组合（如超长输入值，空输入，格式化字符等）。软件面对的接口除了最终用户可见的部分之外，还有大量的软件组件之间的不可见部分，以及设备之间的通信协议接口。
除了单一输入的简单合法性判断，软件在组合输入和特定状态下可接受输入的定义更为复杂。为确认软件在各种条件下的运行正常，测试需要尝试尽可能多的组合。复杂的通信协议除了定义有逻辑化结构的报文格式，还有一系列的内部状态，要测试人员完全手工方式遍历这些状态，并且构造所有可能的异常组合输入条件是无法想象的，因此需要专用的测试工具和仪器专门检测软件对各种协议变异报文的处理。目前，商用化的测试工具已经很多，比如IxDefend协议健壮性测试套件和Mu Dynamics的fuzzing测试套件是比较强大的。为了达成在特定状态下注入错误，测试套件需要先完成一些合法的交互过程，使被测目标达到预设状态，然后再注入异常。复杂的协议需要事先配置很多参数去达成这种交互，而变异输入的变化和组合数量非常庞大，一个复杂协议经常达到几十万甚至上百万的测试用例，尽管有自动化测试工具，这种测试运行也要耗费大量的时间。因此，对参数的调整是测试需要关注的一个重要方面。
从系统测试的角度，观测协议健壮性的测试结果是比较困难的，一般是从系统外部观察整机是否存在异常，正在被测试的协议功能有没有停止响应，正常用户请求是否得到及时处理，设备的性能有没有下降。最容易被观测到现象是系统死锁或重启，系统性能变化或主要功能异常也能被及时发现。而一些细微的功能异常或资源耗费，很容易被测试人员忽视，在这里，测试工具也无能为力。
以IxDefend测试TLS-Server举例。
完成测试仪器与被测试设备的物理连接，并且将端口配置IP地址，开启TLS-Server服务。
通过测试仪器的GUI控制界面装入TLS Server测试套件，如图1所示。
配置TLS Server测试所需要的参数，包括被测试设备IP、TLS服务端口、超时时间等，如图2所示。

点击开始按钮启动测试运行。
测试运行期间，仪器会发送事先定义好的各种异常组合，并检查设备对这些报文的响应。一旦被测试设备失去任何响应，就记录为一次失败，并持续尝试下面的测试用例。如图3所示的是一个真实的运行记录，设备在某项测试运行后发生异常，该项目被标记为红色。测试人员可以根据该记录重现问题，并将设备异常信息一并提交给开发定位具体原因。


图1 IxDefend选择测试套件


图2 IxDefend配置TLS-Server套件运行参数


图3 IxDefend运行结果统计
2、硬件故障模拟测试
通常，判断软件行为是否正常的先决条件之一是其是否运行在正确的硬件环境之下，因为硬件故障对软件产生的影响往往是致命的和不可预测的。在实际情况中，越是造价昂贵且承担重要任务的硬件系统，其硬件的复杂度越高，故障率也更高。为了提高系统的可靠性，硬件在设计上会使用冗余器件的方式（比如多个电源、多个风扇、多个交换网板、多个主控板），但在很多情况下，硬件替换做不到对软件透明，需要依赖软件检测并采取一系列措施。此外，软件还需要设计足够的容错性去隔离硬件错误的影响范围。在非关键器件停止工作之前，软件需要尽可能保证系统其它功能不受影响。
对测试人员而言，了解软件对硬件的依赖，通过制造或模拟硬件器件故障检验软件行为的合理性，是可靠性测试的一个重要环节。硬件故障测试的目标就是观测和评估软件在硬件失效时的反映，找出预期与实际结果之间的差距。在测试有备份硬件系统的产品时，测试人员往往使用硬件拔出槽位，命令重启等方式验证备份机制的有效性。然而，这还远远不够。设备在实际运行条件下器件被拔出只是一种维护行为，很多情况下是在连续运行过程中，器件突然失效。测试人员需要验证这些情况，以确认软件设计的故障检测机制和容错机制的真实有效性。
由于硬件系统的具体情况不同，每个器件的故障形式和直接影响不同，是否有规避方案需要具体分析。软件对硬件可用性的依存度往往很高，因此硬件故障测试的结果经常具有很大的争议性。对测试结果的分析和判断比测试设计和执行更为重要。

现有的测试手段中，最直接的方式是通过改动硬件线路或干预数字信号制造故障。此外，可以通过软件加入调试命令，对一些关键器件的状态进行修改，设置为非法的状态来模拟故障。
3、压力测试
任何设备或系统都是在一定的工作负荷下完成其功能。如果外部加入的工作负担超过其最大能力，系统效能会下降甚至是停止工作。这是一种与可用性相背离的特性，却是任何系统的必然属性。很多重要系统是通过增加硬件成本，人为降低承诺指标来缓解这一问题，然而事实上都存在一个能力极限，除非输入子系统进行了硬性限制。
为了提高设备的性价比，一般软件系统不会设定承载能力的硬性约束，因此，设备都会面对超负荷工作的场景。软件设计力争减少超负荷运行的负面效应，使系统在合理压力下能够正常运作是可靠性的一个重要考量。虽然用户不会要求设备能在超负荷的工作环境下连续稳定运行，但在真实网络中，负荷波动是无法避免的，短时间的超载运行不应该导致灾难性的后果。
事实上，压力除了令系统的计算能力经受考验，也会使系统内的很多资源被软件进程占用；如果压力消除以后，这些资源不能被充分释放和回收，经受过压力的系统将无法完全恢复正常的工作能力。
压力测试就是通过制造设备的超载负荷，模拟设备在真实环境下可能遇到的场景。一台网络设备会有很多负载指标，验证各个指标的超载工作能力是一项繁杂的测试工作。除了观测压力下设备的反应，在负荷恢复到承诺指标范围内之后，系统完全达到正常工作状态的能力和恢复时间也是用户关心的指标。这些高负载的测试一般都要依赖专用的测试仪器来模拟。
一般在设备规格会写明产品支持的IP路由表容量、最大转发数据流量、ARP或MAC地址容量等指标。测试的工作就是把被测试设备与测试仪器连接，通过仪器构造与规格指标相同或略低的一项负载，再制造一个10%左右的异常波动冲击被测设备，并观察被测设备在加载超载负荷前、负荷中和恢复到初始设定负荷之后的实际表现。。
不受压力影响和能快速恢复的设备是可能被制造出来的，但是代价是必然提高硬件和软件成本。因此一个合理的可接受的压力反应和恢复时间，往往需要根据用户的使用场景和可承受成本综合考虑。
4、内存耗尽测试
与硬件发生故障类似，软件所要面对的另一种是情况是资源枯竭。因为软件要流畅地运行需要依赖很多外部资源，其中包括：内存、定时器、队列、文件句柄、Socket等等。这些资源中最关键的就是内存，因为很多资源不足可以等待，内存短缺会导致立即的操作失败。一个复杂的软件系统内存资源都是动态申请和释放的， 在各个处理进程之间动态流转。在突发任务占用大量内存的情况下，其他任务就可能面临资源枯竭。一个良好设计的软件系统需要设定内存门限，一旦内存消耗达到门限会强制一些不重要的任务退出运行而释放资源。而且所有申请内存的任务需要自身设计保护代码，避免没有申请成功时误入歧途。
资源耗尽的情况下软件系统必然会产生一些功能受限的反应，只要这种情况能在资源充足后得到恢复就不构成严重问题。确认系统在资源不足时没有异常反映，合理屏蔽了次要功能，同时确保高优先级进程得到应得的资源就是软件测试所要做的工作。
测试手段通常是启动一些重要的功能和构造动态的运行负荷，然后用调试命令占用内存或启动一些消耗型任务占用内存，以构造资源耗尽的条件，观察被测系统在内存枯竭后的反应，并继续进行操作。最后再通过释放占用的内存来恢复正常条件，观察系统受影响的功能是否自动恢复。