gitbook/高楼的性能工程实战课/docs/377229.md
2022-09-03 22:05:03 +08:00

13 KiB
Raw Permalink Blame History

28 | 如何确定异常场景的范围和设计逻辑?

你好,我是高楼。

在性能的领域中,异常场景一直都处在薄弱的环节,大家都觉得异常场景应该做,但是又不知道怎么做才能把异常问题覆盖全面。

异常范围之所以比较难确定,是因为有很多问题都被归纳到了“异常”中,比如说高可用、可靠性、灾备等等。当然,也有些企业把这部分归纳到非功能中来做,因此在性能的项目中就不会有异常场景了。

在我的RESAR性能工程理论中异常场景是必须要做的这主要是因为异常场景需要压力背景。

既然要做异常场景,我们具体该怎么做?测试哪些问题才能将异常场景覆盖完整?这就需要我们明确两个关键点:一是异常场景的范围,二是异常场景的设计逻辑。

因此,在这节课中,我们就来看看如何确定异常场景的范围和设计逻辑。

异常场景的范围

在以前的异常场景中,基本上采用的是宕主机、断网络、宕应用这几种测试手段。此外,从主机、网络、应用等视角出发,还会有一些细分操作,比如说:

  • 主机断电、reboot、shutdown等
  • 网络ifdown命令关网卡、模拟抖动丢包延时重传等
  • 应用kill、stop等。

上述这些操作在当前新的技术架构中仍然有效,只不过现在会有更多的细分操作。因为现在微服务的应用多了之后,又多出了几层,比如虚拟机层、容器层、网关层等等。我在这里画一张图,大概罗列一下异常场景测试的不同角度:

关于做异常场景的范围和时机,有两个话题也一直在争论:

  • 异常场景到底应不应该放到性能项目中完成?
  • 异常场景到底包括什么样的内容?

对于第一个问题,我是这样考虑的:不管是代码逻辑验证、功能验证、还是性能验证,我们只要模拟出真实的异常场景,都会有异常场景的细分。在当前的测试市场中,有很多企业也确实这样做了,这是一个好现象。而这些异常场景需要在有压力背景的前提下进行,所以它应该放到性能项目中来完成。

因为如果把这一类场景放在其他阶段完成,像脚本、参数、监控等这些工作都要重复做。如果还需要不同的团队共同完成,那成本显然会增加。

对于第二个问题,你可能会感到奇怪,上面那张图不是已经把异常场景包含的内容全都列出来了吗?这里怎么还要提呢?这主要是因为在技术市场中,有很多不同的声音和视角,一些人觉得在异常场景中也还应该包含高可用、可靠性、可扩展、可伸缩、稳定性等内容。

其实,对于这些技术名词,我们很多时候都似懂非懂,感觉自己知道是怎么一回事,但是又抓不住重点。就拿可靠性为例,可靠性在实施的过程中,我们能想到的就是一个系统在一定的时间和条件下无故障地运行。可是,既然如此,那“稳定性”又是什么呢?我们知道,稳定性是指在规定的一定长的时间内系统无故障运行。

咦,怎么看起来意思差不多?“可靠性”和“稳定性”到底有啥区别呢?在我看来,稳定性包括在了可靠性之内。

我这么一说,你应该就明白了,在当前技术市场中,虽然有很多人提出了不同的视角,但是,如果我们把这些视角对应的落地步骤罗列一下,你就会发现,它们都能落在我刚才讲的这张图里。

因此,请你记住,在异常场景中,我们只要包含图中的这些内容就足够了。

异常场景的设计逻辑

从逻辑上来说,异常场景的设计主要分为两步:

  • 分析架构:把技术架构中的组件全部列出来,并分析可能产生异常的点。

  • 列出异常场景:根据分析的异常点设计对应的场景。

这样的逻辑看起来并不复杂,如果我们只从组件级来考虑,那就可以设计通用的异常场景了。但是,如果从业务逻辑异常的视角来看,就没有通用的异常场景了,我们需要针对不同业务设计不同的异常场景。

不过,在性能领域中,大部分人对异常场景没有什么设计套路,都是跟着感觉走的,而且即便是遵循上述这两个步骤设计异常场景,也必然会涉及到一个问题:异常场景覆盖得全不全?

对于这个问题,我建议你在异常场景的设计逻辑中参考FMEA失效模型的逻辑因为FMEA至少是一套有逻辑的设计思路可以让我们有章可循

FMEA在性能行业中使用率并不高大家对它基本上处于不明就理的状态。在我深入了解了FMEA之后觉得它作为一套分析失效模型的方法策略可以被应用在性能项目的异常场景设计中。因此如何把FMEA借鉴到异常场景中是我们接下来要讨论的一个问题。

我在这里先给你简单介绍一下FMEA。

FMEA是一套做事的逻辑它最初被用于战斗机的操作系统设计分析中后来又被广泛应用于航天、汽车、医疗、微电子等领域。

FMEA是Failure Mode&Eeffect Criticality Analysis的缩写中文含义是潜在失效模型或影响的严重等级分析它又分为DFMEA、PFMEA和FMEA-MSR

  • DFMEA也就是Design FMEA是针对设计阶段的潜在失效模式分析
  • PFMEA是指Process FMEA它针对的是过程
  • FMEA-MSR是“FMEA for Monitoring and System Response”的缩写也就是“监控和系统响应”的意思它通过分析诊断监控和系统响应MSR来维护功能安全。

FMEA的这三个细分采用的逻辑是一致的只是针对的阶段和关键点不同而已。

如今在IT技术圈中也不乏有人尝试在软件系统中落地。在FMEA中最重要的就是下面这样的表格你在网上也经常能看到。

我解释一下表格中的“RPN”它是Risk Priority Number的缩写意思是风险系数、风险优先级。RPN是“严重度 S”、“频度 O”、“探测度 D”三个的乘积。至于表格中其他的名词你看了字就能大概理解我在这里就不多啰嗦了。

看到这样的表格你是不是觉得它很难在IT架构中使用其实在异常场景具体落地的时候我们可以根据自己的理解把表格做一些变化

我在表格中加了一个“系统”列,这是因为一些项目有多个系统。当然,你也可以不加这一列,把整个表格命名为某系统的表格。至于其他名词,我只是做了相应的调整,并没有改变原有的表结构。

在我们填写这张表格之前有一点我要说明一下。在FMEA中严重度、频率、探测度需要各自分级并且都分为110这10个等级。下面我大概列一下这三个方面不同级别的含义。请你注意我只是描述相对通用的内容尽量不和业务挂勾。

  • 严重度S

  • 频率O

  • 测试度D

对于你自己的系统,不一定要完全照搬上面表格中对等级标准的划分,不过,逻辑还是可以借鉴的。

现在,我给你举一个异常用例,来看看严重度、频率和探测度这三个角度具体是怎么落地的:

对应着这张表格,你应该知道怎么列出你自己的异常场景了。

请你注意即便你想用FMEA来设计异常场景我在这节课一开始画的那张图仍然是不可或缺的因为那是这张表格的输入条件之一。也就是说在填写这张表格之前,我们一定要清楚在异常场景中测试哪些内容,这一点非常重要。

不过有了这张表格以及严重度、频率和探测度的10个等级之后异常场景一下子就变得复杂了。因为PRN有太多的可能性具体算下来的话应该有10X10X10=1000种PRN值。

如果我们把系统中的全部异常场景都列出来那就得按PRN的值从上到下挨个执行了。假设PRN为1000的场景有10个PRN为9001000的场景有20个........这样一个一个数下去,都要吐了对不对?

记得之前我跟一个IT经验非常丰富的朋友聊天我们说到写异常用例这个话题。他说如果让他来设计异常用例针对一个系统设计出上万甚至更多的用例基本不在话下。然后我说“那你设计的这些异常用例在生产上出现的概率是多少呢如果系统运行到寿终正寝都没出现这些情况那要这些用例有什么用呢

通过这段对话,你可以思考一个问题:我们是不是非得把自己系统的异常场景弄这么复杂呢?

当然不是其实我们可以做简化比如说把等级减少。我们在前面讲到在FMEA中严重度、频率和探测度分别都定义了10级那对于系统的异常场景我们定义三四个等级就可以了。如果你要较真觉得三四个等级不合适的话那你可以根据自己系统的情况来用这个逻辑具体怎么用就要看你系统的重要性有多高了。

总体来说FMEA是一套非常完整的逻辑它的第四版白皮书就有130多页你要是有兴趣可以去看看。

其实在FMEA落地到异常场景测试的过程中套用FMEA并不复杂复杂的是如何制定S、O、D。因为在具体制定的时候并不像我在前面列出三个表格那么简单它需要拿系统的逻辑来进行详细分析。

接下来我就得摆摆观点了,请你记住,**对任何一套方法论逻辑的落地实施,都不要过度使用,而要注意合理使用。**从我接触过的老外的思路和逻辑来看他们很喜欢弄一些RESEARCH方面的功能并延伸出一套理念然后拿着这套理念就可以忽悠一辈子。

记得在我带过的团队中有一个老外是一个年轻小伙他一直在做缺陷管理员的工作也就是天天去追Bug的修复进度。有一天他找我说想离职我问他“那你想干什么呢”他说“我想做RESEARCH”。我继续问“那你想研究个啥呢”他回答说“我还没想好但是我想做RESEARCH。”他说的时候似乎觉得RESEARCH是一个挺高端的事业。我微微一笑说“行那你去吧。”

我讲这一段不是说FMEA也是没有经过深思熟虑的方法论而是想说**我们在看待外来的理念时,一定要保持冷静,至于哪里的月亮更圆更亮,取决于时间。**对于FMEA在性能中的应用我们同样也要理智地使用。同时我们也应该有自己完整的思维能力。

因此我建议你在异常场景设计时可以参考FMEA中的逻辑把不适用的部分给清理掉设计出符合自己系统的失效模型。而我们这节课的描述也只是给你一个思路因为授人以鱼不如授人以渔才是我的初衷。

上述内容就是我针对异常场景的设计所做的尽可能全面的描述了。请注意其关键点不是FMEA而是上文中的异常场景范围图。

可是,叭叭地讲了这么多,如果不落地,实在不符合我的风格。所以,我们还是要有具体的操作实例的。在下节课中,我们就按照这节课一开始画的视角,做几个实际的案例来看一看,异常场景具体该怎么执行。

总结

针对异常场景,在性能行业中各有各的看法,并且谁都说服不了谁,这就导致每个企业做的异常场景范围都不一样。同时,行业中又有很多关于混沌测试、非功能测试的不同说法。因此,异常场景一直都没有在性能项目中固定下来。

在RESAR性能工程理念中对于有压力背景的异常场景来说,我觉得性能人员来完成它,是责无旁贷的。

通过这节课,我想告诉你的就是异常场景的范围应该有多大,以及设计的逻辑应该是怎样的。有了这些内容之后,异常场景的覆盖率就会足够全,并且也有章可循了。

课后作业

最后,我给你留两道题,请你思考一下:

  1. 你做过哪些异常场景设计?说说你的设计思路。
  2. 你遇到过什么样的异常问题,请举例说明一下。

记得在留言区和我讨论、交流你的想法,每一次思考都会让你更进一步。

如果你读完这篇文章有所收获,也欢迎你分享给你的朋友,共同学习进步。我们下一讲再见!