美文网首页Srs
SRS单元测试、覆盖率和自动回归怎么做

SRS单元测试、覆盖率和自动回归怎么做

作者: winlinvip | 来源:发表于2021-03-05 07:18 被阅读0次

SRS支持了单元测试、覆盖率分析、自动回归测试。每次提交,每个PullRequest,每次合并,都会触发测试。

这是这么些年一直想做,却一直没时间做的事,是极其重要的事情。

为什么?我们看WebRTC真正的大佬怎么说:

WebRTC PC 最大的一个挑战就是它包含了太多的能力,
。。。,可以发现对它的覆盖率远远不够,即使我们不要求完整覆盖,
而只考虑 “可接受” 的覆盖率,也非常的困难。

我在 RTC 领域中,碰到的最大的挑战之一,就是海量的测试用例。。。
即使要达到 95% 的覆盖也是非常的有挑战的。当然完整的测试非常有帮助,
我们当然也要考虑完整覆盖带来的巨大挑战,真的非常的难。

Bernard Aboba, W3C WebRTC Chair, WebRTC 的现状和未来

目前比较好的开源项目,都会有单元测试和覆盖率,但还比较少有场景化的回归测试,自动回归测试就更少了。RTC由于场景的复杂性,自动回归测试就更加难做了。解释下这几个东西:

  • 单元测试(UTest):白盒测试,测试单元是函数,包括公开函数和私有函数,验证函数的输入和输出。听起来有点傻,这不是自己写代码证明自己的合理性么?能管用吗?如果是认真写的UTest,可以负责任的说,灰常管用;因为函数的输入输出保证,并不仅仅是保障写的时候符合逻辑(又有多少代码真的符合预期?),更重要的是保障后续修改不出错。
  • 覆盖率(Coverage):一般是跑UTest后,看UTest覆盖了多少代码,由于UTest有些逻辑是跑不到的,比如main函数的逻辑,比如网络IO的逻辑(一般UTest要求不依赖系统环境),所以覆盖率不可能达到100%,参考:测试覆盖率,应该多少比较合适?。覆盖率有没有用,可以负责人的说,灰常管用,大部分线上问题都是没有跑到过的路径出现的问题,也就是未覆盖的代码引起的问题。
  • 自动回归测试(Regression):这并没有什么高深的(也有可能是我理解不到位),就是模拟真实场景跑一跑。每次我们改完代码都会把程序跑起来,看看是不是改坏了。问题是在于,如何能把所有功能都跑到,比如直播里面的推流和播放是基本的,还需要加上边缘,考虑录制,还有多种协议,最好是每次提交,都能把这些功能跑一遍。如果是直播和RTC都支持,那就是X2的测试矩阵,比如直播转RTC是否正常。要每次提交都能跑一遍这些功能,证明是符合预期的,其实还是很难做到的,对吧?参考SB: Regression
  • 压力测试(Benchmark):如果想知道某种场景下能支持多少并发,那就需要模拟这个场景,用工具模拟客户端推流和播放,这种就叫压力测试。在性能优化时,也需要做压测,因为所谓性能,是指某个场景下的性能,比如直播的1推5000播放,和监控的5000推流1个随机播放,调用到的函数并不相同,当然性能热点就不同。SRS有流媒体协议的压测工具,参考SB(srs-bench),嗯这是个好名字,对吧?

得益于pion/webrtc,Go实现了完整的WebRTC协议栈,我们很方便使用pion做回归测试。如下图:

CircleCI上,可以看到详细的测试过程,如下图:

CodeCov上,可以看到SRS代码的详细覆盖率,如下图:

如果你是SRS开发者,修改完代码后,也可以手动本机跑UTest,覆盖率,回归测试,下面介绍使用。

Note: 还可以做压力测试,压测工具的使用,参考srs-bench

Coverage

修改代码后,可以本机快速跑UTest和Coverage,只需要执行几个命令就可以跑起来。

如果是macOS,执行下面的命令:

cd ~/git/srs/trunk &&
./configure --osx --gcov=on --utest=on &&
bash auto/fast.sh

如果是Linux,执行下面的命令:

cd ~/git/srs/trunk &&
./configure --gcov=on --utest=on && 
bash auto/fast.sh

也可以用gcovr生成结果:

cd ~/git/srs/trunk &&
./configure --gcov=on --utest=on && 
make && ./objs/srs_utest &&
gcovr -r src --html --html-details -o ./objs/coverage/srs.html objs/src

如何安装gcovr请参考安装GCOVR

最终生成文件objs/coverage/srs.html,可以在Chrome打开:

如果只关注某个模块的覆盖,比如kernelprotocol模块,可以直接跑两个模块的覆盖率:

bash auto/fast.sh kernel protocol

下面是手动跑回归测试。

Regression Test

修改代码后,也可以本机跑回归测试。最新的更新请移步SB: Regression

回归测试需要先启动SRS,支持WebRTC推拉流:

if [[ ! -z $(ifconfig en0 inet| grep 'inet '|awk '{print $2}') ]]; then 
  docker run -p 1935:1935 -p 8080:8080 -p 1985:1985 -p 8000:8000/udp \
      --rm --env CANDIDATE=$(ifconfig en0 inet| grep 'inet '|awk '{print $2}')\
      registry.cn-hangzhou.aliyuncs.com/ossrs/srs:v4.0.76 objs/srs -c conf/rtc.conf
fi

然后运行回归测试用例,如果只跑一次,可以直接运行:

go test ./srs -mod=vendor -v

也可以用make编译出重复使用的二进制:

make test && ./objs/srs_test -test.v

运行结果如下:

$ make test && ./objs/srs_test -test.v
=== RUN   TestRTCServerVersion
--- PASS: TestRTCServerVersion (0.00s)
=== RUN   TestRTCServerPublishPlay
--- PASS: TestRTCServerPublishPlay (1.28s)
PASS

可以给回归测试传参数,这样可以测试不同的序列,比如:

go test ./srs -mod=vendor -v -srs-server=127.0.0.1
# Or
make test && ./objs/srs_test -test.v -srs-server=127.0.0.1

支持的参数如下:

  • -srs-server,RTC服务器地址。默认值:127.0.0.1
  • -srs-stream,RTC流地址。默认值:/rtc/regression
  • -srs-log,是否开启详细日志。默认值:false
  • -srs-timeout,每个Case的超时时间,毫秒。默认值:3000,即3秒。
  • -srs-play-pli,播放时,PLI的间隔,毫秒。默认值:5000,即5秒。
  • -srs-play-ok-packets,播放时,收到多少个包认为是测试通过,默认值:10
  • -srs-publish-audio,推流时,使用的音频文件。默认值:avatar.ogg
  • -srs-publish-video,推流时,使用的视频文件。默认值:avatar.h264
  • -srs-publish-video-fps,推流时,视频文件的FPS。默认值:25

其他不常用参数:

  • -srs-https,是否连接HTTPS-API。默认值:false,即连接HTTP-API。

相关文章

  • SRS单元测试、覆盖率和自动回归怎么做

    SRS支持了单元测试、覆盖率分析、自动回归测试。每次提交,每个PullRequest,每次合并,都会触发测试。 这...

  • 如何模拟各种罕见场景,照亮服务器的暗角落

    SRS使用pion/webrtc[https://github.com/pion/webrtc]做RTC的自动回归...

  • 代码覆盖度之jacoco

    目的 a. 度量单元测试覆盖率; b. 度量自动化测试(接口、UI)覆盖率; c. 度量功能测试覆盖率; 代码覆盖...

  • Android开发之逻辑单元测试

    单元测试的必要性 完整,规范的单元测试有利于提升程序的“自动化”验证 降低后期程序的维护成本 高覆盖率的单元测试在...

  • 单元测试

    我们都知道,持续交付的流程包括如下几个步骤,开发 -> 单元测试(覆盖率) -> 合并代码 -> 集成测试(自动化...

  • 单元测试(三)

    一. 单元测试覆盖率&调试测试代码 1.1 查看单元测试覆盖率打开开源项目SYTimer,如下图所示 开源项目SY...

  • Jacoco统计web接口/功能测试的代码覆盖率

    一、代码覆盖率 通常我们在做单元测试的时候会接触到代码覆盖率的概念,通过在单元测试的过程中收集代码覆盖率去判断测试...

  • 提高单元测试覆盖率的意义与价值

    什么是单元测试覆盖率 ? 单元测试覆盖率是一种软件测试的度量指标,指在所有功能代码中,完成了单元测试的代码所占的比...

  • python代码覆盖度统计之coverage.py

    目的 本次研究代码覆盖率主要是为了度量自动化用例执行、功能测试、单元测试对代码的覆盖范围。从而保证项目质量。 代码...

  • 增量代码覆盖率工具

    背景 当存量代码较多时,项目单元测试整体覆盖率就会偏低,但这可能是正常现象,因此不能依据已有的全量单元测试覆盖率来...

网友评论

    本文标题:SRS单元测试、覆盖率和自动回归怎么做

    本文链接:https://www.haomeiwen.com/subject/gdckqltx.html