记一次PHP并发性能调优实战 -- 性能提升104%

作者: PHP9年架构师 | 来源:发表于2020-09-15 14:57 被阅读0次

适合阅读人群

文中的调优思路无论是php, java, 还是其他任何语言都是用. 如果你有php使用经验, 那肯定就更好了业务背景框架及相应环境

laravel5.7, mysql5.7, redis5, nginx1.15
centos 7.5 bbr
docker, docker-compose
阿里云 4C和8G

问题背景

php已经开启opcache, laravel也运行了optimize命令进行优化, composer也进行过dump-autoload命令. 首先需要声明的是, 系统的环境中是一定有小问题的(没有问题也不可能能够提升如此大的性能), 但是这些问题, 如果不通过使用合适的工具, 可能一辈子也发现不出来. 本文关注的就是如何发现这些问题, 以及发现问题的思路. 我们首先找到系统中一个合适的API或函数, 用来放大问题. 这个api设计之初是给nginx负载均衡做健康检查的. 使用ab -n 100000 -c 1000 进行压测, 发现qps只能到140个每秒. 我们知道Laravel的性能是出了名的不好, 但是也不至于到这个程度, 从api的编写来看不应该这么低. 所以决定一探究竟.

public function getActivateStatus()

</pre>

{

</pre>

try {

</pre>

$result = \DB::select('select 1');

</pre>

$key = 1;

</pre>

if ( $result[0]->$ key !== 1) {

</pre>

throw new \Exception("mysql 检查失败");

</pre>

}

</pre>

} catch (\Exception $exception) {

</pre>

\Log::critical("数据库连接失败: { $exception->getMessage()}",$ exception->getTrace());

</pre>

return \response(null, 500);

</pre>

}

</pre>

try {

</pre>

Cache::getRedis()->connection()->exists("1");

</pre>

} catch (\Exception $exception) {

</pre>

\Log::critical("缓存连接失败: { $exception->getMessage()}",$ exception->getTrace());

</pre>

return \response(null, 500);

</pre>

}

</pre>

return \response(null, 204);

</pre>

}

</pre>

10年架构师领你架构-成长之路-（附面试题（含答案））

（腾讯T3-T4）打造互联网PHP架构师教程目录大全，只要你看完，薪资立马提升2倍（持续更新）

点击与我交流企鹅群

问题表现以及排查思路

top top命令发现系统CPU占用100% 其中用户态占80%, 内核态占20%, 看起来没什么大问题. 有一个地方看起来很奇怪, top命令的运行结果

[图片上传失败...(image-a42d6f-1600151724202)]

就是有一部分php-fpm进程处在Sleep状态, 但CPU占用还是达到了近30%. 当一个进程处于Sleep状态的时候, 任然占用了不少CPU, 先不要怀疑是不是进程的问题, 我们看一下Ttop命令的man page.

%CPU -- CPU usage

</pre>

The task's share of the elapsed CPU time since the last screen update, expressed as a percentage of total CPU time.

</pre>

大致意思是这个占用是最后一次屏幕刷新的时候, 进程CPU的占用. 由于top命令收集信息的时候, 可能linux把这个进程强制调度了 ( 比如用于top收集进程信息 ), 所以在这一瞬间(屏幕刷新的这一瞬间)某些php-fpm进程处于sleep状态, 可以理解, 所以应该不是php-fpm的问题. pidstat 首先选出一个php-fpm进程, 然后使用pidstat查看进程详细的运行情况

[图片上传失败...(image-3630b-1600151724202)]

过程中也没发现什么异样, 并且和top命令的运行结果也基本一致. vmstat 保持压测压力, 运行vmstate查看, 除了context switch (上下文切换)有点高之外, 并没有看到太多异常. 由于我们使用的docker, redis, mysql都运行在同一台机器上, 7000左右的CS还是一个合理的范围, 但是这个IN(中断)就有点太高了, 达到了1.4万左右. 一定有什么东西触发了中断.

[图片上传失败...(image-50ab32-1600151724202)]

我们知道中断有硬中断和软中断, 硬中断是由网卡, 鼠标等硬件发出中断信号, cpu马上停下在做的事情, 处理中断信号. 软中断是由操作系统发出的, 常用于进程的强制调度. 不管是vmstat还是pidstat都只是新能探测工具, 我们无法看到具体的中断是由谁发出的. 我们通过/proc/interrupts 这个只读文件中读取系统的中断信息, 获取到底是什么导致的中断升高. 通过watch -d命令, 判断变化最频繁的中断.

perf record -g

</pre>

perf report -g

</pre>

感谢大家一直来支持，这是我准备的1000粉丝福利

【1000粉丝福利】10年架构师分享PHP进阶架构资料，助力大家都能30K

[图片上传失败...(image-bdfea8-1600151724202)]

我们发现其中Rescheduling interrupts变化的最快, 这个是重调度中断（RES），这个中断类型表示，唤醒空闲状态的CPU 来调度新的任务运行。这是多处理器系统（SMP）中，调度器用来分散任务到不同 CPU的机制，通常也被称为处理器间中断（Inter-Processor Interrupts，IPI）。结合vmstat中的命令, 我们可以确定造成qps不高的原因之一是过多的进程争抢CPU导致的, 我们现在还不能确定具体是什么, 所以还需要进一步的排查. strace strace可以查看系统调用, 我们知道, 当使用系统调用的时候, 系统陷入内核态, 这个过程是会产生软中断的, 通过查看php-fpm的系统调用, 验证我们的猜想

[图片上传失败...(image-f295c5-1600151724202)]

果然, 发现大量的stat系统调用, 我们猜想, 是opcache在检查文件是否过期导致的. 我们通过修改opcache的配置, 让opcache更少的检查文件timestamp, 减少这种系统调用 opcache.validate_timestamps="60" opcache.revalidate_freq="0" 复制代码再次执行ab命令进行压测

[图片上传失败...(image-2b05aa-1600151724202)]

果然qps直接涨到了205, 提升非常明显, 有接近 46% 的提升 perf 现在任然不满足这个性能, 希望在更多地方找到突破口. 通过 perf record -g perf report -g 复制代码看到系统的分析报告

[图片上传失败...(image-ba704-1600151724202)]

我们看到, 好像这里面有太多tcp建立相关的系统调用(具体是不是我还不清楚, 请大神指正, 但是看到send, ip, tcp啥的我就怀疑可能是tcp/ip相关的问题). 我们怀疑两种情况

与mysql, redis重复大量的建立TCP连接, 消耗资源
大量请求带来的tcp连接

先说第一个, 经过检查, 发现数据库连接使用了php-fpm的连接池, 但是redis连接没有, redis用的predis, 这个是一个纯PHP实现, 性能不高, 换成了phpredis: 打开laravel的config/database.php文件, 修改redis的driver为phpredis, 确保本机已安装php的redis扩展. 另外由于Laravel自己封装了一个Redis门面, 而恰好redis扩展带来的对象名也叫Redis. 所以需要修改Laravel的Redis门面为其他名字, 如RedisL5. 再次进行压测

[图片上传失败...(image-517a47-1600151724201)]

达到了喜人的286qps, 虽然和其他主打高性能的框架或者原生php比, 还有很高的提升空间(比如Swoole), 但是最终达到了104%的提升, 还是很有意义的总结我们通过top, 发现系统CPU占用高, 且发现确实是php-fpm进程占用了CPU资源, 判断系统瓶颈来自于PHP. 接着我们通过pidstat, vmstat发现压测过程中, 出现了大量的系统中断, 并通过 watch -d cat /proc/interrupts 发现主要的中断来自于重调度中断（RES) 通过strace查看具体的系统调用, 发现大量的系统调用来自于stat, 猜测可能是opcache频繁的检查时间戳, 判断文件修改. 通过修改配置项, 达到了46%的性能提升最后再通过perf, 查看函数调用栈, 分析得到, 可能是大量的与redis的TCP连接带来不必要的资源消耗. 通过安装redis扩展, 以及使用phpredis来驱动Laravel的redis缓存, 提升性能, 达到了又一次近50%的性能提升. 最终我们完成了我们的性能提升104%的目标

喜欢我的文章就关注我吧，持续更新中.....

以上内容希望帮助到大家，很多PHPer在进阶的时候总会遇到一些问题和瓶颈，业务代码写多了没有方向感，不知道该从那里入手去提升，对此我整理了一些资料，包括但不限于：分布式架构、高可扩展、高性能、高并发、服务器性能调优、TP6，laravel，YII2，Redis，Swoole、Swoft、Kafka、Mysql优化、shell脚本、Docker、微服务、Nginx等多个知识点高级进阶干货需要的可以免费分享给大家，需要的可以点击进入暗号：知乎。

记一次PHP并发性能调优实战 -- 性能提升104%

适合阅读人群

问题背景

问题表现以及排查思路

喜欢我的文章就关注我吧，持续更新中.....

相关文章

网友评论

延伸阅读

深度阅读

栏目导航

热点阅读