美文网首页网络
【tcp】RT 过长,排查思路

【tcp】RT 过长,排查思路

作者: Bogon | 来源:发表于2022-05-27 00:02 被阅读0次

大多数人应该听过一道经典的面试题:请详细地说出从浏览器地址栏输入 url 到最终呈现出结果的过程,越详细越好,为什么面试官这么喜欢问这道题呢,因为这个题涉及的面非常广,知识点非常多,如果你能完全吃透,非常有助于排查一些疑难杂症。

今天我要分享的这个 case 就是个典型,废话不多说,进入正题。

前端同学发现新开发的项目接口有 1/3 概率出现 RTT(请求往返时间)大于 3 s 的情况,以登录接口为例,Chrome 请求所花时间如下:

image

正常的 RTT 在几十 ms 左右,所以 3s 这个时延肯定不正常,于是着手排查,由于每个接口都可能超过 3s,所以下文皆以登录接口分析为例,因为登录接口逻辑相对比较简单。

  1. 排除浏览器本身的问题

估计大家看到这种问题马上就断定是 server 的问题,立马开始着手排查 server 的问题,不急,我们要先把浏览器本身可能导致请求缓慢的问题给排除了,浏览器本身可能因为「请求最大并发数量限制」,「更高优先级的请求插队,低优先级的任务被延后」等原因导致请求缓慢

为了排除浏览器本身造成的网络请求过慢,我们最好找一个其它的浏览器比如 Safari 或者终端 curl 请求来再重试下这个请求,看下请求是否依然缓慢,这里我两个方法都试了,用 Safari 也重现了 RTT 大于 3s 的情况。

用 curl 在终端请求也发现了 RTT 大于 3s 的情况,如何使用 curl 请求呢,这里提醒一下,大家千万不要傻傻地去构建一个 curl 请求,浏览器的网络请求本身可以导出成 curl 的形式的,在「network」中点击网络请求,选中「Copy as cURL」,就可获取此请求的 curl 表示方式

image

获得 curl 请求后,对此请求稍加改造,加上如下 -o,-s, -w 选项

$ curl -o /dev/null -s -w  \
"time_connect: %{time_connect} \n \
 time_starttransfer: %{time_starttransfer} \n \
 time_nslookup:%{time_namelookup} \n \
time_total: %{time_total} \n" \
https://www.example.com

这里对几个参数简要作下说明:
-o /dev/null 屏蔽原有输出信息,-s 静默模式,不输出任何东西,-w %{http_code} 控制额外输出。

请求后会出现类似以下的结果

time_connect: 0.045897
time_starttransfer: 3.064762
time_nslookup:0.004328
time_total: 3.064777

前面几个参数就不多做说明了,一般我们只要关心最后一个 time_total 参数即可,表示请求花费的全部时间。

从流量的流转路径着手了,客户端发出请求要经过哪些流程才能到达后端服务?

image.png

可以看到请求需要经过反向代理层,接入层后才能到达我们的站点层(即我们的 Spring MVC 服务),也就是说从「反向代理层到接入层」及「接入层到站点层」都可能导致请求缓慢,于是我把我用 arthas trace 执行的结果(MVC 服务执行时间 80ms 左右)与前端请求有 1/3 的概率超过 3s 的结论告诉了运维,让他们排查一下从反向代理层到站点层这中间是否有啥问题,不一会儿果然查出了问题。

结论是这样的:本来 MVC 服务的机器有三台,后来缩容了一台,变成了两台,但接入层 kongfu 依然持有这台被缩容的机器 ip,没有将其踢掉,所以前端流量打进来后,由于接入层的负载均衡策略,请求是有 1/3 的概率打到这台下线机器的 ip 上的,由于这个 ip 对应的机器无法响应这个请求,等到超时后,kongfu 会重试把这个请求打到另外正常的两台机器中的任意一台,也就是说请求 3s 中的大部分时间花在了等待那台不正常的 ip 机器响应上了。

image.png

有人可能会问,机器被踢掉了,接入层 kongfu 应该是能检测其下线的吧,怎么还会给这台下线的机器发请求呢?

是的,kongfu 会通过端口检测来检测机器是否存活的,但问题是,这台被缩容的机器虽然被回收了,但它的 ip 也是可以重新被分配给其他机器的,这种情况下 kongfu 通过端口检测就会认为它持有的 ip 对应的机器是存活的,而这台被分配此 ip 的机器又刚好不是 Spring MVC 服务,那正常 MVC 请求打给它的话,它就无法处理了,只能等到请求超时再由 kongfu 重试转发给正常的机器。

有人可能会好奇,运维是怎么查出来的呢,通过 「curl -I www.example」的形式可以输出开头信息,然后加上 -b 选项可以带上 cookie,我们的接入层如果发现请求里带有某些特殊的 cookie 会返回一个名为「X-KF-Via」的头字段,如下:

X-KF-Via: agw(bip=10.65.x.1:8001,10.65.x.2:8001;b=mvc_service)

这个头字段表示,请求 mvc_service 服务总共请求了两台机器,第一台 10.65.x.1 未成功后,再接着重试 10.65.x.2:8001,所以由此可以排查出 10.65.x.1 这台机器有问题,所以你看熟悉系统架构有多重要,如果我早知道有这么一个选项,就可以一步到位排查出此问题了.

知道了问题所在,处理方案就很简单了,直接把这台有问题的机器从 kongfu 摘掉就行了!

排查的思路其实相对比较清晰,但一定要对请求的整个流转流程有一个比较清醒的认识,这样才能快速判断出问题所在,现在再回头看下开头的那道经典面试题「请详细地说出从浏览器地址栏输入 url 到最终呈现出结果的过程,越详细越好」,相信你会颇有感触,这道面试题如果你对请求流转的每个点都吃透得话,将极大地提升你排查解决问题的能力,举个例子,之前就有人反馈这样的一个问题:

在做 Server 压力测试时发现,客户端给服务器不断发请求,并接受服务器端的响应。
发现接收服务器响应的过程中,会出现 recv 服务器端响应,阻塞 40ms 的情况,但是查看 server 端日志,Server 都在 2ms 内将请求处理完成,并给客户端响应

如果你了解 TCP,就知道它是由于 TCP 的延迟确认机制和 Nagle 算法及拥塞控制导致的,自然而然就会朝着这个方向 去解决了,比如打开 TCP_NODELAY 选项等。

参考

RT 过长,排查思路
https://bestxf.blog.csdn.net/article/details/118193092

记录线上RT规律性增长问题排查
https://www.jianshu.com/p/0c0e5c438116

浏览器、 postman操作和curl命令互转
https://www.jianshu.com/p/a6310e0fd290

用curl查看http请求各阶段响应时间
https://www.jianshu.com/p/1f6e21e75841

相关文章

  • 【tcp】RT 过长,排查思路

    大多数人应该听过一道经典的面试题:请详细地说出从浏览器地址栏输入 url 到最终呈现出结果的过程,越详细越好,为什...

  • 内存溢出

    服务器内存直接升高首先确认排查问题的思路: 查看日志 查看CPU情况 查看TCP情况 查看java线程,jstac...

  • 记一次TCP全队列溢出问题排查过程

    简介:记一次TCP全队列溢出问题排查过程 1. 前言 本文排查的问题是经典的TCP队列溢出问题,因TCP队列问题在...

  • 网络故障排查

    查看一个硬件网卡网络排查思路1.ping本地回环口, 确定本机TCP/IP协议栈是否正常2.ping本机IP地址,...

  • 一次办公网络故障排查

    前言 现象 思路 排查 反思与后续:

  • Linux下tcp socket通信优化与问题排查

    Linux下tcp socket通信优化与问题排查 @Date 2018.12.09 一. 优化 1. TPC接收...

  • 服务启动过程性能波动的分析与解决方案

    1、前言 本文仅分享自己在工作中遇到的问题时的解决方案和思路,以及排查的过程。重点还是分享排查的思路,知识点其实已...

  • Java问题排查整理

    Java问题排查工具箱 问题排查解决思路,逻辑推导工具 日志相关工具日志的标准化to be continued.....

  • 环境慢排查思路

    1 使用free -m 查看内存情况 2 top 查看cpu使用情况 3 ping 一下看丢包率情况 4 使用ta...

  • CPU异常排查思路

    CPU异常通常有如下几个原因: 业务逻辑问题(死循环) 频繁GC 上下文切换较多 其中, 业务逻辑问题可以使用js...

网友评论

    本文标题:【tcp】RT 过长,排查思路

    本文链接:https://www.haomeiwen.com/subject/gsikprtx.html