美文网首页
服务三高

服务三高

作者: alexgu | 来源:发表于2021-06-14 13:06 被阅读0次

    三高定义

    高并发、高性能、高可用

    1.1高并发与高性能的关系

    高并发指的是机器的并发连接数。如果静态的看待,就是一个时间点下面服务能容纳的最大链接数。如果动态的看待,就是一段时间下连接总数。

    高性能则是侧重在处理业务的速度上,耗时越少,性能越好。

    从概念上面来说这两个注重的侧重面不一样
    例如阻塞io方式实现服务,低并发+高性能的服务,得到响应的速度很快,但可能无法接受大量的并发请求。

    大部分时候我们优化性能,并发数也能得到提升,从指标上我们更关注吞吐量与时延
    连接数受到资源的限制,例如使用更大的内存,可以一定程度上提高连接数。但是随着连接数上升,处理业务所占用的cpu时间越多,分配给建立连接的cpu时间变少,这时再扩大内存也无法进一步提高连接数。这时我们选用性能更好,核数更多的cpu,提升处理服务性能,腾出更多的cpu时间去建立连接,就反作用的提升了并发连接数,提高了整体的吞吐量

    单服务器下大部分时候单纯的提高连接数却对整体性能,吞吐量提升有限,例如我们加大内存条,让机器能接受更多的连接资源,会导致更大的锁冲突,和更多的线程切换成本,导致性能下降,整体的性能无法突破瓶颈。当然在分布式的情况下采用服务的水平扩展来提高连接数

    1.2三高的一般手段

    作为程序员,抛开硬件优化不谈,我们一般关注单服务下的吞吐量与时延,和分布式下引进的各种问题和解决方案

    提升程序吞吐量与时延手段:原则上减少用户态与内核态的切换,减少cpu的切换,提高cpu执行效率,io效率,提高网络通信效率

    分布式:有状态服务,无状态服务,服务治理等各种问题 服务三高.png

    相关文章

      网友评论

          本文标题:服务三高

          本文链接:https://www.haomeiwen.com/subject/uktoeltx.html