美文网首页性能优化
Nginx 多进程架构和惊群问题

Nginx 多进程架构和惊群问题

作者: 黄洪清 | 来源:发表于2016-04-19 16:06 被阅读1984次

Nginx 多进程架构是:一个master进程和多个worker 进程。
一个worker 通过非阻塞式论询,可维护数千个连接,多个worker共享一个监听套接字.

Master进程

顾名思义,老板进程,主要负责有轻而巧的工作.
主要通过进程间通信对工人进程发号施令或是处理来自bash的start,stop,reload等用户指令。

Worker 进程

顾名思义,工人进程,主要负责重而笨的工作,主要负责处理来自浏览器的连接。
网站高并发情况下,巨大的工作负荷都是压到工人进程,老板进程在一旁观看指挥。

在TCP Socket 服务开发中,多进程或多线程共享监听套接字时面临惊群问题.

  1. 对于主流的linx版本, accept 阻塞调用,已经不存在惊群问题.
    也就是说多个进程同时accept 同一个 监听套接字,只有一个进程获的连接.

  2. 对于epoll_wait 非阻塞式的创建连接方式, 存在惊群问题。(即:一个连接请求唤醒多个worker 进程).

Nginx 在linux系统中使用epoll_wait 非阻塞式的方式,存在惊群问题。

浏览器的请求连接不经过master进程,直接由worker 进程处理,
但是一个请求如何分配到特定的worker进程?

  1. nginx 默认的配置accept_mutex on;
    多个worker 进程通过争锁获得连接,同时只有一个worker获得连接。
    工人进程抢着活干(让我来,别和我争)
  2. accept_mutex off
    一个连接请求唤醒多个worker 进程,同时只有一个worker获得连接。
    存在惊群问题,由于nginx 的worker 进程数量不大,这个惊群问题影响不大。
    少了争锁,这个配置高并发时可提高系统的响应能力。
  3. 开启SO_REUSEPORT选项: reuseport
http {
        server {
          listen 80 reuseport;
          server_name  localhost;
          ...
     }
}

SO_REUSEPORT选项,是Linux 内核3.9+处理大并发连接的新特性。
开启后,连接请求通过linux内核分配到worker 进程,性能最好。
此选项的系统需求:
Nginx 1.9.1+
DragonFly BSD/Linux 内核3.9+

参考:
http://blog.csdn.net/Marcky/
https://www.nginx.com/blog/socket-sharding-nginx-release-1-9-1/

相关文章

  • Nginx 多进程架构和惊群问题

    Nginx 多进程架构是:一个master进程和多个worker 进程。一个worker 通过非阻塞式论询,可维护...

  • Epoll之惊群

    惊群可以参考:“惊群”,看看nginx是怎么解决它的 1. 什么是惊群: 多线程/多进程(linux下线程进程也没...

  • Nginx解决子进程“惊群”问题

    只有打开了accept_mutex锁,才可以解决“惊群”问题。何谓“惊群”?就像上面说过的那样,master...

  • Nginx的原理和使用

    nginx架构 nginx使用多进程的方式来工作,nginx启动后会有一个master进程和多个worker进程,...

  • 关于accept mutex获取的方式

    问题背景 在多进程accept的时候,为了避免惊群效应浪费资源,nginx加了一个accept mutex,但是获...

  • Nginx

    Nginx的编译安装(Linux) Nginx部署 Nginx的架构 nginx进程管理:信号

  • nginx如何解决惊群效应

    本文主要内容包括惊群效应简介、nginx如何解决惊群和一个仿照nginx避免惊群效应的简单例子 惊群效应 惊群简单...

  • 转载:Nginx从听说到学会(3.进程模型)

    转载:Nginx从听说到学会(3.进程模型) 进程模型 众所周知,nginx性能高,而nginx的高性能与其架构是...

  • 探索惊群 ①

    惊群比较抽象,类似于抢红包 ?。它多出现在高性能的多进程/多线程服务中,例如:nginx。 探索惊群 系列文章将深...

  • 常见nginx常用模块和模块的使用示例

    一、Nginx的程序架构: master: 一个master进程:负载加载和分析配置文件、管理worker进程、平...

网友评论

  • 小灰灰1999:reuseport配置在server中,生效是全局配置,还是仅该server才生效?例如存在多个server,一个配置了reuseport,另外一个server没有配置,那么是只有匹配到配置了的server才生效,还是都会生效呢
    小灰灰1999:reuseport是全局配置

本文标题:Nginx 多进程架构和惊群问题

本文链接:https://www.haomeiwen.com/subject/ygzrlttx.html