阿里巴巴最火的技术：k8s基于Ingress-nginx实现灰度

前言

Ingress-Nginx是一个K8S ingress工具，支持配置Ingress Annotations来实现不同场景下的灰度发布和测试。 Nginx Annotations 支持以下几种Canary规则：

Nginx ingress annotations

假设我们现在部署了两个版本的服务，老版本和canary版本

nginx.ingress.kubernetes.io/canary-by-header：基于Request Header的流量切分，适用于灰度发布以及 A/B 测试。当Request Header 设置为 always时，请求将会被一直发送到 Canary 版本；当 Request Header 设置为 never时，请求不会被发送到 Canary 入口。

nginx.ingress.kubernetes.io/canary-by-header-value：要匹配的 Request Header 的值，用于通知 Ingress 将请求路由到 Canary Ingress 中指定的服务。当 Request Header 设置为此值时，它将被路由到 Canary 入口。该

nginx.ingress.kubernetes.io/canary-weight：基于服务权重的流量切分，适用于蓝绿部署，权重范围 0 - 100 按百分比将请求路由到 Canary Ingress 中指定的服务。权重为 0 意味着该金丝雀规则不会向 Canary 入口的服务发送任何请求。权重为60意味着60%流量转到canary。权重为 100 意味着所有请求都将被发送到 Canary 入口。

nginx.ingress.kubernetes.io/canary-by-cookie：基于 Cookie 的流量切分，适用于灰度发布与 A/B 测试。用于通知 Ingress 将请求路由到 Canary Ingress 中指定的服务的cookie。当 cookie 值设置为 always时，它将被路由到 Canary 入口；当 cookie 值设置为 never时，请求不会被发送到 Canary 入口。

部署服务

这里我们服务的 deployment 就不展示了，service 配置如下

# 测试版本

apiVersion:v1

kind:Service

metadata:

name:hello-service

labels:

app:hello-service

spec:

ports:

-port: 80

protocol:TCP

selector:

app:hello-service

#canary版本

apiVersion:v1

kind:Service

metadata:

name:canary-hello-service

labels:

app:canary-hello-service

spec:

ports:

-port: 80

protocol:TCP

selector:

app:canary-hello-service

根据权重转发

ingress 配置如下：

apiVersion: extensions/v1beta1

kind:Ingress

metadata:

name: canary

annotations:

kubernetes.io/ingress.class: nginx

nginx.ingress.kubernetes.io/canary:"true"

nginx.ingress.kubernetes.io/canary-weight:"30"

spec:

rules:

-host: canary-service.abc.com

http:

paths:

-backend:

serviceName: canary-hello-service

servicePort:80

测试结果如下：

$foriin$(seq 1 10);docurl http://canary-service.abc.com;echo'\n'; done

hello world-version1

hello world-version1

hello world-version2

hello world-version2

hello world-version1

hello world-version1

hello world-version1

hello world-version1

hello world-version1

hello world-version1

根据请求头转发

annotation 配置如下（ingress 其余部分省略）

annotations:

kubernetes.io/ingress.class: nginx

nginx.ingress.kubernetes.io/canary:"true"

nginx.ingress.kubernetes.io/canary-by-header:"test"

测试结果如下:

$foriin$(seq 1 5);docurl http://canary-service.abc.com;echo'\n'; done

hello world-version1

hello world-version1

hello world-version1

hello world-version1

hello world-version1

$foriin$(seq 1 5);docurl -H'test:always'http://canary-service.abc.com;echo'\n'; done

hello world-version2

hello world-version2

hello world-version2

hello world-version2

hello world-version2

根据特定的请求头和值转发

annotation 配置如下:

kubernetes.io/ingress.class: nginx

nginx.ingress.kubernetes.io/canary:"true"

nginx.ingress.kubernetes.io/canary-by-header:"test"

nginx.ingress.kubernetes.io/canary-by-header-value:"abc"

测试结果如下：

$foriin$(seq 1 5);docurl -H'test:always'http://canary-service.abc.com;echo'\n'; done

hello world-version1

hello world-version1

hello world-version1

hello world-version1

hello world-version1

$foriin$(seq 1 5);docurl -H'test:abc'http://canary-service.abc.com;echo'\n'; done

hello world-version2

hello world-version2

hello world-version2

hello world-version2

hello world-version2

根据 cookie 转发

使用cookie来进行流量管理的场景比较适合用于A/B test，比如用户的请求 cookie 中含有特殊的标签，那么我们可以把这部分用户的请求转发到特定的服务进行处理。annotation 配置如下:

kubernetes.io/ingress.class: nginx

nginx.ingress.kubernetes.io/canary:"true"

nginx.ingress.kubernetes.io/canary-by-cookie:"like_music"

测试结果如下：

$foriin$(seq 1 5);docurl -b'like_music=1'http://canary-service.abc.com;echo'\n'; done

hello world-version1

hello world-version1

hello world-version1

hello world-version1

hello world-version1

$foriin$(seq 1 5);docurl -b'like_music=always'http://canary-service.abc.com;echo'\n'; done

hello world-version2

hello world-version2

hello world-version2

hello world-version2

hello world-version2

三种annotation按如下顺序匹配

canary-by-header > canary-by-cookie > canary-weight

总结

我们从以上的测试结果来看，可以把流量的转发分成以下两类：

1.根据权重

nginx.ingress.kubernetes.io/canary:"true"

nginx.ingress.kubernetes.io/canary-weight:"30"

70%

|------> 生产版本

users --- 100% ---> Nginx Ingress ----|  30% 

  |------> canary 版本

2.根据用户

nginx.ingress.kubernetes.io/canary:"true"

nginx.ingress.kubernetes.io/canary-by-header:"test"

nginx.ingress.kubernetes.io/canary-by-header-value:"abc"

others

|-----------> 生产版本

users ------> Nginx Ingress ------|"test:abc"

|-----------> canary 版本