美文网首页我爱编程
kubernetes ConfigMap实现研究

kubernetes ConfigMap实现研究

作者: 玩家翁伟 | 来源:发表于2018-05-28 11:03 被阅读471次

ConfigMap的实现

在k8s中,ConfigMap是由apiserver存储在etcd中:

  • ConfigMap存储在Registry
  • Registry的使用generic的storage
  • generic storage backend便是etcd
    • 其实还带有缓存

pod创建的时候:

可以看到,配置值源头是存储在etcd中,但会经过apiserverkubeletpod环境变量等多个层次传递,而其中又有缓存等机制,因此实际上难以做到对配置值的实时更新。

具体也可以参考蚂蚁金服宋净超写的Kubernetes HandbookConfigMap的热更新一节:

更新 ConfigMap 目前并不会触发相关 Pod 的滚动更新,可以通过修改 pod annotations 的方式强制触发滚动更新。

更新 ConfigMap 后:

* 使用该 ConfigMap 挂载的 Env 不会同步更新
* 使用该 ConfigMap 挂载的 Volume 中的数据需要一段时间(实测大概10秒)才能同步更新

ENV 是在容器启动的时候注入的,启动之后 kubernetes 就不会再改变环境变量的值,且同一个 namespace 中的 pod 的环境变量是不断累加的,参考 Kubernetes中的服务发现与docker容器间的环境变量传递源码探究。为了更新容器中使用 ConfigMap 挂载的配置,需要通过滚动更新 pod 的方式来强制重新挂载 ConfigMap。

ConfigMap的考量

ConfigMap的优势是在于运维可以更加全面的管理配置信息,并通过环境变量、命令行参数、映射文件等方式传递配置给应用,而不需要应用做任何修改;通过使用ConfigMap应用对于配置中心的存在可以完全无感知。

对于没有源码控制的程序,如nginx、redis等,ConfigMap是蛮不错的选择。

但对于我们能够控制源码的程序,则应该可以通过对应用代码修改,来进一步发挥配置中心的能力。

k8s实现代码参考

代码嵌套调用较多,这里就不一一注释了。


// https://github.com/kubernetes/kubernetes/blob/5f578f33855f1848a10fdf22c0f27e8a69b3cbb8/pkg/kubelet/kubelet.go#L550

configMapManager := configmap.NewCachingConfigMapManager(
        kubeDeps.KubeClient, manager.GetObjectTTLFromNodeFunc(klet.GetNode))
klet.configMapManager = configMapManager

// https://github.com/kubernetes/kubernetes/blob/7909712ca574c536901bc7858dfbf72a3a6ee7dd/pkg/kubelet/configmap/configmap_manager.go#L117

func NewCachingConfigMapManager(kubeClient clientset.Interface, getTTL manager.GetObjectTTLFunc) Manager {
    getConfigMap := func(namespace, name string, opts metav1.GetOptions) (runtime.Object, error) {
        // 这里的kubeClient.CoreV1 是
        // https://github.com/kubernetes/kubernetes/tree/e40ffd71972b820aeed283946e880aa2479f8524/staging/src/k8s.io/client-go/kubernetes/typed/core/v1
        return kubeClient.CoreV1().ConfigMaps(namespace).Get(name, opts)
    }
    configMapStore := manager.NewObjectStore(getConfigMap, clock.RealClock{}, getTTL, defaultTTL)
    return &configMapManager{
        manager: manager.NewCacheBasedManager(configMapStore, getConfigMapNames),
    }
}

// v1的configmap实现
// https://github.com/kubernetes/kubernetes/blob/e40ffd71972b820aeed283946e880aa2479f8524/staging/src/k8s.io/client-go/kubernetes/typed/core/v1/configmap.go#L64

// Get takes name of the configMap, and returns the corresponding configMap object, and an error if there is any.
func (c *configMaps) Get(name string, options meta_v1.GetOptions) (result *v1.ConfigMap, err error) {
    result = &v1.ConfigMap{}
    err = c.client.Get().
        Namespace(c.ns).
        Resource("configmaps").
        Name(name).
        VersionedParams(&options, scheme.ParameterCodec).
        Do().
        Into(result)
    return
}

// https://github.com/kubernetes/kubernetes/blob/master/pkg/kubelet/util/manager/cache_based_manager.go#L74

func NewObjectStore(getObject GetObjectFunc, clock clock.Clock, getTTL GetObjectTTLFunc, ttl time.Duration) Store {
    return &objectStore{
        getObject:  getObject,
        clock:      clock,
        items:      make(map[objectKey]*objectStoreItem),
        defaultTTL: ttl,
        getTTL:     getTTL,
    }
}

// https://github.com/kubernetes/kubernetes/blob/e40ffd71972b820aeed283946e880aa2479f8524/pkg/client/listers/core/internalversion/configmap.go#L85

func (s configMapNamespaceLister) Get(name string) (*core.ConfigMap, error) {
    obj, exists, err := s.indexer.GetByKey(s.namespace + "/" + name)
    if err != nil {
        return nil, err
    }
    if !exists {
        return nil, errors.NewNotFound(core.Resource("configmap"), name)
    }
    return obj.(*core.ConfigMap), nil
}

// https://github.com/kubernetes/kubernetes/blob/master/pkg/apis/core/types.go#L4277

type ConfigMap struct {
    metav1.TypeMeta
    // +optional
    metav1.ObjectMeta
}

相关文章

网友评论

    本文标题:kubernetes ConfigMap实现研究

    本文链接:https://www.haomeiwen.com/subject/hcwwjftx.html