美文网首页K8Slinux相关问题
kubeadm部署Kubernetes集群(规避各坑)

kubeadm部署Kubernetes集群(规避各坑)

作者: pilgrima | 来源:发表于2019-12-26 18:43 被阅读0次
    timg.jpg

    如果kubernetes的版本为1.8-1.11,docker版本必须为1.11.2-1.13.1和docker-ce版本为17.03.x
    如果kubernetes的版本从1.12开始,docker版本必须为17.06/17.09/18.06

    1 环境准备

    1. 三台centos服务器
      master 192.168.32.130
      node1 192.168.32.131
      node2 192.168.32.132
      node3 192.168.32.133

    2. 关闭selinux和firewalld

     setenforce=0
     修改  /etc/selinux/config 中的  SELINUX=disabled
    
     systemctl stop firewalld
     systemctl disable firewalld
    
    1. 这里使用yum安装,需要配置好yum源(这里使用aliyun)
      分别在三台服务器安装相关源
    sudo yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
    
    1添加docker-ce的yum源
    
    
    cat <<EOF > /etc/yum.repos.d/kubernetes.repo
    [kubernetes]
    name=Kubernetes
    baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64/
    enabled=1
    gpgcheck=1
    repo_gpgcheck=1
    gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
    EOF
    
    按照官方文档添加k8s的yum源
    
    1. 打开桥接
    echo 1 > /proc/sys/net/bridge/bridge-nf-call-iptables
    echo 1 > /proc/sys/net/bridge/bridge-nf-call-ip6tables
    

    2 环境部署

    1. 安装相关程序执行
    • master节点
    yum intall -y docker-ce kubelet kubeadm kubectl
    
    • node节点(node节点不操作可以不安装kubectl)
    yum install -y docker-ce kubelet kubeadm 
    
    1. 启动docker并设置开机启动(所有节点)
    systemctl start docker
    systemctl enable docker
    
    1. 设置kubelet开机启动
    systemctl enable kubelet
    
    1. 初始化主节点
    kubeadm init --kubernetes-version=v1.11 --pod-network-cidr=10.244.0.0/16 --service-cidr=10.96.0.0/12 --ignore-preflight-errors=swap
    

    这里设置了初始化的版本,pod的网段,service的网段,可以依据kubeadm init --help自行修改。同时忽略的swap的报错,在初始化的过程中报错可能会中断初始化,可以根据实际情况依据在--ignore-preflight-errors=swap后添加忽略信息忽略。

    初始化成功后会生成提示信息


    按成功提示执行命令(最后一条是当前root用户可不执行)

    mkdir -p $HOME/.kube
    sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
    sudo chown $(id -u):$(id -g) $HOME/.kube/config
    

    保存kubeadm jion信息用于node节点的加入

    可用 kubectl get cs查看健康情况
    可用kubectl get nodes查看节点情况

    1. 主节点安装配置flannel
      Flannel是CoreOS团队针对Kubernetes设计的一个Overlay网络规划服务,简单来说,它的功能是让集群中的不同节点主机创建的Docker容器都具有全集群唯一的虚拟IP地址。项目托管于github上地址https://github.com/coreos/flannel
      Kubernetes v1.7以上可直接使用yml安装
    kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml
    

    安装完成后可使用kubectl get pods -n kube-system查看各系统名称空间组件READY和STATUS情况

    1. 加入node节点
      使用master节点初始化时候产生的kubeadm join命令进行node节点的加入,可以使用--ignore-preflight-errors=swap添加忽略

    安装完成后可使用kubectl get nodes查看各节点加入情况
    可使用kubectl get pods -n kube-system -o wide查看各节点系统名称空间组件READY和STATUS情况

    3. 坑点

    1. 关于swap的忽略
      如果初始化是在 --ignore-preflight-errors=swap上设置了依然报错则需要
    vim /etc/sysconfig/kubelet
    添加KUBELET_EXTRA_ARGS="--fail-swap-on=false"
    
    1. 关于镜像无法加载
      在初始化过程中master节点会下载kube-proxy,kube-controller-manager,kube-apiserver,kube-scheduler,coredns,etcd,pause等一些镜像,现阶段网络可能访问不到,可在报错信息中或者/var/log/message中查看镜像,将文件中镜像地址进行内容替换即可:
      k8s.gcr.io替换为
      registry.cn-hangzhou.aliyuncs.com/google_containers
      registry.aliyuncs.com/google_containers
      mirrorgooglecontainers

    以上三选一
    使用docker pull将下载下来
    然后再使用 docekr tag将镜像打上需要的k8s.gcr.io标签的镜像
    node节点需要的镜像可以通过docker save将master节点的镜像保存拷贝到node节点之后通过docker load -i加载

    或者
    kubeadm init时加上--image-repository=registry.aliyuncs.com/google_containers
    也就是上面的三个镜像仓库地址中的一个都行

    1. K8s集群初始化成功后,kubectl get nodes 查看节点信息时报错
      报错信息:The connection to the server localhost:8080 was refused - did you specify the right host or port?

    解决方法:

    执行以下命令

    mkdir -p $HOME/.kube
    sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
    sudo chown $(id -u):$(id -g) $HOME/.kube/config
    

    再次查看节点信息即正常

    4.解决GitHub的raw.githubusercontent.com无法连接问题

    修改hosts
    sudo vi /etc/hosts
    添加以下内容保存即可 (IP地址查询后相应修改,可以ping不同IP的延时 选择最佳IP地址)

    # GitHub Start
    52.74.223.119 github.com
    192.30.253.119 gist.github.com
    54.169.195.247 api.github.com
    185.199.111.153 assets-cdn.github.com
    151.101.76.133 raw.githubusercontent.com
    151.101.108.133 user-images.githubusercontent.com
    151.101.76.133 gist.githubusercontent.com
    151.101.76.133 cloud.githubusercontent.com
    151.101.76.133 camo.githubusercontent.com
    151.101.76.133 avatars0.githubusercontent.com
    151.101.76.133 avatars1.githubusercontent.com
    151.101.76.133 avatars2.githubusercontent.com
    151.101.76.133 avatars3.githubusercontent.com
    151.101.76.133 avatars4.githubusercontent.com
    151.101.76.133 avatars5.githubusercontent.com
    151.101.76.133 avatars6.githubusercontent.com
    151.101.76.133 avatars7.githubusercontent.com
    151.101.76.133 avatars8.githubusercontent.com
    # GitHub End
    
    1. 没有记token如何加入K8S集群

    a. 生成一条永久有效的token kubeadm token create --ttl 0
    查看token kubeadm token list
    b. 获取ca证书sha256编码hash值
    openssl x509 -pubkey -in /etc/kubernetes/pki/ca.crt | openssl rsa -pubin -outform der 2>/dev/null | openssl dgst -sha256 -hex | sed 's/^.* //'
    c. node节点加入
    kubeadm join 192.168.28.128:6443 --token <token> --discovery-token-ca-cert-hash sha256:<sha256>

    1. 其它问题
      其它问题如果看不出报错的都可以在/var/log/message查看问题
      一些不可达的问题和解析问题基本都是跟/etc/hosts解析相关,需要添加解析信息
      同时跟一些忽略相关的可以通过在--ignore-preflight-errors=上添加忽略信息
      如果显示初始化完成可以使用kubeadm reset重置初始化信息

    相关文章

      网友评论

        本文标题:kubeadm部署Kubernetes集群(规避各坑)

        本文链接:https://www.haomeiwen.com/subject/ikcloctx.html