[kubernetes]部署一套三节点的k8s集群

本文主要参考https://blog.51cto.com/3241766/2405624,用于记录成功部署的过程

环境情况:

主机名	操作系统	主机ip地址
master	CentOS Linux release 7.2.1511	192.168.110.11
node2	CentOS Linux release 7.2.1511	192.168.110.22
node3	CentOS Linux release 7.2.1511	192.168.110.33

前言：

　　本文通过kudeadm方式在centos7.2上安装kubernetes v1.14.2集群，分为六个部分操作：

• docker安装
• k8s安装准备工作
• master节点安装
• node节点安装
• dashboard安装

一、Docker安装

所有节点都需要安装docker

1. 安装依赖包

[root@centos7 ~]# yum install -y yum-utils device-mapper-persistent-data lvm2

2. 设置docker源

[root@centos7 ~]# yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo

3. 安装docker-ce

docker的安装版本选择为18.09.6,这个版本安装是成功的

[root@centos7 ~]# yum install docker-ce-18.09.6 docker-ce-cli-18.09.6 containerd.io -y 

4. 启动docker

[root@centos7 ~]# systemctl start docker
[root@centos7 ~]# systemctl enable docker

5. 命令补全

安装命令补全包,用于命令行操作时双击tab,自动提示

[root@centos7 ~]# yum -y install bash-completion && source /etc/profile.d/bash_completion.sh

6. 镜像加速

docker默认的镜像源下载速度较慢,配置国内的aliyun镜像网站,加快镜像下载的速度

[root@centos7 ~]# mkdir -p /etc/docker
[root@centos7 ~]# tee /etc/docker/daemon.json <<-'EOF'
{
  "registry-mirrors": ["https://v16stybc.mirror.aliyuncs.com"]
}
EOF

配置完成后,需要重新加载文件,并重启docker服务

[root@centos7 ~]# systemctl daemon-reload
[root@centos7 ~]# systemctl restart docker

7. 验证

[root@centos7 ~]# docker --version
Docker version 18.09.6, build 481bc77156

二、k8s安装准备工作

安装的centos是已经禁用了防火墙(firewalld)和selinux,配置了阿里云的yum源;master和node节点都需要执行本部分操作内容。

1. 配置主机名

更改主机名,此处更改的是master节点,其他node类似修改

[root@centos7 ~]# hostnamectl set-hostname master

 修改/etc/hosts文件

[root@master ~]# cat >> /etc/hosts << EOF
192.168.110.11 master
192.168.110.22 node2
192.168.110.33 node3
EOF

2. 验证mac地址uuid

要求mac地址和uuid号不同,在使用克隆虚拟机测试部署时,需要注意对比; 保证各节点mac和uuid唯一

[root@master ~]# cat /sys/class/net/ens33/address
[root@master ~]# cat /sys/class/dmi/id/product_uuid

3. 禁用swap

[root@master ~]# swapoff -a && sed -i.bak '/swap/s/^/#/' /etc/fstab

4. 内核参数修改

[root@master ~]# cat <<EOF >  /etc/sysctl.d/k8s.conf
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
EOF
[root@master ~]# sysctl -p /etc/sysctl.d/k8s.conf

5. 修改cgroup driver

修改daemon.json，新增‘"exec-opts": ["native.cgroupdriver=systemd"’

[root@master ~]# more /etc/docker/daemon.json
{
  "registry-mirrors": ["https://v16stybc.mirror.aliyuncs.com"],
  "exec-opts": ["native.cgroupdriver=systemd"]
} 

加载文件,重启docker生效

[root@master ~]# systemctl daemon-reload && systemctl restart docker

 修改cgroupdriver是为了消除告警：
[WARNING IsDockerSystemdCheck]: detected "cgroupfs" as the Docker cgroup driver. The recommended driver is "systemd". Please follow the guide at https://kubernetes.io/docs/setup/cri/

6. 设置kubernetes源

新增k8s.repo文件

[root@master ~]# cat <<EOF > /etc/yum.repos.d/k8s.repo
[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64/
enabled=1
gpgcheck=1
repo_gpgcheck=1
gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
EOF 

节点重新生成缓存

[root@master ~]# yum clean all && yum -y makecache

三、Master节点安装

1. 版本查看

本次安装的kubernetes版本为1.14.2,需要先检查源中是否包含这个版本

[root@master ~]# yum list kubelet --showduplicates | grep 1.14.2
kubelet.x86_64                       1.14.2-0                        kubernetes

2. 安装kubelet、kubeadm和kubectl

安装三个软件包,分别为kubelet,kubeadm,kubectl

[root@master ~]# yum install -y kubelet-1.14.2 kubeadm-1.14.2 kubectl-1.14.2

• kubelet 运行在集群所有节点上，用于启动Pod和容器等对象的工具
• kubeadm 用于初始化集群，启动集群的命令工具
• kubectl 用于和集群通信的命令行，通过kubectl可以部署和管理应用，查看各种资源，创建、删除和更新各种组件

启动服务,并设置开机自启

[root@master ~]# systemctl enable kubelet && systemctl start kubelet

设置自动补全

3. 下载镜像

Kubernetes几乎所有的安装组件和Docker镜像都放在goolge自己的网站上,直接访问可能会有网络问题，这里的解决办法是从阿里云镜像仓库下载镜像，拉取到本地以后改回默认的镜像tag,脚本如下; 在节点上执行该脚本

[root@master ~]# more image.sh 
#!/bin/bash
url=registry.cn-hangzhou.aliyuncs.com/google_containers
version=v1.14.2
images=(`kubeadm config images list --kubernetes-version=$version|awk -F '/' '{print $2}'`)
for imagename in ${images[@]} ; do
  docker pull $url/$imagename
  docker tag $url/$imagename k8s.gcr.io/$imagename
  docker rmi -f $url/$imagename
done

4. 初始化master

[root@master ~]# kubeadm init --apiserver-advertise-address 192.168.110.11 --pod-network-cidr=10.244.0.0/16

apiserver-advertise-address指定master的interface，pod-network-cidr指定Pod网络的范围，这里使用flannel网络方案。

将命令输出结果的最后一行保存下来,用于其他节点加入该集群,内容类似如下:

[root@master config]# more join_cluster 
kubeadm join 192.168.110.11:6443 --token z562f4.rs3yvzplnh3o80zn 
    --discovery-token-ca-cert-hash sha256:1661c4532d4054a3f312a8f1e2232ef0b19033482aa52ca4e97f574b139e1cf7

 配置环境变量

[root@master ~]# echo "export KUBECONFIG=/etc/kubernetes/admin.conf" >> ~/.bash_profile
[root@master ~]# source .bash_profile

本文所有操作都在root用户下执行，若为非root用户，则执行如下操作：

mkdir -p $HOME/.kube
cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
chown $(id -u):$(id -g) $HOME/.kube/config 

5. 安装pod网络

[root@master ~]# kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml

6. master节点配置 

默认情况下集群不会在master上调度pod，如果偏想在master上调度Pod，可以执行如下操作： 

查看污点：

[root@master ~]# kubectl describe node master|grep -i taints
Taints:             node-role.kubernetes.io/master:NoSchedule 

删除默认污点：

[root@master ~]# kubectl taint nodes master node-role.kubernetes.io/master-
node/master untainted

四、Node节点安装

1. 安装kubelet、kubeadm和kubectl 

同master节点

2. 下载镜像

同master节点

3. 加入集群

在各个node上执行之前保存的join_cluster的命令

[root@master config]# kubeadm join 192.168.110.11:6443 --token z562f4.rs3yvzplnh3o80zn 
    --discovery-token-ca-cert-hash sha256:1661c4532d4054a3f312a8f1e2232ef0b19033482aa52ca4e97f574b139e1cf7

五、dashboard安装

1. 下载使用kubernetes-dashboard.yaml

kubectl apply -f https://raw.githubusercontent.com/kubernetes/dashboard/v2.0.1/aio/deploy/recommended.yaml

2. 配置本地访问dashboard

参照内容: https://github.com/kubernetes/dashboard

master节点执行命令,在master节点能够访问控制台,放在后台执行

[root@master ~]# kubectl proxy &

 配置转发(可以做多层转发),在本地(这里是笔记本电脑)访问dashboard

$ ssh -L 8001:127.0.0.1:8001 -N -f root@192.168.110.11

 笔记本是ubuntu系统,直接在命令行执行以上命令,转发master节点的8001端口

-L: 开启端口转发; local_socket(8001):host(192.168.110.11):hostport(8001)

-N: 远端不执行命令

-f: 将ssh放在后台执行

然后在笔记本浏览器中输入如下地址,访问控制台

http://localhost:8001/api/v1/namespaces/kubernetes-dashboard/services/https:kubernetes-dashboard:/proxy/

3. 新增admin-user用户

参照内容: https://github.com/kubernetes/dashboard/blob/master/docs/user/access-control/creating-sample-user.md

编辑用于新增用户的文件add_user.yml

cat <<EOF > /tmp/add_user.yml
apiVersion: v1                                  # 增加用户admin-user
kind: ServiceAccount
metadata:
  name: admin-user
  namespace: kubernetes-dashboard
---
apiVersion: rbac.authorization.k8s.io/v1        # clusterrolebinding
kind: ClusterRoleBinding
metadata:
  name: admin-user
roleRef:
  apiGroup: rbac.authorization.k8s.io
  kind: ClusterRole
  name: cluster-admin
subjects:
- kind: ServiceAccount
  name: admin-user
  namespace: kubernetes-dashboard
EOF 

加载文件配置

[root@master config]# kubectl apply -f /tmp/add_user.yaml

用户创建成功,权限相关绑定也已经完成

4. 获取admin-user用户token用于登录控制台

执行命令,获取secret

[root@master config]# kubectl -n kubernetes-dashboard describe secret $(kubectl -n kubernetes-dashboard get secret | grep admin-user | awk '{print $1}')

 输出内容大致如下

[root@master ~]# kubectl -n kubernetes-dashboard describe secret $(kubectl -n kubernetes-dashboard get secret | grep admin-user | awk '{print $1}')
Name:         admin-user-token-zckb9
Namespace:    kubernetes-dashboard
Labels:       <none>
Annotations:  kubernetes.io/service-account.name: admin-user
              kubernetes.io/service-account.uid: 11071726-a225-11ea-959c-08002744270a

Type:  kubernetes.io/service-account-token

Data
====
ca.crt:     1025 bytes
namespace:  20 bytes
token:      eyJhbGciOiJSUzI1NiIsImtpZCI6IiJ9.eyJpc3MiOiJrdWJlcm5ldGVzL3NlcnZpY2VhY2NvdW50Iiwia3ViZXJuZXRlcy5pby9zZXJ2aWNlYWNjb3VudC9uYW1lc3BhY2UiOiJrdWJlcm5ldGVzLWRhc2hib2FyZCIsImt1YmVybmV0ZXMuaW8vc2VydmljZWFjY291bnQvc2VjcmV0Lm5hbWUiOiJhZG1pbi11c2VyLXRva2VuLXpja2I5Iiwia3ViZXJuZXRlcy5pby9zZXJ2aWNlYWNjb3VudC9zZXJ2aWNlLWFjY291bnQubmFtZSI6ImFkbWluLXVzZXIiLCJrdWJlcm5ldGVzLmlvL3NlcnZpY2VhY2NvdW50L3NlcnZpY2UtYWNjb3VudC51aWQiOiIxMTA3MTcyNi1hMjI1LTExZWEtOTU5Yy0wODAwMjc0NDI3MGEiLCJzdWIiOiJzeXN0ZW06c2VydmljZWFjY291bnQ6a3ViZXJuZXRlcy1kYXNoYm9hcmQ6YWRtaW4tdXNlciJ9.gulUhc-oKe7M3AXzBp75vyowiVNtPPpZUJXymMhvk6jyk1CtMkMA-432knTULV0iACpEgGDYrN-IY7PBXVbxMLN6K_eajHQxbmFYx9p_m24Caaya7_dEaoXysy3Cl91NhlofGrGLbQfOBKqZhrNDPAB8XxucDLyAtCAq36K2kmuH_ewm1LTmaV5T2-zNXIWaJGkEQ38cRnATq4NgiMIdkKDxGSiE_9QFWqTzYXXx5_La8v1eRMz425K5p_4Lnue0eqKGf6DUYTYtFO8yYumjLd9E5XPo5PzohKiLKMrr6FfLmIYEgDzqKeFXijpHCDJ4SfGAZrbSNBpYS9jzh4hzog

复制token行内容就可以用于登录控制台了