Kubernetes

kubernetes官网

Kubernetes 是开源的容器编排平台，用于自动化容器化应用的部署、扩展和管理。容器编排系统

Kubernetes 这个名字源于希腊语，意为"舵手"或"飞行员"。k8s 这个缩写是因为 k 和 s 之间有八个字符的关系。

本目录下还有 Kubernetes核心概念（PV/PVC、Secret、Ingress、Workload 资源）和 Kubernetes调度（调度流程、污点容忍、资源限制），可配合阅读。

提示

Kubernetes 是一个可移植的、可扩展的开源平台，用于管理容器化的工作负载和服务，可促进声明式配置和自动化管理。

为什么需要 Kubernetes，它能做什么?

Kubernetes 为你提供了一个可弹性运行分布式系统的框架。 Kubernetes 会满足你的扩展要求、故障转移、部署模式等。 例如，Kubernetes 可以轻松管理系统的 Canary 部署。

Kubernetes 功能：

• 服务发现和负载均衡 Kubernetes 可以使用 DNS 名称或自己的 IP 地址公开容器，如果进入容器的流量很大， Kubernetes 可以负载均衡并分配网络流量，从而使部署稳定。
• 存储编排 Kubernetes 允许你自动挂载你选择的存储系统，例如本地存储、公共云提供商等。
• 自动部署和回滚 你可以使用 Kubernetes 描述已部署容器的所需状态，它可以以受控的速率将实际状态 更改为期望状态。例如，你可以自动化 Kubernetes 来为你的部署创建新容器， 删除现有容器并将它们的所有资源用于新容器。
• 自动完成装箱计算 Kubernetes 允许你指定每个容器所需 CPU 和内存（RAM）。 当容器指定了资源请求时，Kubernetes 可以做出更好的决策来管理容器的资源。
• 自我修复 Kubernetes 重新启动失败的容器、替换容器、杀死不响应用户定义的 运行状况检查的容器，并且在准备好服务之前不将其通告给客户端。
• 密钥与配置管理 Kubernetes 允许你存储和管理敏感信息，例如密码、OAuth 令牌和 ssh 密钥。 你可以在不重建容器镜像的情况下部署和更新密钥和应用程序配置，也无需在堆栈配置中暴露密钥。

Kubernetes 组件

Kubernetes 集群由控制平面组件和节点组件两部分组成，各组件协同工作来实现容器编排。

控制平面组件

控制平面的组件对集群做出全局决策(比如调度)，以及检测和响应集群事件。

kube-apiserver

API 服务器是 Kubernetes 控制面的组件， 该组件公开了 Kubernetes API。 API 服务器是 Kubernetes 控制面的前端。

kube-controller-manager

运行控制器进程的控制平面组件。

这些控制器包括：

• 节点控制器（Node Controller）: 负责在节点出现故障时进行通知和响应
• 任务控制器（Job controller）: 监测代表一次性任务的 Job 对象，然后创建 Pods 来运行这些任务直至完成
• 端点控制器（Endpoints Controller）: 填充端点(Endpoints)对象(即加入 Service 与 Pod)
• 服务帐户和令牌控制器（Service Account & Token Controllers）: 为新的命名空间创建默认帐户和 API 访问令牌

etcd

etcd 是兼具一致性和高可用性的键值数据库，可以作为保存 Kubernetes 所有集群数据的后台数据库。

kube-scheduler

kube-scheduler 是 Kubernetes 集群的默认调度器，并且是集群 控制面 的一部分。

cloud-controller-manager

云控制器管理器使得你可以将你的集群连接到云提供商的 API 之上， 并将与该云平台交互的组件同与你的集群交互的组件分离开来。

Node 组件

节点组件在每个节点上运行，维护运行的 Pod 并提供 Kubernetes 运行环境。

kubelet

kubelet 接收一组通过各类机制提供给它的 PodSpecs，确保这些 PodSpecs 中描述的容器处于运行状态且健康。

kube-proxy

kube-proxy 是集群中每个节点上运行的网络代理， 实现 Kubernetes 服务（Service） 概念的一部分。

kube-proxy 维护节点上的网络规则。这些网络规则允许从集群内部或外部的网络会话与 Pod 进行网络通信。

安装 Kubernetes

准备工作

确保唯一

# 查看主机名
hostname
# 查看网络
ip link
# 或
ifconfig -a
# 查看product_uuid
cat /sys/class/dmi/id/product_uuid

# 一般情况下都会有唯一地址

检查所需端口

控制平面节点

协议	方向	端口范围	作用	使用者
TCP	入站	6443	Kubernetes API 服务器	所有组件
TCP	入站	2379-2380	etcd 服务器客户端 API	kube-apiserver, etcd
TCP	入站	10250	Kubelet API	kubelet 自身、控制平面组件
TCP	入站	10251	kube-scheduler	kube-scheduler 自身
TCP	入站	10252	kube-controller-manager	kube-controller-manager 自身

工作节点

协议	方向	端口范围	作用	使用者
TCP	入站	10250	Kubelet API	kubelet 自身、控制平面组件
TCP	入站	30000-32767	NodePort 服务†	所有组件

其他端口

10248

关闭swap

swapoff -a
sed -ri 's/.*swap.*/#&/' /etc/fstab

允许 iptables 检查桥接流量

cat <<EOF | sudo tee /etc/modules-load.d/k8s.conf
br_netfilter
EOF

cat <<EOF | sudo tee /etc/sysctl.d/k8s.conf
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
EOF
sudo sysctl --system

将 SELinux 设置为 permissive 模式

# 将 SELinux 设置为 permissive 模式（相当于将其禁用）
sudo setenforce 0
sudo sed -i 's/^SELINUX=enforcing$/SELINUX=permissive/' /etc/selinux/config

安装 kubeadm、kubelet 和 kubectl

你需要在每台机器上安装以下的软件包：

• kubeadm：用来初始化集群的指令。
• kubelet：在集群中的每个节点上用来启动 Pod 和容器等。
• kubectl：用来与集群通信的命令行工具。

安装

cat <<EOF | sudo tee /etc/yum.repos.d/kubernetes.repo
[kubernetes]
name=<mark>Kubernetes</mark>
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64/
enabled=1
gpgcheck=1
repo_gpgcheck=1
gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
exclude=kubelet kubeadm kubectl
EOF

sudo yum install -y kubelet kubeadm kubectl --disableexcludes=kubernetes

sudo systemctl enable --now kubelet

无法从 /var/lib/rpm 打开软件包数据库

cd /var/lib/rpm
rm -rf __db.*
rpm --rebuilddb

使用kubeadm引导集群

下载各个机器需要的镜像

sudo tee ./images.sh <<-'EOF'
#!/bin/bash
images=(
kube-apiserver
kube-proxy
kube-controller-manager
kube-scheduler
coredns
etcd
pause
)
for imageName in ${images[@]} ;do
docker pull registry.aliyuncs.com/google_containers/$imageName
done
EOF

chmod +x ./images.sh && ./images.sh

初始化主节点

# 所有机器添加master域名映射,以下需要修改为自己的
echo "39.103.233.115 cluster-endpoint" >> /etc/hosts

#主节点初始化
kubeadm init \
--apiserver-advertise-address=39.103.233.115 \
--control-plane-endpoint=cluster-endpoint \
--image-repository registry.aliyuncs.com/google_containers \
--service-cidr=10.96.0.0/16 \
--pod-network-cidr=192.169.0.0/16

#所有网络范围不重叠

改配置

kubectl -n kube-system edit cm kubeadm-config

如果报错连不上容器

# 解决kubeadm init初始化时dial tcp 127.0.0.1:10248: connect: connection refused

vim /etc/docker/daemon.json

# 里面加一行
{"exec-opts": ["native.cgroupdriver=systemd"]}

# 重启
systemctl daemon-reload
systemctl restart docker
systemctl restart kubelet

# 重新初始化
kubeadm reset

# 再用上面的命令初始化

看到Your Kubernetes control-plane has initialized successfully!

说明初始化成功

保存初始化成功后面的信息,后面要用

To start using your cluster, you need to run the following as a regular user:

  mkdir -p $HOME/.kube
  sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
  sudo chown $(id -u):$(id -g) $HOME/.kube/config

Alternatively, if you are the root user, you can run:

  export KUBECONFIG=/etc/kubernetes/admin.conf

You should now deploy a pod network to the cluster.
Run "kubectl apply -f [podnetwork].yaml" with one of the options listed at:
  https://kubernetes.io/docs/concepts/cluster-administration/addons/

You can now join any number of control-plane nodes by copying certificate authorities
and service account keys on each node and then running the following as root:

  kubeadm join cluster-endpoint:6443 --token aedzgz.zl1pio6oo06k7ajn \
        --discovery-token-ca-cert-hash sha256:eded5d6f262d427e9ef9df1e248e33ba08ec08d9bbceb6a45e6432851af65186 \
        --control-plane

Then you can join any number of worker nodes by running the following on each as root:

kubeadm join cluster-endpoint:6443 --token aedzgz.zl1pio6oo06k7ajn \
        --discovery-token-ca-cert-hash sha256:eded5d6f262d427e9ef9df1e248e33ba08ec08d9bbceb6a45e6432851af65186

重新创建令牌

kubeadm token create --print-join-command

在主节点运行

  mkdir -p $HOME/.kube
  sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
  sudo chown $(id -u):$(id -g) $HOME/.kube/config

主节点安装网络插件

# 下载配置
curl https://docs.projectcalico.org/manifests/calico.yaml -O

# 前面初始化如果pod-network-cidr改了的话,这里配置也要改
- name: CALICO_IPV4POOL_CIDR
  value: "192.169.0.0/16"

# 添加
kubectl apply -f calico.yaml

部署dashboard

kubernetes官方提供的可视化界面

github地址

kubectl apply -f https://raw.githubusercontent.com/kubernetes/dashboard/v2.4.0/aio/deploy/recommended.yaml

修改配置

kubectl edit svc kubernetes-dashboard -n kubernetes-dashboard

修改type:节点值改为NodePort

查看端口

kubectl get svc -A | grep kubernetes-dashboard

访问

https://任意集群ip:端口

创建访问账号

# 创建访问账号 vi dash.yaml
apiVersion: v1
kind: ServiceAccount
metadata:
  name: admin-user
  namespace: kubernetes-dashboard
***



apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:
  name: admin-user
roleRef:
  apiGroup: rbac.authorization.k8s.io
  kind: ClusterRole
  name: cluster-admin
subjects:
- kind: ServiceAccount
  name: admin-user
  namespace: kubernetes-dashboard

kubectl apply -f dash.yaml

获取访问令牌

# 获取访问令牌
kubectl -n kubernetes-dashboard get secret $(kubectl -n kubernetes-dashboard get sa/admin-user -o jsonpath="{.secrets[0].name}") -o go-template="{{.data.token | base64decode}}"

---

使用 Kubernetes

命名空间

命名空间对集群资源进行隔离划分，默认只隔离资源，不隔离网络。

# namespaces 可简写为 ns
kubectl get ns               # 查看命名空间
kubectl create ns hello      # 创建命名空间
kubectl delete ns hello      # 删除命名空间（会一起删除资源）

YAML 方式创建：

apiVersion: v1
kind: Namespace
metadata:
  name: hello

Pod

Pod 是 Kubernetes 中应用的最小调度单位，代表一组共享网络和存储的容器。

kubectl run mynginx --image=nginx    # 创建
kubectl get pod                      # 查看
kubectl describe pod pod名字          # 描述
kubectl delete pod mynginx           # 删除（-n 指定命名空间）
kubectl logs pod名字                  # 查看日志
kubectl get pod -o wide              # 查看 Pod IP 和所在节点

YAML 方式创建：

apiVersion: v1
kind: Pod
metadata:
  labels:
    run: mynginx
  name: mynginx
spec:
  containers:
  - image: nginx
    name: mynginx

网络排查

Kubernetes 使用 Calico 组件实现 Pod 网络。当 Pod 之间无法通信时，使用 calicoctl 工具排查：

# 安装 calicoctl
wget -O /usr/local/bin/calicoctl https://github.com/projectcalico/calicoctl/releases/download/v3.21.2/calicoctl
chmod +x /usr/local/bin/calicoctl

# 查看节点状态
calicoctl node status

# 查看节点数据
calicoctl get node

# 查看 IP 地址池（确认 CIDR 是否与初始化时一致）
calicoctl get ippool -o wide