• Kubernetes(k8s)kubeproxy、Service详解


    一、kube-proxy简介

    kube-proxy负责为Service提供cluster内部的服务发现和负载均衡,它运行在每个Node计算节点上,负责Pod网络代理, 它会定时从etcd服务获取到service信息来做相应的策略,维护网络规则和四层负载均衡工作。在K8s集群中微服务的负载均衡是由Kube-proxy实现的,它是K8s集群内部的负载均衡器,也是一个分布式代理服务器,在K8s的每个节点上都有一个,这一设计体现了它的伸缩性优势,需要访问服务的节点越多,提供负载均衡能力的Kube-proxy就越多,高可用节点也随之增多。

    service是一组pod的服务抽象,相当于一组pod的LB,负责将请求分发给对应的pod。service会为这个LB提供一个IP,一般称为cluster IP。kube-proxy的作用主要是负责service的实现,具体来说,就是实现了内部从pod到service和外部的从node port向service的访问。

    简单来说:

    • kube-proxy其实就是管理service的访问入口,包括集群内Pod到Service的访问和集群外访问service。
    • kube-proxy管理sevice的Endpoints,该service对外暴露一个Virtual IP,也成为Cluster IP, 集群内通过访问这个Cluster IP:Port就能访问到集群内对应的serivce下的Pod。
    • service是通过Selector选择的一组Pods的服务抽象,其实就是一个微服务,提供了服务的LB和反向代理的能力,而kube-proxy的主要作用就是负责service的实现。
    • service另外一个重要作用是,一个服务后端的Pods可能会随着生存灭亡而发生IP的改变,service的出现,给服务提供了一个固定的IP,而无视后端Endpoint的变化。

    二、Service 简介

    Kubernetes Service定义了这样一种抽象: Service是一种可以访问 Pod逻辑分组的策略, Service通常是通过 Label Selector访问 Pod组。

    Service能够提供负载均衡的能力,但是在使用上有以下限制:只提供 4 层负载均衡能力,而没有 7 层功能,但有时我们可能需要更多的匹配规则来转发请求,这点上 4 层负载均衡是不支持的。

    三、Service 类型

    Service在 K8s中有以下四种类型:

    1)ClusterIp(集群内部使用)

    默认类型,自动分配一个仅Cluster内部可以访问的虚拟IP(VIP)。

    2)NodePort(对外暴露应用)

    在ClusterIP基础上为Service在每台机器上绑定一个端口,这样就可以通过NodeIP:NodePort访问来访问该服务。
    端口范围:30000~32767

    3)LoadBalancer(对外暴露应用,适用于公有云)

    在NodePort的基础上,借助Cloud Provider创建一个外部负载均衡器,并将请求转发到NodePort。

    4)ExternalName

    创建一个dns别名指到service name上,主要是防止service name发生变化,要配合dns插件使用。通过返回 CNAME 和它的值,可以将服务映射到 externalName 字段的内容。这只有 Kubernetes 1.7或更高版本的kube-dns才支持(我这里是Kubernetes 1.22.1版本)。

    四、Service 工作流程

    1. 客户端访问节点时通过 iptables实现的
    2. iptables规则是通过 kube-proxy写入的
    3. apiserver通过监控 kube-proxy去进行对服务和端点的监控
    4. kube-proxy通过 pod的标签( lables)去判断这个断点信息是否写入到 Endpoints里

    五、Endpoints简介

    endpoint是k8s集群中的一个资源对象,存储在etcd中,用来记录一个service对应的所有pod的访问地址。service配置selector,endpoint controller才会自动创建对应的endpoint对象;否则,不会生成endpoint对象。

    【例如】k8s集群中创建一个名为hello的service,就会生成一个同名的endpoint对象,ENDPOINTS就是service关联的pod的ip地址和端口。

    1)工作流程

    一个 Service 由一组 backend Pod 组成。这些 Pod 通过 endpoints 暴露出来。 Service Selector 将持续评估,结果被 POST 到一个名称为 Service-hello 的 Endpoint 对象上。 当 Pod 终止后,它会自动从 Endpoint 中移除,新的能够匹配上 Service Selector 的 Pod 将自动地被添加到 Endpoint 中。 检查该 Endpoint,注意到 IP 地址与创建的 Pod 是相同的。现在,能够从集群中任意节点上使用 curl 命令请求 hello Service <CLUSTER-IP>:<PORT> 。

    2)示例

    1、deployment-hello.yaml

    $ cat << EOF > deployment-hello.yaml
    apiVersion: apps/v1
    kind: Deployment
    metadata:
      name: hello
    spec:
      replicas: 3
      selector:
        matchLabels:
         run: hello
      template:
        metadata:
          labels:
            run: hello
        spec:
          containers:
          - name: nginx
            image: nginx:1.17.1
    EOF
    

    2、service-hello.yaml

    $ cat << EOF > service-hello.yaml
    apiVersion: v1
    kind: Service
    metadata:
      name: service-hello
      labels:
      name: service-hello
    spec:
      type: NodePort      #这里代表是NodePort类型的,另外还有ingress,LoadBalancer
      ports:
      - port: 80          
        targetPort: 8080
        protocol: TCP
        nodePort: 31111   # 所有的节点都会开放此端口30000--32767,此端口供外部调用。
      selector:
        run: hello
    EOF
    

    3、查看验证

    $ kubectl apply -f deployment-hello.yaml
    $ kubectl apply -f service-hello.yaml
    # 查看pod,如果本地没有镜像,可能等待的时候比较长,一定要等到所有pod都在运行中才行。
    $ kubectl get pod -o wide|grep hello-*
    # 查看service
    $ kubectl get service service-hello -o wide
    # 查看service详情
    $ kubectl describe service service-hello
    # 查看pointer
    $ kubectl get endpoints service-hello
    

    六、Service, Endpoints与Pod的关系

    Kube-proxy进程获取每个Service的Endpoints,实现Service的负载均衡功能。

    Service的负载均衡转发规则

    访问Service的请求,不论是Cluster IP+TargetPort的方式;还是用Node节点IP+NodePort的方式,都被Node节点的Iptables规则重定向到Kube-proxy监听Service服务代理端口。kube-proxy接收到Service的访问请求后,根据负载策略,转发到后端的Pod。

    七、Service的资源清单文件详解

    apiVersion: v1
    kind: Service
    metadata:
    #元数据
      name: string
      #Service名称
      namespace: string
      #命名空间,不指定时默认为default命名空间
      labels:
      #自定义标签属性列表     
        - name: string
      annotations:
      #自定义注解属性列表    
        - name: string
    spec:
    #详细描述    
      selector: []
      #这里选择器一定要选择容器的标签,也就是pod的标签
      #selector:
      #  app: web
      #Label Selector配置,选择具有指定label标签的pod作为管理范围
      type: string
      #service的类型,指定service的访问方式,默认ClusterIP
      #ClusterIP:虚拟的服务ip地址,用于k8s集群内部的pod访问,在Node上kube-porxy通过设置的iptables规则进行转发
      #NodePort:使用宿主机端口,能够访问各Node的外部客户端通过Node的IP和端口就能访问服务器
      #LoadBalancer:使用外部负载均衡器完成到服务器的负载分发,
      #需要在spec.status.loadBalancer字段指定外部负载均衡服务器的IP,并同时定义nodePort和clusterIP用于公有云环境。
      clusterIP: string
      #虚拟服务IP地址,当type=ClusterIP时,如不指定,则系统会自动进行分配,也可以手动指定。当type=loadBalancer,需要指定
      sessionAffinity: string
      #是否支持session,可选值为ClietIP,默认值为空
      #ClientIP表示将同一个客户端(根据客户端IP地址决定)的访问请求都转发到同一个后端Pod
      ports:
      #service需要暴露的端口列表    
      - name: string
        #端口名称
        protocol: string
        #端口协议,支持TCP或UDP,默认TCP
         port: int
        #服务监听的端口号
         targetPort: int
        #需要转发到后端的端口号
         nodePort: int
        #当type=NodePort时,指定映射到物理机的端口号
      status:
      #当type=LoadBalancer时,设置外部负载均衡的地址,用于公有云环境    
        loadBalancer:
        #外部负载均衡器    
          ingress:
          #外部负载均衡器 
          ip: string
          #外部负载均衡器的IP地址
          hostname: string
         #外部负载均衡器的机主机
    

    八、kubernetes中的四种port

    1)nodePort

    nodePort是外部访问k8s集群中service的端口,通过nodeIP: nodePort可以从外部访问到某个service。

    2)port

    port是k8s集群内部访问service的端口,即通过clusterIP: port可以访问到某个service。

    3)targetPort

    targetPort是pod的端口,从port和nodePort来的流量经过kube-proxy流入到后端pod的targetPort上,最后进入容器。

    4)containerPort

    containerPort是pod内部容器的端口,targetPort映射到containerPort。

    九、kubernetes服务发现

    Kubernetes提供了两种方式进行服务发现, 即环境变量和DNS, 简单说明如下:

    1)环境变量

    当你创建一个Pod的时候,kubelet会在该Pod中注入集群内所有Service的相关环境变量。

    【注意】要想一个Pod中注入某个Service的环境变量,则必须Service要比该Pod先创建。这一点,几乎使得这种方式进行服务发现不可用。比如,一个ServiceName为redis-master的Service,对应的ClusterIP:Port为172.16.50.11:6379,则其对应的环境变量为:

    REDIS_MASTER_SERVICE_HOST=172.16.50.11
    REDIS_MASTER_SERVICE_PORT=6379
    REDIS_MASTER_PORT=tcp://172.16.50.11:6379
    REDIS_MASTER_PORT_6379_TCP=tcp://172.16.50.11:6379
    REDIS_MASTER_PORT_6379_TCP_PROTO=tcp
    REDIS_MASTER_PORT_6379_TCP_PORT=6379
    REDIS_MASTER_PORT_6379_TCP_ADDR=172.16.50.11

    2) DNS

    这是k8s官方强烈推荐的方式!!! 可以通过cluster add-on方式轻松的创建KubeDNS来对集群内的Service进行服务发现。

    十、Service代理模式

    k8s群集中的每个节点都运行一个kube-proxy的组件,kube-proxy其实是一个代理层负责实现service。

    Kubernetes v1.2之前默认是userspace,v1.2之后默认是iptables模式,iptables模式性能和可靠性更好,但是iptables模式依赖健康检查,在没有健康检查的情况下如果一个pod不响应,iptables模式不会切换另一个pod上。

    1)userspace模式

    客户端访问ServiceIP(clusterIP)请求会先从用户空间到内核中的iptables,然后回到用户空间kube-proxy,kube-proxy负责代理工作。

    缺点:

    可见,userspace这种mode最大的问题是,service的请求会先从用户空间进入内核iptables,然后再回到用户空间,由kube-proxy完成后端Endpoints的选择和代理工作,这样流量从用户空间进出内核带来的性能损耗是不可接受的。这也是k8s v1.0及之前版本中对kube-proxy质疑最大的一点,因此社区就开始研究iptables mode。

    详细工作流程:

    userspace这种模式下,kube-proxy 持续监听 Service 以及 Endpoints 对象的变化;对每个 Service,它都为其在本地节点开放一个端口,作为其服务代理端口;发往该端口的请求会采用一定的策略转发给与该服务对应的后端 Pod 实体。kube-proxy 同时会在本地节点设置 iptables 规则,配置一个 Virtual IP,把发往 Virtual IP 的请求重定向到与该 Virtual IP 对应的服务代理端口上。其工作流程大体如下:

    【分析】该模式请求在到达 iptables 进行处理时就会进入内核,而 kube-proxy 监听则是在用户态, 请求就形成了从用户态到内核态再返回到用户态的传递过程, 一定程度降低了服务性能。

    2)iptables模式(默认模式)

    该模式完全利用内核iptables来实现service的代理和LB, 这是K8s在v1.2及之后版本默认模式. 工作原理如下:

    iptables mode因为使用iptable NAT来完成转发,也存在不可忽视的性能损耗。另外,如果集群中存在上万的Service/Endpoint,那么Node上的iptables rules将会非常庞大,性能还会再打折扣。这也导致目前大部分企业用k8s上生产时,都不会直接用kube-proxy作为服务代理,而是通过自己开发或者通过Ingress Controller来集成HAProxy, Nginx来代替kube-proxy。

    详细工作流程:

    iptables 模式与 userspace 相同,kube-proxy 持续监听 Service 以及 Endpoints 对象的变化;但它并不在本地节点开启反向代理服务,而是把反向代理全部交给 iptables 来实现;即 iptables 直接将对 VIP 的请求转发给后端 Pod,通过 iptables 设置转发策略。其工作流程大体如下:

    【分析】 该模式相比 userspace 模式,克服了请求在用户态-内核态反复传递的问题,性能上有所提升,但使用 iptables NAT 来完成转发,存在不可忽视的性能损耗,而且在大规模场景下,iptables 规则的条目会十分巨大,性能上还要再打折扣。

    示例:

    cat << EOF > mysql-service.yaml
    apiVersion: v1
    kind: Service
    metadata:
      labels:
        name: mysql
        role: service
      name: mysql-service
    spec:
      ports:
        - port: 3306
          targetPort: 3306
          nodePort: 30964
      type: NodePort
      selector:
        mysql-service: "true"
        name: mysql
    EOF
    $ kubectl apply -f mysql-service.yaml
    $ kubectl get svc
    

    3)ipvs模型

    在kubernetes 1.8以上的版本中,对于kube-proxy组件增加了除iptables模式和用户模式之外还支持ipvs模式。kube-proxy ipvs 是基于 NAT 实现的,通过ipvs的NAT模式,对访问k8s service的请求进行虚IP到POD IP的转发。当创建一个 service 后,kubernetes 会在每个节点上创建一个网卡,同时帮你将 Service IP(VIP) 绑定上,此时相当于每个 Node 都是一个 ds,而其他任何 Node 上的 Pod,甚至是宿主机服务(比如 kube-apiserver 的 6443)都可能成为 rs;

    详细工作流程:

    与iptables、userspace 模式一样,kube-proxy 依然监听Service以及Endpoints对象的变化, 不过它并不创建反向代理, 也不创建大量的 iptables 规则, 而是通过netlink 创建ipvs规则,并使用k8s Service与Endpoints信息,对所在节点的ipvs规则进行定期同步; netlink 与 iptables 底层都是基于 netfilter 钩子,但是 netlink 由于采用了 hash table 而且直接工作在内核态,在性能上比 iptables 更优。其工作流程大体如下:

    【分析】ipvs 是目前 kube-proxy 所支持的最新代理模式,相比使用 iptables,使用 ipvs 具有更高的性能。


    4)kube-proxy配置 ipvs模式(所有节点)

    1、加载ip_vs相关内核模块

    $ modprobe -- ip_vs
    $ modprobe -- ip_vs_sh
    $ modprobe -- ip_vs_rr
    $ modprobe -- ip_vs_wrr
    $ modprobe -- nf_conntrack_ipv4
    

    所有节点验证开启了ipvs:

    $ lsmod |grep ip_vs
    

    2、安装ipvsadm工具

    $ yum install ipset ipvsadm -y
    

    3、编辑kube-proxy配置文件,mode修改成ipvs

    $ kubectl edit  configmap -n kube-system  kube-proxy
    

    4、重启kube-proxy
    先查看之前的kube-proxy

    $ kubectl get pod -n kube-system | grep kube-proxy
    

    删掉上面三个kube-proxy,重新拉起新的服务

    $ kubectl get pod -n kube-system | grep kube-proxy |awk '{system("kubectl delete pod "$1" -n kube-system")}'
    

    再查看

    $ kubectl get pod -n kube-system | grep kube-proxy
    

    5、查看

    $ ipvsadm -Ln
    

    关于Kubernetes(k8s)kube-proxy、Service的介绍,就先到这里了,有疑问的小伙伴,欢迎给我留言哦~

  • 相关阅读:
    extern "C" 分析 转
    Python标准库3.4.3webbrowser21.1
    rxtx java lib /var/lock issue
    list installed package & remove installed package & find package from repository Archlinux
    eclipse initialize
    add repo for CentOS
    RPMforge for CentOS
    Install Core Development Tools
    [Qtcreator] CMake + Multiple Build configuration
    list installed package & remove installed package & find package from repository
  • 原文地址:https://www.cnblogs.com/liugp/p/16380023.html
Copyright © 2020-2023  润新知