• k8s-调度器、预选策略及优选函数-二十


    一、简介

    master上运行着三个最核心的组件,apiserver、scheduler、controller manager。此外,master还依赖于ectd存储节点,最好ectd是有冗余能力的集群;

    (1)调度器(scheduler)

    • master上的scheduler控制着pod运行在哪个node上,默认用的default scheduler;
    • 调度器的调度信息存储在master上的etcd里面,apiserver负责和etcd通信;
    • kubelete运行在node节点上,监控着Node节点上的pod状态,并参与pod的创建等工作;
    • kube-proxy也运行在node节点上,它监控着service资源的变动;
    • kubelete和kube-proxy都要连接master上的apiserver去获取定义信息;

    (2)预选步骤

    a、default scheduler是通过三个步骤来实现调度的:

    • 预选策略(predicate):先排除那些完全不符合此pod运行法则的节点,有两个维度来排除,一个是最低资源需求,即节点必须满足此Pod的最低资源;第二个是资源限额,即当前节点最多能给pod提供的资源;
    • 优选(priority):在符合节点找到最佳匹配的节点;
    • 绑定(select):把pod绑定到优选的节点上,如果有多个最佳节点,就会随机选一个;

    b、kubernetes的调度方式

    • nodeaffinity,表示node亲和性调度,表示这个pod对这个节点有一定的倾向性。我们通过上面的nodeselector来完成这类调度;
    • podaffinity或podunaffinity:pod亲和性或者pod反亲和性调度,有时我们期望某些Pod运行在同一个节点上或者是相邻的节点上,或者我们期望某些Pod不要运行在某些节点上;
    • taints和tolerations:污点和污点容忍调度:可以在某些节点上打上污点,表示这些节点不让pod在其上面运行。taints是定义在节点之上的,tolerations是定义在pod之上的;

    (3)常用的预选策略

    k8s的预选策略很多,此处可以看源码:https://github.com/kubernetes/kubernetes/blob/master/pkg/scheduler/algorithm/predicates/predicates.go

    a、ChekNodeCondition

    表示检查是否可以在节点磁盘、网络不可用,或未准备好的前提下,能够把pod调度到上去。

    b、GeneralPredicate

    [root@master ~]# kubectl describe nodes node01    #查看节点资源使用

    查看资源定义清单字段:
    [root@master ~]# kubectl explain pods.spec
    [root@master ~]# kubectl explain pods.spec.containers.ports
    • hostname  表示如果pod定义了hostname属性(pod.spec.hostname),则检查节点的名字跟pod的hostname是否想匹配,但这里并不是定义这个pod必须运行在这些节点上;
    • PodFitsHostPorts:如果节点定义了hostport属性(pod.spec.containers.ports.hostPort),表示指定在节点的哪个端口上。如果这个节点的端口被占用了,那么这个节点就不适合运行这个pod;
    • MatchNodeSelector:检查pods.spec.nodeSelector这个字段你是否定义了,运行在携有这有这些标签选择器的节点上;
    • PodFitsResources:检查节点是否有足够的资源来支持这个pod运行;

    c、NoDiskConfict

    检查Pod所请求的存储卷类型在此节点上是否不可用。 NoDiskConfict调度策略默认没有启用。

    d、PodToleratesNodeTaints

    如果Pod定义了Tolerates(容忍度),即 pods.spec.tolerations,那么就看pod能不能容忍节点上的污点,如果是,表示这个节点可以被选定;

    e、PodToleratesNodeNoExecuteTaints

    检查pod是否容忍节点上有NoExecute污点。NoExecute污点:如果一个pod上运行在一个没有污点的节点上,后来这个节点又给加上污点了,那么NoExecute表示这个新加污点的节点会去除其上正在运行的pod;此调度策略默认没有启用;

    f、CheckNodeLabelPresence

    检查节点上指定标签的存在性,如果节点有pod指定的标签,那么这个节点就被选中。 此调度策略默认没有启用;

    g、CheckServceAffinity

    一个service下可以有多个pod,比如这些pod都运行在1、2、3机器上,而没有运行在4、5、6机器上,那么CheckServceAffinity就表示新加入的pod都集中运行在1、2、3机器上,这样集中好处是一个service下pod之间内部通信的效率变高了。 这个策略默认也是没有启用的。

    h、MaxEBSVolumeCountPred

    检查节点上挂载的EBS存储器(亚马逊的弹性块存储)的数量是否超出了最大的设定值。一般来说,一个节点上最多可以挂载39个存储卷。可以编译安装k8s指定该值;

    i、MaxGCEPDVolumeCountPred

    GCE是谷歌的云存储引擎。可以编译安装k8s指定该值。

    j、 MaxAzureDiskVolumeCountPred

    pod会选择挂载足量Azure存储卷的节点。 

    k、CheckVolumeBinding

    检查节点上的pvc是否被别的pod绑定了;

    l、NoVolumeZoneConfict

    检查节点上的pod是否与pod的需求冲突;

    m、CheckNodeMemoryPressure

    检查节点内存是否存在压力;

    n、CheckNodePIDpressure

    检查节点pid数量是否压力过大,但一般pid是可以重复使用的;

    o、CheckNodeDiskPressure

    检查内存/磁盘 IO是否压力过大;

    p、MatchInterPodAffinity

    检查Pod是否满足亲和性或者反亲和性;

    pod在调度的时候,以上策略要逐一评估;

     

    (4)常用的优选函数

    函数源码:https://github.com/kubernetes/kubernetes/tree/master/pkg/scheduler/algorithm/priorities

    • least_requested.go:最少请求,空闲比例。对cpu来说,用cpu((capacity-sum(requested))*10/capacity)方式进行评估,得分最高的胜出;
    • balanced_resource_allocation.go:均衡资源的使用方式,表示以cpu和内存占用率的相近程度(均衡)作为评估标准,二者占用越接近,得分就越高,得分高的胜出。
    • node_prefer_avoid_pods.go:看节点是否有注解信息"scheduler.alpha.kubernetes.io/preferAvoidPods"。没有这个注解信息,说明这个节点是适合运行这个pod的。
    • taint_toleration.go:将pod对象的spec.toleration与节点的taint列表项进行匹配度检查,匹配的条目越多,得分越低;
    • selector_spreading.go:查找当前pod对象对应的service,statefulset,replicatset等所匹配的标签选择器,在节点上运行的带有这样标签的pod越少得分越高,这样的pod优选被选出。 这就是说我们要把同一个标签选择器下运行的pod散开(spreading)到多个节点上;
    • interpod_affinity.go:遍历Pod对象亲和性的条目,并将那些能够匹配到节点权重相加,值越大的得分越高,得分高的胜出;
    • node_affinity.go:根据pod对象中的nodeselector,对节点进行匹配度检查,能够成功匹配的数量越多,得分就越高;
    • most_requested.go:表示尽可能的把一个节点的资源先用完,这个和least_requested相反,二者不能同时使用;未启用;
    • node_label.go:根据节点是否拥有标签,来评估分数;未启用;
    • image_locality.go:表示根据满足当前pod运行需要的已有镜像体积大小之和来选择节点的;未启用;

    以上优选函数会逐一评估,最后得分相加;

     

     

  • 相关阅读:
    初识java反射机制
    基本数据类型-保装类型-string三种数据类型的转换
    java 正则表达式
    java 异常
    java 初识String
    java 接口
    java抽象
    初识多态 简单理解
    初来驾到学JAVA继承初识
    转载:Gearman php
  • 原文地址:https://www.cnblogs.com/weiyiming007/p/10560518.html
Copyright © 2020-2023  润新知