• (原创)PBS | SGE 智能任务投递系统monitor | python实现


    之前看到过高手写的一个monitor,用python面向对象实现的,依赖几个核心的python包,drmaazodb,理论上来说解决了所有的任务投递问题。

    但是在复杂的集群环境下还是会经常出问题,这就是更复杂的调试了,需要对集群环境有深刻的认识。

    这里不搞那么复杂的东西,就是在一个单一的PBS集群里写一个monitor,智能的投递任务。

    但是我现在这个集群有几个非常不智能的地方,需要我克服:

    1. 每个任务的内存、cpu和运行时间受限,必须要根据内存和cpu来指定投递的节点类型;需要用户估计内存和cpu

    2. 不能无限pending,就是你同一时间排队的任务数量受限;

    3. 更个性化的环境下,可以指定每一个任务的内存和cpu,但是我这个脚本不考虑,默认所有任务同内存和cpu;

    4. 每投递一个任务,首先需要搞清楚请求的内存和cpu,从而决定投递到哪个节点;其次就是判断节点是否有排队的任务,如果有一个了,那就移到下一节点,直至全满;

    这里只采用函数封装的方法来写,懒得写出对象。

  • 相关阅读:
    CSS3的常用属性(一)
    Shiro授权认证原理和流程
    mysql存储引擎
    mysql索引的注意事项
    CSS的常用属性(三)
    CSS的常用属性(二)
    CSS的常用属性(一)
    常用文档站点
    Spring和SpringMVC父子容器关系初窥
    内部类学习资料分享
  • 原文地址:https://www.cnblogs.com/leezx/p/9064026.html
Copyright © 2020-2023  润新知