阿里云国际代理商:人工智能平台PAI-调度策略
调度策略决定排队任务的出队顺序,影响算力资源利用率。选择合适的调度策略可提高任务出队效率。
背景信息
PAI 提交到资源配额(Quota)中的每个任务都有优先级,取值为1~9,数字越大优先级越高。当多个任务同时请求算力资源时,按优先级排队等待执行。
为提高算力资源使用效率,PAI在资源配额维度提供了多种排队策略。选择不同的排队策略会影响任务的执行顺序,但不影响已开始执行的任务。
调度策略
配置资源配额时,支持以下调度策略,各策略的实现原理如下:
FIFO策略
如果队列中的第一个任务无法出队,系统将反复尝试对第一个任务进行出队操作,而不会跳过。

遍历策略
如果队列中的第一个任务无法出队,则会跳过该任务,然后依次尝试对后续队列中的任务进行出队操作。

均衡策略
如果队列中的第一个任务无法出队,系统将反复尝试对第一个任务进行出队操作,不会跳过。
-
如果第一个任务等待出队时间超过预定时间(一般为几分钟),则系统会按照遍历策略尝试对第一个任务和第二个任务进行出队操作。
-
如果第二个任务等待出队时间也超过预定时间,系统会对第一个、第二个和第三个任务按照遍历策略尝试出队操作,依次类推。

智能策略
当调度策略选择智能策略时,系统将根据设定的任务优先级自动选择合适的执行策略:
-
对于优先级在7至9之间的任务,则采用FIFO策略进行调度。
-
对于优先级在1至6之间的任务,则采用遍历策略进行调度,并且这些任务在队列中的位置将随着排队时间的增加而逐步前移,最多可前移至6级任务的位置。

其中:Item1、Item2优先级≥7;Item3~ItemN优先级<7。
