阿里云国际代理商:人工智能平台PAI-抢占策略
PAI支持多级资源配额(Quota),可按层级划分算力资源。启用抢占功能后,当前资源配额中的排队任务可抢占同级或子级配额的空闲算力,提高资源利用率。
资源配额(Quota)层级说明
PAI支持将算力资源按企业组织架构划分为父子级资源配额,形成如下图所示的树状结构(简称QuotaTree),实现精细的资源管理和分配。
如上图所示,将算力资源拆分为了三级。其中:
-
Root | Quota是父级,Quota-1、Quota-2…Quota-n是其子级且互为同级。
-
Quota-1是Quota-1.1和Quota-1.2的父级,而Quota-1.1和Quota-1.2互为同级且是Quota-1的子级。Quota-2到Quota-n也遵循同样的结构。
您可以按组织或项目划分和使用资源配额(Quota),管理各自的任务和资源。当资源紧张时,可构建多级资源配额(Quota),开启抢占策略,最大化资源利用率:
-
开启本级算力抢占:
-
适用场景:当使用同级资源配额(例如Quota-1、Quota-2或Quota-n)创建的任务需要优先执行且资源紧张时。
-
处理机制:系统从同级资源配额中调度算力资源,确保关键任务获得所需的计算资源。
-
示例:为Quota-1开启本级算力抢占,资源紧张时,允许当前资源配额上的排队任务抢占本级已运行的任务的资源。
-
-
开启子级算力抢占:
-
适用场景:当同级资源配额紧缺,不能满足任务需求时。
-
处理机制:系统从子级资源配额中调度算力资源,确保关键任务获得所需的计算资源。
-
示例:为Quota-1开启子级算力抢占,当使用该资源配额创建的任务算力不足时,可以抢占Quota-1.1和Quota-1.2的资源。
-
开启本级算力抢占
操作方法
在创建或编辑资源配额时,为资源配额开启本级算力抢占。
开启本级算力抢占开关后,弹出抢占配置对话框,在该对话框中配置抢占策略参数。
当多个任务同时提交到该资源配额时,系统依据最优策略分配抢占当前层级的计算资源,具体策略说明如下:
抢占策略 |
描述 |
|
高优先级 |
支持抢占本级算力资源的任务执行优先级。取值范围:[1,9],支持单选或按范围选择。其中数字越大表示优先级越高,数字越小表示优先级越低。 |
|
抢占低优先级 |
支持被抢占算力资源的任务执行优先级。取值范围:[1,9],支持单选或按范围选择。其中数字越大表示优先级越高,数字越小表示优先级越低。 设置的抢占低优先级需小于设置的高优先级。 |
|
可被抢占模块 |
当资源配额的算力资源不足时,系统支持抢占同级资源配额下指定模块的算力资源,包括DLC、DSW或EAS模块。 |
使用示例
-
抢占配置:
按照以下参数设置抢占配置:
-
高优先级:按范围,设置为6~9。
-
抢占低优先级:按单选,设置为4。
-
可被抢占模块:选择DLC和DSW。
-
-
效果:
当使用该资源配额创建的任务优先级为6~9且算力资源不足时,系统可以抢占同级资源配额下,优先级为4的DLC或DSW模块的算力资源。
开启子级算力抢占
操作方法
在创建或编辑资源配额时,为资源配额开启子级算力抢占。
在专有资源组详情页的概览页签中,找到调度信息区域,开启子级算力抢占开关,在弹出的抢占配置弹窗中设置可被抢占优先级和可被抢占模块。
当使用父级资源配额提交任务且算力资源不足时,系统按最优策略回收子级Quota中正在运行的任务的算力资源,保障父级资源配额任务的运行。具体策略说明如下:
|
抢占策略 |
描述 |
|
可被抢占优先级 |
支持被抢占的使用子级资源配额创建的任务执行优先级。取值范围:[1,9],支持按范围选择。其中数字越大表示优先级越高,数字越小表示优先级越低。 |
|
可被抢占模块 |
当父级资源配额的算力资源不足时,系统支持抢占使用子级资源配额创建的指定模块的算力资源,包括DLC、DSW或EAS模块。 |
使用示例
-
抢占配置:
按照以下参数设置抢占配置:
-
可被抢占优先级:设置为1~3。
-
可被抢占模块:选择DLC和DSW。
-
-
效果:当使用父级资源配额创建任务且算力资源不足时,系统可以抢占使用子级资源配额创建的,优先级为1~3的DLC或DSW模块的算力资源。
