阿里云国际代理商:人工智能平台PAI-AI计算资源概述
资源类型
云原生资源
云原生资源主要应用于 PAI-DSW、PAI-DLC、PAI-EAS,分为以下两种类型:
类型 |
说明 |
适用场景 |
|
通用计算资源 |
基于 ECS、ECI、EGS 等云产品,提供灵活、稳定的算力。开通 PAI 后系统自动创建公共资源配额,可直接使用。 |
常规模型训练和推理、中小规模开发实验。 |
|
灵骏智算资源 |
面向大规模深度学习的高性能算力,基于软硬件一体优化,具备高性能网络互联和存储加速能力。 |
大模型训练、千卡级分布式训练、对网络和存储带宽要求高的场景。 |
大数据引擎资源
大数据引擎资源主要应用于 PAI-Designer,包括以下两种类型:
类型 |
说明 |
参考文档 |
|
大数据计算 MaxCompute |
企业级云数据仓库,支持海量数据的高效分析处理。 |
什么是MaxCompute |
|
Flink 全托管资源 |
基于 Apache Flink 的实时大数据分析平台,提供亚秒级数据分析能力。 |
什么是阿里云实时计算Flink版 |
核心概念
概念 |
说明 |
|
资源池 |
购买和管理计算资源的入口。在资源池中创建资源组、购买 GPU 节点,统一管理续费、退订等操作。 |
|
资源配额(Quota) |
从资源池中划分算力的分配单元。支持创建父子级配额树(Quota Tree),实现按团队或项目分配资源。将配额绑定到工作空间后,该工作空间内的 DSW、DLC、EAS 即可使用对应算力。 |
|
资源组 |
资源池中的逻辑分组,每个资源组对应一批相同类型的计算节点。一个资源配额可关联多个资源组的算力。 |
使用流程
使用云原生 AI 计算资源的典型流程如下:
-
购买资源:在AI 计算资源 > 资源池中创建资源组并购买计算资源。
-
通用计算资源:详情参见新建资源组并购买通用计算资源
-
灵骏智算资源:详情参见新建资源组并购买灵骏智算资源
-
-
创建资源配额:在AI 计算资源 > 资源配额(Quota)中将算力分配给不同团队。详情参见创建资源配额。
-
绑定工作空间:将资源配额绑定到工作空间,工作空间内的成员即可使用对应算力进行 AI 开发和训练。
-
使用资源配额:在创建DSW实例、DLC任务或EAS服务时,资源来源选择创建的资源配额。
大数据引擎资源的配额管理方式不同:MaxCompute 详情参见MaxCompute资源配额,Flink 全托管详情参见Flink全托管资源管理。
进阶配置
-
调度策略:配置队列调度策略,提高出队效率和资源利用率。详情参见调度策略。
-
抢占策略:启用算力抢占,允许任务抢占同级或子级配额的空闲算力。详情参见抢占策略。
-
监控与报警:通过云监控和 ARMS 查看资源使用情况,配置报警通知。详情参见监控与报警。
-
训推一体资源管理:在同一 GPU 集群上同时运行推理服务和训练任务,提高整体利用率。详情参见训推一体资源管理。
计费说明
AI 计算资源采用预付费方式(包年包月),费用根据节点规格、数量和购买时长计算。详情参见AI计算资源计费说明。
