阿里云国际代理商：人工智能平台PAI-EAS概述

灵活的资源与成本管理

• 异构硬件支持：支持CPU、GPU及AI专属GU机型，满足不同模型的性能需求。

• 成本优化：支持抢占型实例，显著降低计算成本。通过定时扩缩容，可根据业务周期提前设定策略，精准控制资源投入。

• 弹性资源池：当专属资源组用满后，可自动将新增实例调度至公共资源组，兼顾成本控制与服务稳定性。

全面的稳定性与高可用保障

• 弹性扩缩容：根据实时负载自动调整服务副本数量，应对不可预测的流量高峰，避免资源闲置或服务过载。

• 高可用机制：自动故障恢复，确保服务连续性。专属资源为物理隔离，无资源抢占风险。

• 安全发布：支持灰度发布，按比例分配流量至新版本验证。支持流量镜像，将线上流量复制到测试服务验证可靠性，不影响真实用户请求。

高效的部署与运维

• 一键压测：支持动态加压并自动探测服务性能极限，实时查看秒级监控数据与压测报告，帮助您快速评估服务能力。

• 实时监控：提供QPS、响应时长、CPU利用率等关键指标的实时监控，支持开通服务监控报警，全面掌握服务运行状态。

• 多种部署方式：支持通过镜像（推荐）或Processor部署方式部署服务，满足不同技术栈的需求。

多样的推理模式

• 实时同步推理：高吞吐、低延迟，适用于搜索推荐、对话机器人等对响应延迟敏感的场景。

• 近实时异步推理：内置消息队列，适用于文图生成、视频处理等长耗时任务。根据队列积压程度自动扩缩容，避免请求堆积。

• 离线批量推理：适用于对响应时长不敏感的批量处理场景，如语音数据批量转换。支持抢占型资源实例以降低成本。

步骤1：准备工作

1. 准备推理资源：根据模型大小、并发需求和预算，选择合适的EAS资源类型。资源选型及购买指导请参见EAS部署资源概述。

   说明

   仅公共资源无需提前购买，可直接使用；其他资源类型（EAS资源组、资源配额）需先购买再使用。

2. 准备文件：将训练好的模型、代码处理文件及依赖项上传至OSS等云存储，以便后续通过存储挂载在服务中使用。

步骤3：调用与压测服务

• Web应用：若部署为AI-Web应用，可直接在浏览器中打开交互页面进行体验。

• API服务：可通过服务在线调试功能验证服务功能，或通过API进行同步/异步调用，参见服务调用。

• 服务压测：使用内置的一键压测工具，测试服务在压力下的性能表现，请参见服务压测。

步骤4：监控与管理服务

1. 监控与报警：在推理服务列表中查看服务运行状态及资源组信息，可按资源组筛选服务。建议开通服务监控报警以实时掌握服务健康状况。

2. 弹性伸缩：根据业务需求配置弹性扩缩容或定时扩缩容策略，动态管理计算资源。

3. 服务更新：在操作列下单击更新以部署新版本。更新完成后，可查看版本信息或切换版本。

   警告

   服务更新过程中将暂时中断运行，可能导致依赖此服务的请求失败，请谨慎操作。

4. 服务迁移：如需跨地域迁移EAS服务配置，可使用EASCMD命令行工具导出源地域的服务配置，然后在目标地域使用该配置创建新服务。