阿里云国际代理商：人工智能平台PAI-Model Gallery 快速入门
Model Gallery封装了PAI-DLC和PAI-EAS，支持零代码部署和训练开源大模型。本文以Qwen3-0.6B模型为例，演示部署、微调和效果验证的完整流程。
一. 前提条件
使用主账号开通PAI并创建工作空间。登录PAI控制台，左上角选择开通区域，然后一键授权和开通产品。
二. 计费说明
本文案例将使用公共资源创建DLC任务和EAS服务，计费方式为按量付费，计费规则参见DLC计费说明、EAS计费说明。
三. 模型部署
3.1 部署模型
-
登录PAI控制台，在左侧导航栏单击Model Gallery，搜索并找到Qwen3-0.6B选项卡，然后单击部署。
-
配置部署参数。在部署配置页面已为您预置了默认参数，直接单击部署 > 确定。部署大约需要等待5分钟，当处于运行中时，代表部署成功。
默认使用公共资源部署，计费方式为按量付费。
默认部署资源规格为
ecs.gn7i-c8g1.2xlarge（8 vCPU、30 GiB、NVIDIA A10 × 1），费用约为 CNY 10.5/小时。配置确认无误后，单击面板底部的 部署 按钮。
3.2 调用模型
-
查看调用信息。在服务详情页面，单击查看调用信息获取调用地址和Token。
后续查看部署任务详情，您可通过在左侧导航栏单击Model Gallery > 任务管理 > 部署任务，然后再单击服务名称查看。
在弹出的调用信息弹窗中，选择共享网关或VPC高速直连Tab，可分别查看公网调用地址和VPC调用地址。
-
调用模型。
在线调试使用Cherry Studio客户端使用Python SDK切换到在线调试页面，大语言模型服务支持对话调试和API调试。
3.3 重要提醒
本文使用了公共资源创建模型服务，计费方式为按量付费。当您不需要使用服务时请停止或删除服务，以免继续扣费。
具体操作入口位于任务管理 > 部署任务页签中，在目标服务的操作列中执行。
四. 模型微调
要让模型在特定领域表现更好，可以用该领域的数据集微调模型。本文以如下场景为例，演示模型微调的作用和步骤。
4.1 场景示例
在物流领域，常需要从自然语言中提取结构化信息（如收件人、地址、电话）。直接使用大参数模型（如：Qwen3-235B-A22B）效果好，但成本高、响应慢。为兼顾效果与成本，可先用大参数模型标注数据，再用这些数据微调小参数模型（如 Qwen3-0.6B），使其在相同任务上达到相近表现。此过程也被称为模型蒸馏。
相同结构化信息提取任务，使用原始的Qwen3-0.6B模型准确率14%，微调后准确率可达90%以上。
该场景同样使用在解决方案《10分钟微调：让0.6B模型媲美235B模型》中，您也可以按照此解决方案操作。
收件人地址信息示例 |
结构化信息示例 |
|
长沙市岳麓区桃花岭路189号润丰园B座1202室 | 电话021-17613435 | 联系人江雨桐 | |
4.2 数据准备
为将教师模型（Qwen3-235B-A22B）在该任务中的知识蒸馏到 Qwen3-0.6B，需先通过教师模型的 API，将收件人的地址信息抽取为结构化 JSON 数据。模型生成这些 JSON 数据可能需要较长时间，因此，本文已为您准备好了示例训练集train_qwen3.json和验证集eval_qwen3.json，您可以直接下载使用。
在模型蒸馏中大参数量模型也被称为教师模型。本文所用数据均为大模型模拟生成，不涉及用户敏感信息。
4.3 微调模型
在左侧导航栏单击Model Gallery，搜索并找到Qwen3-0.6B选项卡，然后单击训练。
-
配置训练任务参数。只需配置如下关键参数，其他参数默认即可。
-
训练方式：默认选择SFT监督微调，LoRA微调方法。
LoRA是一种高效的模型微调技术，仅修改模型的部分参数，以节省训练使用的资源。
-
训练数据集：先单击下载示例训练集train_qwen3.json，然后配置页面选择OSS文件或目录，单击
图标选择Bucket，单击上传文件将下载训练集上传到OSS中，并选择该文件。 -
验证数据集：先单击下载验证集eval_qwen3.json，然后单击添加验证数据集，按照和配置训练集相同的操作，上传并选择该文件。
验证集用于在训练过程中判断模型的性能，帮助评估模型在未见过的数据上的表现。
-
模型输出路径：默认会将微调后的模型存储到OSS中，如果OSS目录为空，请您新建目录并指定该目录。
-
资源组类型：选择使用公共资源组，本次微调大约需要5GB显存，控制台中已经为您筛选出满足要求的规格，选择如：
ecs.gn7i-c16g1.4xlarge。后续部署其他模型时，您可参考估算大模型所需显存，计算模型训练需要的显存大小。
-
超参数配置：
-
learning_rate: 设置为0.0005
-
num_train_epochs：设置为4
-
per_device_train_batch_size：设置为8
-
seq_length：设置为512
此超参数配置下模型在本文的测试数据上表现较好。当您使用模型微调解决您自己的业务问题时，如果准确率不高，也可以尝试调整超参数。您可以通过学习阿里云大模型 ACP 课程，深入了解超参数的作用，以及如何通过损失曲线来判断超参数的调整方向。
然后单击训练 > 确定，训练任务进入创建中状态，当处于运行中时，开始微调模型。
-
-
-
查看训练任务并等待训练完成。模型微调大约需要10分钟，在微调过程中，任务详情页面将展示任务日志及指标曲线，待训练执行完成后，微调后的模型将存储到设置的OSS目录中。
后续查看训练任务详情，您可通过在左侧导航栏单击Model Gallery > 任务管理 > 训练任务，然后再单击任务名称查看。
4.4 部署微调后的模型
在训练任务详情页，单击部署按钮打开部署配置页，资源类型选择公共资源，部署0.6B的模型大约需要5GB显存，资源规格中已为您筛选出满足要求的规格，选择如：ecs.gn7i-c8g1.2xlarge，其他参数保持默认即可，然后单击部署 > 确定。
部署过程大约需要5分钟，当处于运行中时，代表部署成功。
后续查看训练任务详情，您可通过在左侧导航栏单击Model Gallery > 任务管理 > 训练任务，然后再单击任务名称查看。
训练任务显示已成功后，如果部署按钮无法点击，代表输出的模型还在注册中，需要等待大约1分钟。
后续的模型调用步骤与3.2 调用模型相同。
4.5 验证微调后模型效果
在将微调后的模型部署到实际业务环境前，建议您先对其效果进行系统性的评测，确保模型具备良好的稳定性和准确性，避免上线后出现意料之外的问题。
准备测试数据
准备与训练数据不重合的测试数据，用于测试模型效果。本方案已为您准备好了测试集，在执行下面的准确率测试代码时会自动下载。
测试数据与训练数据不重合样本，这样可以更准确地反映模型在新数据上的泛化能力，避免因“见过的样本”导致分数虚高。
设计评测指标
评测标准应紧贴实际业务目标。以本方案为例，除了判断生成的 JSON 字符串是否合法，还应该关注对应的 Key、Value 的值是否正确。
您需要通过编程来定义评测指标，本案例评测指标实现，请参见下面准确率测试代码的
compare_address_info方法。
验证模型微调后效果
执行如下测试代码，将输出模型在测试集上的准确率。
输出结果：
所有预测完成! 结果已保存到 predicted_labels.jsonl
样本数: 400 条
响应正确: 361 条
响应错误: 39 条
准确率: 91.25 %因模型微调随机数种子和大模型输出随机性的影响，您测试出的准确率可能与本方案的结果存在差异，这属于正常情况。
可以看到准确率为 91.25%，相比于原始Qwen3-0.6B模型的14%的准确率提高了很多，表明微调后的模型显著增强了在物流填单领域结构化信息抽取的能力。
本文为了您学习过程中减少训练时间，只设置 4 个训练轮次，准确率就已提升至 91.25%。您可以适当增加训练轮次来进一步提升准确率。其他场景下，建议您参考阿里云大模型 ACP 课程内容了解如何调整超参数。
4.6 重要提醒
本文使用了公共资源创建模型服务，计费方式为按量付费。当您不需要使用服务时请停止或删除服务，以免继续扣费。
