AI Gallery支持将训练的模型或创建的模型资产部署为在线推理服务，可供用户直接调用API完成推理业务。

部署推理服务

登录AI Gallery。
单击“模型”进入模型列表。
选择需要部署为推理服务的模型，单击模型名称进入模型详情页。
在模型详情页，选择“部署 > 推理服务”，进入推理服务设置页面。
在推理服务设置页面中，完成参数配置。

表1 部署在线推理服务

参数	说明
服务名称	必填项，自定义一个在线推理服务的名称。 支持1~30个字符。
描述	输入在线服务的描述信息。 支持0~100个字符，请勿在描述中输入涉政、迷信、违禁等相关敏感词。
计算规格选择	必填项，按需选择计算规格。 不可用的资源会置灰。 说明： AI Gallery提供免费资源和付费资源供用户选择，不同计算节点规格的收费标准以界面显示为准。AI Gallery支持的计算规格和计费说明请参见计算规格说明。 若选择付费资源，请确认帐号未欠费，且余额高于所选计算规格的收费标准，否则可能会导致您的训练作业中断。
时长管理	不限时长：不限制作业的运行时长，服务部署完成后将一直处于“运行中”。 限制时长：设置作业运行几小时候后停止，当服务运行时长达到限制时长时，系统将会暂停作业。时长设置不能超过计算资源的剩余额度。

单击“启动部署”，在弹窗中单击“确定”，会跳转至在线推理服务页面。
在“AI服务 > 在线推理服务”页面中，可以查看服务的名称、任务类型、规格、状态等信息。

图1 在线推理服务

推理服务预测

待在线推理服务状态变为“运行中”时，便可进行推理预测。

选择“AI服务 > 在线推理服务”进入在线推理服务页面。
选择服务“状态”为“运行中”的服务，单击操作列的“推理测试”，在测试页面根据任务类型以及页面提示完成对应的测试。

推理服务状态变为“运行成功”后，单击操作列的“更多>详情”，在详情页单击“推理”，在测试页面根据任务类型以及页面提示完成对应的测试。

停止推理服务

若服务使用完成后，可在服务的操作列单击“更多>停止服务”，即可停止服务运行。

图2 停止服务

调用API

待推理服务的状态变为“运行中”时，可单击操作列的“调用”，复制对应的接口代码，在本地环境或云端的开发环境中进行接口。

图3 调用接口

父主题： AI Gallery（新版）

同意关联代理商云淘科技，购买华为云产品更优惠（QQ 78315851）

内容没看懂？ 不太想学习？想快速解决？ 有偿解决： 联系专家