华为云AI开发平台ModelArtsStep4 使用调试成功的镜像用于推理部署_云淘科技
将Step3 在Notebook中变更镜像并调试中调试成功的自定义镜像导入到AI应用中,并部署为在线服务。
登录ModelArts控制台,在左侧导航栏中选择“AI应用管理 > AI应用”,单击“创建”,进入创建AI应用。
设置AI应用的参数,如图1所示。
元模型来源:从容器镜像中选择。
容器镜像所在的路径:单击选择前面创建的镜像。
容器调用接口:选择HTTPS。
host:设置为8443。
部署类型:选择在线部署。
图1 设置AI应用参数
填写apis定义,单击“保存”生效。apis定义中指定输入为文件,具体内容参见下面代码样例。
图2 填写apis定义
apis定义具体内容如下:
[{ "url": "/", "method": "post", "request": { "Content-type": "multipart/form-data", "data": { "type": "object", "properties": { "images": { "type": "file" } } } }, "response": { "Content-type": "applicaton/json", "data": { "type": "object", "properties": { "result": { "type": "integer" } } } } }]
apis定义提供AI应用对外Restfull api数据定义,用于定义AI应用的输入、输出格式。
创建AI应用填写apis。在创建的AI应用部署服务成功后,进行预测时,会自动识别预测类型。
创建AI应用时不填写apis。在创建的AI应用部署服务成功后,进行预测,需选择“请求类型”。“请求类型”可选择“application/json”或“multipart/form-data”。请根据元模型,选择合适的类型。
选择“application/json”时,直接填写“预测代码”进行文本预测。
选择“multipart/form-data”时,需填写“请求参数”,请求参数取值等同于使用图形界面的软件进行预测(以Postman为例)Body页签中填写的“KEY”的取值,也等同于使用curl命令发送预测请求上传数据的参数名。
设置完成后,单击“立即创建”,等待AI应用状态变为“正常”。
单击新建的AI应用名称左侧的小三角形,展开AI应用的版本列表。在操作列单击“部署 > 在线服务”,跳转至在线服务的部署页面。
在部署页面,参考如下说明填写关键参数。
“名称”:按照界面提示规则自定义一个在线服务的名称,也可以使用默认值。
“资源池”:选择“公共资源池”。
“AI应用来源”和“选择AI应用及版本”:会自动选择AI应用和版本号。
“计算节点规格”:在下拉框中选择“限时免费”资源,勾选并阅读免费规格说明。
其他参数可使用默认值。
若限时免费资源售罄,建议选择收费CPU资源进行部署。当选择收费CPU资源部署在线服务时会收取少量资源费用,具体费用以界面信息为准。
参数配置完成后,单击“下一步”,确认规格参数后,单击“提交”启动在线服务的部署。
进入“部署上线 > 在线服务”页面,等待服务服务状态变为“运行中”时,表示服务部署成功。单击操作列的“预测”,进入服务详情页的“预测”页面。上传图片,预测结果。
图3 预测
父主题: 在开发环境中构建并调试推理镜像
同意关联代理商云淘科技,购买华为云产品更优惠(QQ 78315851)
内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家