使用华为云帐号在云上创建AI应用开发环境,需要提前创建访问密钥(AK/SK),用于对请求加密签名,确保请求的机密性、完整性和请求双方身份的正确性。 本节介绍如何通过ModelArts管理控制台创建访问密钥(AK/SK)。如果您已经获取过访问…
本节介绍如何使用本地VSCode插件连接云上开发环境Notebook。 注意:若新创建的实例未显示,点击刷新按钮重新登录,登录成功后点击左侧箭头展开实例列表。 图1 刷新实例 由于插件连接需要一定时间,建议将“Connect Timeout…
准备模型 AI应用开发的前序步骤是模型训练,因此开始进行AI应用开发时,您已经有训练优化好的可使用的模型了。当前ModelBox GPU镜像支持的模型类型有TensorRT和PyTorch模型,具体的版本号在您创建开发环境选择镜像时镜像名称…
运行完第一个AI应用后,开发者已经对应用工程和运行方法有了初步的了解。如果您仅想了解开发到部署的端到端流程,可直接跳过此章节,进入应用发布。如果您需要开发自己的AI应用,则需要详细了解本章的内容。 当进行AI应用开发时,开发者可以使用当前的…
在开发环境容器内调试是指开发好的AI应用直接在开发环境中运行和调试。 本地输入输出调试 在开发环境中通常使用本地的测试输入作为AI应用输入,模板中的测试输入数据存放在/test/assets目录下。 图1 本地测试数据 代码调试使用对应语言…
模型封装是将模型封装成一个AI应用,也称之为AI应用开发。AI应用开发是指将训练好的一个或多个模型编排开发成推理应用以满足具体业务场景下的推理需求,比如视频质量检测、交通拥堵诊断等。AI应用开发在整个AI开发流程的位置大致如图1所示。 图1…
在开发环境容器内调试完成后,开发者可以将自己开发好的AI应用和ModelBox runtime镜像打包成新的运行镜像,并发布到ModelArts推理服务,直接测试部署的服务并查看日志,以确保开发好的AI应用可以在ModelArts推理平台正…
使用VS Code连接到云上开发环境后,用户就可以开发AI应用了。云上AI应用开发环境中预置了丰富的开发工具,用户可以通过左侧导航栏的ModelArts图标使用相关功能。本章节通过创建并运行两个不同类型的AI应用工程,帮助开发者快速了解应用…
AI应用开发并调试完成后,开发者可以将AI应用服务到ModelArts AI应用管理模块,然后在ModelArts的推理平台进行应用的生产部署。发布AI应用包含了应用打包、构建镜像和发布这三个步骤。 打包AI应用 构建镜像 发布和部署AI应…
ModelArts提供了如下能力: 丰富的官方预置镜像,满足用户的需求。 支持基于预置镜像自定义制作专属开发环境,并保存使用。 丰富的教程,帮助用户快速适配分布式训练,使用分布式训练极大减少训练时间。 分布式训练调测的能力,可在PyChar…