华为云AI开发平台ModelArts免费体验：一键完成商超商品识别模型部署_云淘科技
ModelArts的AI Gallery中提供了大量免费的模型供用户一键部署，进行AI体验学习。 本文以“商超商品识别”模型为例，完成从AI Gallery订阅模型，到ModelArts一键部署为在线服务的免费体验过程。 “商超商品识别”模…
华为云AI开发平台ModelArts纳管Atlas 500，将模型部署为边缘服务_云淘科技
Atlas人工智能计算平台，是基于华为昇腾系列AI处理器，打造面向“端、边、云”的全场景AI基础设施方案。配合Atlas系列边缘设备，华为云智能边缘服务（IEF）和AI开发平台（ModelArts）结合，将构建的AI模型快速部署至Atlas…
华为云AI开发平台ModelArts推理服务支持虚拟私有云（VPC）直连的高速访问通道_云淘科技
背景说明 访问在线服务的实际业务中，用户可能会存在如下需求： 高吞吐量、低时延 TCP或者RPC请求 因此，ModelArts提供了VPC直连的高速访问通道功能以满足用户的需求。 使用VPC直连的高速访问通道，用户的业务请求不需要经过推理平…
华为云AI开发平台ModelArts从0-1制作自定义镜像并创建AI应用_云淘科技
针对ModelArts目前不支持的AI引擎，您可以针对该引擎构建自定义镜像，并将镜像导入ModelArts，创建为AI应用。本文详细介绍如何使用自定义镜像完成AI应用的创建，并部署成在线服务。 操作流程如下： 本地构建镜像：在本地制作自定义…
华为云AI开发平台ModelArtsTFServing框架迁移到推理自定义引擎_云淘科技
背景说明 TensorFlow Serving是一个灵活、高性能的机器学习模型部署系统，提供模型版本管理、服务回滚等能力。通过配置模型路径、模型端口、模型名称等参数，原生TFServing镜像可以快速启动提供服务，并支持gRPC和HTTP …
华为云AI开发平台ModelArts推理部署_云淘科技
免费体验：一键完成商超商品识别模型部署 从0-1制作自定义镜像并创建AI应用 纳管Atlas 500，将模型部署为边缘服务 推理服务访问公网 推理服务端到端运维 使用自定义引擎创建AI应用 使用大模型创建AI应用部署在线服务 TFServi…
华为云AI开发平台ModelArts使用自定义引擎创建AI应用_云淘科技
使用自定义引擎创建AI应用，用户可以通过选择自己存储在SWR服务中的镜像作为AI应用的引擎，指定预先存储于OBS服务中的文件目录路径作为模型包，来创建AI应用，轻松地应对ModelArts平台预置引擎无法满足个性化诉求的场景。 ModelA…
华为云AI开发平台ModelArtsWebSocket在线服务全流程开发_云淘科技
背景说明 WebSocket是一种网络传输协议，可在单个TCP连接上进行全双工通信，位于OSI模型的应用层。WebSocket协议在2011年由IETF标准化为RFC 6455，后由RFC 7936补充规范。Web IDL中的WebSock…
华为云AI开发平台ModelArts使用大模型创建AI应用部署在线服务_云淘科技
背景说明 目前大模型的参数量已经达到千亿甚至万亿，随之大模型的体积也越来越大。千亿参数大模型的体积超过200G，在版本管理、生产部署上对平台系统产生了新的要求。例如：导入AI应用管理时，需要支持动态调整租户存储配额；模型加载、启动慢，部署时…
华为云AI开发平台ModelArts推理服务访问公网_云淘科技
本章节提供了推理服务访问公网的方法。 应用场景 推理服务访问公网地址的场景，如： 输入图片，先进行公网OCR服务调用，然后进行NLP处理； 进行公网文件下载，然后进行分析； 分析结果回调给公网服务终端。 方案设计 从推理服务的算法实例内部，…
