昇腾Ascend系列芯片是华为自研的AI芯片,ModelArts作为AI开发平台,支持使用Ascend芯片提供训练和推理能力,且同时提供了使用MindSpore引擎开发的算法。 昇腾应用样例列表 您可以参考如下Ascend相关案例,使用Mo…
背景说明 WebSocket是一种网络传输协议,可在单个TCP连接上进行全双工通信,位于OSI模型的应用层。WebSocket协议在2011年由IETF标准化为RFC 6455,后由RFC 7936补充规范。Web IDL中的WebSock…
应用场景 一般情况下,用户会通过OBS提供的桶访问域名(例如https://bucketname.obs.cn-north-4.myhuaweicloud.com)或者绑定的自定义域名来访问OBS。 但在某些场景下,用户需要通过固定的IP地…
在创建训练任务时,启动命令输入为“env”。 图1 启动命令 待任务执行完成后,在训练任务详情中查看日志。日志中即为所有的环境变量信息。 图2 查看日志 父主题: FAQ 同意关联代理商云淘科技,购买华为云产品更优惠(QQ 78315851…
场景介绍 本文旨在指导客户将已有的推理业务迁移到昇腾设备上运行(单机单卡、单机多卡),并获得更好的推理性能收益。 ModelArts针对上述使用场景,在给出系统化推理业务昇腾迁移方案的基础上,提供了即开即用的云上集成开发环境,包含迁移所需要…
在pipeline适配完成后,需要验证适配后的效果是否满足要求,通过对比原始onnx pipeline的最终输出结果确认迁移效果。如果精度和性能都没有问题,则代表迁移完成。 对比图片生成效果 在CPU上推理onnx,将原始onnx和适配完成…
性能调优相对来说门槛较高,对PyTorch以及昇腾AI处理器的理解越深刻,越能发挥昇腾AI处理器的计算能力,从而提高训练性能。一般情况下,通过对PyTorch代码做profiling,从而基于数据分析,调整代码,尽可能发挥硬件能力,但在做p…
背景信息 Notebook使用涉及到计费,具体收费项如下: 处于“运行中”状态的Notebook,会消耗资源,产生费用。根据您选择的资源不同,收费标准不同,价格详情请参见产品价格详情。当您不需要使用Notebook时,建议停止Noteboo…
infiniband驱动的安装 如果安装了 libibverbs-dev 库后仍然无法使能 infiniband 网卡,您可以直接安装infiniband官方驱动,以使用infiniband网卡进行分布式通信,提升训练性能。infiniba…
推理迁移包括模型迁移、业务迁移、精度性能调优等环节,是否能满足最终的迁移效果需要进行系统的评估。如果您仅需要了解迁移过程,可以先按照本文档的指导进行操作并熟悉迁移流程。如果您有实际的项目需要迁移,建议填写附录中的推理业务迁移评估表,并将该调…