标签： LLM训练业务迁移指导

精度问题是指模型从GPU设备迁移到昇腾NPU设备之后由于软硬件差异引入的精度问题。根据是否在单卡环境下，可分为单卡精度问题与多卡精度问题。多卡相对于单卡，会有卡与卡之间的通信，这可能也是精度偏差的一种来源。所以多卡的精度对齐问题相对于单卡会…

本文以Pytorch框架在NPU上完成自动迁移为例，对适配过程需要修改的部分进行说明。并且针对单卡环境以及单机多卡deepspeed环境提供训练脚本。无特别说明，以ChatGLM-6B源代码根目录作为当前目录。 自动迁移适配 修改“ptun…

场景介绍 环境准备 迁移适配 精度对齐 性能调优 常见问题 父主题： 昇腾应用教程 同意关联代理商云淘科技，购买华为云产品更优惠（QQ 78315851） 内容没看懂？ 不太想学习？想快速解决？ 有偿解决： 联系专家