配置ModelArts和SFS Turbo间网络直通 配置SFS Turbo和OBS联动 配置SFS Turbo数据自动导出到OBS桶 配置SFS Turbo数据淘汰策略 父主题: 实施步骤 同意关联代理商云淘科技,购买华为云产品更优惠(Q…
SFS Turbo HPC型文件系统支持无缝访问存储在对象存储OBS存储桶中的对象,您可以指定SFS Turbo内的文件目录与OBS对象存储桶进行关联。 登录SFS管理控制台,在左侧导航窗格中选择“SFS Turbo”。 在文件系统列表中,…
创建委托授权ModelArts云服务使用SFS Turbo 使用IAM管理员帐号登录IAM控制台。 在IAM控制台的左侧导航窗格中选择“权限管理 > 权限”,单击右上角的“创建自定义策略”,进入自定义策略配置页面。 输入“策略名称”,…
配置自动导出后,训练过程中周期性写入SFS Turbo文件系统的Checkpoint模型文件会自动以异步方式导出到关联的OBS桶中进行长期保存,无需手工导出,异步导出方式不会占用上层训练任务时间。 SFS Turbo的自动导出功能当前处于受…
SFS Turbo HPC型文件系统绑定OBS后端之后,建议配置缓存数据淘汰功能。SFS Turbo会自动释放设定时间内没有访问过的文件数据内容,仅保留文件元数据,数据内容释放后不占用SFS Turbo文件系统上的存储空间,再次访问该文件时…
本小节介绍如何在ECS服务器挂载SFS Turbo存储,挂载完成后可在后续步骤中,将训练所需的数据通过ECS上传至SFS Turbo。 前提条件 已创建SFS Turbo,若未创建,请参考创建文件系统。 数据及算法已经上传至OBS,若未上传…
登录ModelArts管理控制台,在左侧导航栏中选择“专属资源池”,默认进入“资源池”页面。 切换到“网络”页签,单击“创建”,填写网络名称,并选择网段。 图1 网络列表 图2 创建网络 设置以后不能修改,避免与将要打通的VPC网段冲突。 …
通过打通VPC,可以方便用户跨VPC使用资源,提升资源利用率。 在“专属资源池 > 网络”页面,单击网络列表中某个网络操作列的“打通VPC”。 图1 打通VPC 在打通VPC窗口,打开开关,在下拉框中选择可用的VPC和子网。 图2 打…
权限配置 创建网络 专属资源池VPC打通 ECS服务器挂载SFS Turbo存储 在ECS中创建ma-user和ma-group obsutils安装和配置 (可选)工作空间配置 父主题: 专属资源池训练上云最佳实践 同意关联代理商云淘科技…
obs安装请参考:https://support.huaweicloud.com/utiltg-obs/obs_11_0003.html obstuils配置请参考:https://support.huaweicloud.com/utilt…