华为云AI开发平台ModelArts自动扩缩容_云淘科技
自动扩缩容,用户可以设置合理的弹性伸缩策略,在高、低峰时间段自动对实例进行扩容或缩容的操作,进而提高资源的利用率。
前提条件
服务状态处于“运行中”、“异常”和“告警”,才能执行扩缩容操作。
约束限制
公共资源池部署的在线服务不支持自动扩缩容。
服务处于“停止”、“异常”、“部署中”状态,以及正在扩缩容时,不允许扩缩容。
至少配置一条策略规则。
操作步骤
登录ModelArts管理控制台,在左侧导航栏中选择“部署上线 > 在线服务”,默认进入“在线服务”列表。
单击服务名称前面的复选框,展开列表页面底部的延展视图(未展开延展视图时,可单击页面底部浮层区域或右下角展开)。
单击目标AI应用版本操作列中的“扩缩容”,进入服务“扩缩容”页面。
图1 扩缩容
完成参数配置。服务名称、当前AI应用版本、资源池、AI应用及版本、计算节点规格参数不支持修改。
是否自动停止:若部署服务开启了自动停止功能,则会显示该字段,服务将在指定时间后自动停止,可单击“这里”修改自动停止时间。
扩缩容类型选择“自动”,页面将展开扩缩容策略的配置窗口,您可以设置扩缩容策略和重置扩缩容策略。
设置扩缩容策略
设置扩缩容,配置参数如下:
参数名称 |
说明 |
---|---|
策略名称 |
配置伸缩策略的名称。支持1-64位可见字符,只能由小写字符、数字、“-”或“.”组成,且必须以字母或数字开头或结尾。 |
规则类型 |
定时触发:设置定时策略规则,定时触发扩缩容。 调度规则:支持查看、添加、删除,以及设置是否启用。 |
查看规则
在调度规则列表,您可以查看规则包括规则名称、状态、规则类型、触发条件、目标实例数、是否启用、操作等信息。
当前支持的规则状态包括:创建中、配置成功、配置失败、执行成功、执行失败。规则已完成配置,但尚未触发时,状态为“配置成功”。若达到触发条件,完成扩缩容动作,则状态为“执行成功”。若服务在停止状态下,创建规则,状态会显示创建中,启动服务后规则自动配置成功。
若调度规则的状态一直为“创建中”,可能由于资源池版本过低导致,请联系华为工程师解决。
添加规则
单击“添加”,弹出添加规则弹窗,完成参数配置后,单击“确认”。
规则配置参数如下表:
参数名称 |
说明 |
---|---|
规则名称 |
只能由小写字母、数字、“-”或“.”组成,且必须以字母或数字开头和结尾。规则名称不能重复。最多支持20个字符。 |
目标实例数 |
设置扩缩容的目标实例数。 |
触发时间 |
选择规则触发时间,执行频率包括:每天、每周、每月和corn表达式。触发时间基于节点所在时区计算。corn表达式设置规范请参考corn表达式。 |
您最多可增加10个规则。
删除规则
单击调度规则列表“操作”列中的“删除”,即可删除当前行调度规则。
是否启用规则
单击策略规则列表“是否启用”列开关,开启或关闭当前行调度规则。关闭后,规则将不会生效。
重置扩缩容策略
单击策略名称右侧的“重置”按钮,重置自动扩缩容策略,重置后将清空现在的自动扩缩容名称和规则。
单击“确认”后,服务会根据设置的伸缩策略进行自动扩缩容。
corn表达式
通过设置cron表达式,触发自动扩缩容。corn表达式由5个时间字段组成:分钟 小时 日 月 星期,如“30 10 15 * *”表示每月15日上午10:30触发,请根据当地时区进行设置。
图2 corn表达式语法
时间参数说明
名称 |
可选值 |
可选特殊字符 |
---|---|---|
分 |
0-59 |
* , – / |
小时 |
0-23 |
* , – / |
日 |
1-31 |
* , – / |
月 |
1-12 或 JAN-DEC |
* , – / |
星期 |
0-6 或 SUN-SAT |
* , – / |
特殊符号说明
特殊符号 |
说明 |
---|---|
通配符(*) |
代表任意值,例如:0 0 1 * * 代表每月1号的0点整。 |
逗号(,) |
用于分隔列表项。例如:0 12,16 * * * 代表每天的12:00 和16:00。 |
连字符(-) |
代表一段取值范围。例如: 0 12-16 * * * 代表每天的12:00到16:00。 |
斜杠(/) |
代表范围增量,例如: */10 * * * * 代表每小时的 0分、10分、20分、30分、40分和40分。斜杠可以和连字符配合使用,例如 3-59/15 * * * * 代表每小时从3分到59分钟之间,每隔15分钟取一个值,有效时间点可以是 0:03,0:18,0:43,0:58。 |
父主题: 扩缩容
同意关联代理商云淘科技,购买华为云产品更优惠(QQ 78315851)
内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家