华为云AI开发平台ModelArts贝叶斯优化(SMAC)_云淘科技
贝叶斯优化假设超参和目标函数存在一个函数关系。基于已搜索超参的评估值,通过高斯过程回归来估计其他搜索点处目标函数值的均值和方差。根据均值和方差构造采集函数(Acquisition Function),下一个搜索点为采集函数的极大值点。相比网格搜索,贝叶斯优化会利用之前的评估结果,从而降低迭代次数、缩短搜索时间;缺点是不容易找到全局最优解。
参数 |
说明 |
取值参考 |
---|---|---|
num_samples |
搜索尝试的超参组数 |
int,一般在10-20之间,值越大,搜索时间越长,效果越好 |
kind |
采集函数类型 |
string,默认为’ucb’,可能取值还有’ei’、’poi’,一般不建议用户修改 |
kappa |
采集函数ucb的调节参数,可理解为上置信边界 |
float,一般不建议用户修改 |
xi |
采集函数poi和ei的调节参数 |
float,一般不建议用户修改 |
父主题: 搜索算法
同意关联代理商云淘科技,购买华为云产品更优惠(QQ 78315851)
内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家