更新时间:2023-01-18 GMT+08:00

贝叶斯优化(SMAC)

贝叶斯优化假设超参和目标函数存在一个函数关系。基于已搜索超参的评估值,通过高斯过程回归来估计其他搜索点处目标函数值的均值和方差。根据均值和方差构造采集函数(Acquisition Function),下一个搜索点为采集函数的极大值点。相比网格搜索,贝叶斯优化会利用之前的评估结果,从而降低迭代次数、缩短搜索时间;缺点是不容易找到全局最优解。

表1 贝叶斯优化的参数说明

参数

说明

取值参考

num_samples

搜索尝试的超参组数

int,一般在10-20之间,值越大,搜索时间越长,效果越好

kind

采集函数类型

string,默认为'ucb',可能取值还有'ei'、'poi',一般不建议用户修改

kappa

采集函数ucb的调节参数,可理解为上置信边界

float,一般不建议用户修改

xi

采集函数poi和ei的调节参数

float,一般不建议用户修改