在R语言中,可以使用 rBayesianOptimization 实现超参数的贝叶斯优化过程
此处对其中方法 BayesianOptimization() 的使用进行整理。
方法参数说明:
BayesianOptimization(
FUN, # 需要优化的函数,目标最大化。此函数应返回包含2个成分的命名列表。第一个成分“Score”应为需要最大化的量,第二个分量“Pred”应为验证集上的预测值,可以是交叉验证结果。
bounds, # 每个超参数的下限和上限的命名列表。列表的名称应与FUN的参数相同。init_grid_dt中的所有采样点都应该在边界范围内。请使用“L”后缀表示整数超参数。
init_grid_dt = NULL, # 用户指定的目标函数采样点,应是一个data.frame或data.table,与bounds具有相同的列名。如果目标函数是预采样的,用户可以在末尾添加一个“Value”列。
init_points = 0, # 在贝叶斯优化拟合高斯过程之前对目标函数进行采样的随机选择点的数量。
n_iter, # 重复贝叶斯优化的总次数。
acq = "ucb", # 要使用的采集函数的类型。可以是“ucb”、“ei”或“poi”。其中,ucb:GP Upper Confidence Bound,ei:Expected Improvement,poi: