这些算法学习回归,这些回归被构建为基函数的加权线性组合;在存在训练数据的情况下估计权重。在许多这些算法中,允许的基函数集是不受限制的;例如,它们可能是它们本身的原始特征,这些特征的一些非线性变换,甚至是以训练样本为中心的内核。