RBF高斯径向基核函数-libsvm

最新推荐文章于 2024-08-08 07:55:12 发布

徐海蛟博士

最新推荐文章于 2024-08-08 07:55:12 发布

阅读量2w

点赞数 5

分类专栏：徐海蛟教学文章标签： svm 机器学习

本文链接：https://blog.csdn.net/xuhaijiao99/article/details/16369121

版权

本文详细介绍了RBF高斯径向基核函数的原理，包括公式推导、Matlab实现以及在LibSVM中的应用。通过计算两个向量的相似性，展示了如何构建高斯RBF的核矩阵，并提供了高效的Matlab代码示例，适用于机器学习中的SVM训练和预测。

摘要由CSDN通过智能技术生成

XVec表示X向量。||XVec||表示向量长度。
r表示两点距离。r^2表示r的平方。
k(XVec,YVec) = exp(-1/(2*sigma^2)*(r^2))
= exp(-gamma*r^2) ...... 公式-1
这里, gamma=1/(2*sigma^2)是参数, r=||XVec-YVec||
实际上，可看作是计算2个点X与Y的相似性。很多参考书上，把YVec写作XVec',即 k(XVec, XVec')，也是一样的含义:两点相似性。由于Matlab上面XVec'代表XVec的转置向量(XVec)T,所以，为规避歧义，我记作k(XVec,YVec)。如：LibSVM代码，机器学习经典教材《Pattern Recognition and Machine Learning -Bishop》P312.(三大牛人巨著: Michael I. Jordan,加州大学伯克利分校计算机系/Jon Kleinberg,康奈尔大学计算机系/Bernhard Schölkopf德国蒂宾根马普所)。
r是半径(radial)，这也是径向基核函数(radial basis function)名称的由来。

很容易，写出高斯RBF matlab代码:
r = norm(XVec-YVec, 2); % L2范数嘛
或者: r = sum((XVec-YVec).^2)^(1/2);
k = exp(-gamma*r^2);

假设X与Y矩阵的每一行是一个样本，如何求得K(X,Y)?
假若X = train