python实现核函数

import numpy as np
from scipy.spatial.distance import pdist, squareform

一：高斯核函数

如果输入特征是一维标量，该函数的形状为钟形曲线，参数\sigma控制曲线的宽度（胖瘦）。

# 高斯核函数
def rbf(x, gamma = 20):
    sq_dists = pdist(x, 'sqeuclidean')
    mat_sq_dists = squareform(sq_dists)
    return np.exp(-gamma*mat_sq_dists)

pdist,用于计算样本对之间的欧式距离;squareform将样本间距离(pdist函数得到的结果）用方阵表示出来。

x=np.array([[1,1,1],[2,2,2],[4,4,4]])  #三个一维向量：x1=[1,1,1] x2=[2,2,2],x3=[4,4,4]
print(pdist(x))
# d(x1,x2)=sqrt(3)=1.7 ,d(x1,x3)=sqrt(27),d(x2,x3)=sqrt(8)
# array([1.73205081, 5.19615242, 3.46410162])
print(squareform(pdist(x)))
# array([[0.        , 1.73205081, 5.19615242],     # d(x1,x1),d(x1,x2),d(x1,x3)
#        [1.73205081, 0.        , 3.46410162],	 # d(x2,x1),d(x2,x2),d(x2,x3)
#        [5.19615242, 3.46410162, 0.        ]])    # d(x3,x1),d(x3,x2),d(x3,x1)

[1.73205081 5.19615242 3.46410162]
[[0.         1.73205081 5.19615242]
 [1.73205081 0.         3.46410162]
 [5.19615242 3.46410162 0.        ]]

二：sigmoid核函数

# sigmoid核函数 双曲正切函数
def sigmoid(x, coef = 0.25):
    x = np.dot(x, x.T)
    return np.tanh(coef*x+1)

三：线性核函数

# 线性核函数
def linear(x):
    x = np.dot(x, x.T)
    return x

四：多项式核

#多项式核函数
def _poly(x, y, p, c):
    return (x.dot(y.T) + c) ** p