感知机学习算法的对偶形式——代码

最新推荐文章于 2022-07-22 22:45:54 发布

Adopper

最新推荐文章于 2022-07-22 22:45:54 发布

阅读量515

点赞数 1

分类专栏：机器学习笔记文章标签：机器学习 python 算法

本文链接：https://blog.csdn.net/Adopper/article/details/113852525

版权

机器学习笔记专栏收录该内容

4 篇文章 0 订阅

订阅专栏

这段代码实现了一个简单的线性支持向量机（SVM）训练过程，使用了核矩阵方法。训练集包含六个样本，每个样本有两个特征，对应的类别标签为正负两类。通过迭代更新权重向量`w`和偏置项`b`，最终得到分类边界。此代码适用于理解SVM的基本工作原理。

摘要由CSDN通过智能技术生成

《统计学习方法》2.3

import numpy as np

trainingSet = np.mat([[1, 1], [2, 2], [1, 3], [3, 3], [5, 3], [3, 4]])
y = [1, 1, 1, -1, -1, -1]

# 计算Gram矩阵
m = np.shape(trainingSet)[0]
GramMatrix = [None] * m
for i in range(m):
    GramMatrix[i] = [0] * m
    for j in range(m):
        GramMatrix[i][j] = int(np.dot(trainingSet[i], trainingSet[j].T))

# 参数初始化
alpha = [0] * m
b = 0
eta = 1

# 开始训练
isFound = False
while not isFound:
    for i in range(m):
        temp = 0
        for j in range(m):
            temp += alpha[j] * y[j] * GramMatrix[j][i]

        if y[i] * (temp + b) <= 0:
            alpha[i] += 1 * eta
            b += y[i] * eta
            break
        elif i == m - 1:
            isFound = True

w = [0, 0]
for i in range(m):
    w += alpha[i] * trainingSet[i] * y[i]
print(w, b)