KNeighborsClassifier与KNeighborsRegressor的实现

一.KNeighborsClassifiera的实现

  1. 导入KNeighborsClassifier

from sklearn.neighbors import KNeighborsClassifier

sklearn.neighbors模块中导入了KNeighborsClassifier类。KNeighborsClassifier是一个用于分类的模型,它基于实例的学习,通过测量不同数据点之间的距离来进行分类。
2. 创建KNeighborsClassifier实例

estimator = KNeighborsClassifier(n_neighbors=1)

创建了一个KNeighborsClassifier的实例,并设置n_neighbors=1。这意味着在分类一个新的点时,它会查看最接近的1个邻居的类别,并将该类别分配给新的点。

注释:n_neighbors:int,可选(默认= 5),k_neighbors查询默认使用的邻居数
3. 定义特征集和标签集

X = [[1,5,7], [2,6,9], [3,7,4], [3,5,8]]
y = [0, 0, 1, 1]

X是一个特征集,其中每个子列表代表一个样本的特征。y是一个标签集,与X`中的样本依次对应。从给定的数据中,我们可以看到有两个类别(0和1)。
4. 训练模型

estimator.fit(X, y)

使用fit方法,我们让模型学习从Xy的映射。这样,模型就能基于给定的特征来预测类别了。
5. 预测

myret = estimator.predict([[2,6,9]])

模型来预测一个新样本[2,6,9]的类别。因为我们在创建KNeighborsClassifier时设置了n_neighbors=1,所以模型会查找与[2,6,9]最接近的样本,并返回其类别。
6. 打印预测结果

print('myret-->', myret)

最后,打印出预测结果。如果[2,6,9]X中的某个样本非常接近(或就是其中的一个),那么它的预测类别应该与那个样本的类别相同。

下面是KNeighborsClassifier完整的代码:

from sklearn.neighbors import KNeighborsClassifier
estimator = KNeighborsClassifier(n_neighbors=1)
X = [[1,5,7], [2,6,9], [3,7,4,], [3,5,8]]
y = [0, 0, 1, 1]
estimator.fit(X, y)
myret = estimator.predict([[2,6,9]])
print('myret-->', myret)

运行结果为:

C:\Users\wang\AppData\Local\anaconda3\envs\edumlpy3.9\python.exe C:\Users\wang\实习\回归.py 
myret--> [0]

进程已结束,退出代码0

二.KNeighborsRegressor的实现

  1. 导入KNeighborsRegressor:

from sklearn.neighbors import KNeighborsRegressor

这行代码从sklearn.neighbors模块中导入了KNeighborsRegressor类。

2.创建KNeighborsRegressor对象:

estimator = KNeighborsRegressor(n_neighbors=2)

这里创建了一个KNeighborsRegressor对象,其中n_neighbors=2表示模型在预测时会考虑数据集中与目标点最近的2个邻居。

3.定义特征矩阵X和目标向量y:

X = [[0, 0, 1],
[1, 1, 0],
[3, 10, 10],
[4, 11, 12]]
y = [0.1, 0.2, 0.3, 0.4]

X是一个4x3的特征矩阵,表示有4个样本,每个样本有3个特征。y`是一个长度为4的目标向量,表示这4个样本的目标值。

4.训练模型:

estimator.fit(X, y)

使用fit方法,将特征矩阵X和目标向量y作为输入,训练模型。

5.进行预测:

myret = estimator.predict([[3, 11, 10]])

使用predict方法,对新的数据点[3, 11, 10]进行预测。这个数据点将基于其在训练数据中的两个最近邻居的目标值进行预测。

6.打印预测结果:

print('myret-->', myret)

输出预测结果。

下面是KNeighborsRegressor完整代码:

from sklearn.neighbors import KNeighborsRegressor
estimator = KNeighborsRegressor(n_neighbors=2)
X = [[0, 0, 1],
[1, 1, 0],
[3, 10, 10],
[4, 11, 12]]
y = [0.1, 0.2, 0.3, 0.4]
estimator.fit(X, y)
myret = estimator.predict([[3, 11, 10]])
print('myret-->', myret)

运行结果如下:

C:\Users\wang\AppData\Local\anaconda3\envs\edumlpy3.9\python.exe C:\Users\wang\实习\回归2.py 
myret--> [0.35]

进程已结束,退出代码0

  • 5
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
sklearn 是一个强大的 Python 机器学习库,提供了许多常用的算法实现。下面是一些常用算法的简单介绍和在 sklearn 中的实现: 1. GLMNET:广义线性模型正则化算法。在 sklearn 中,可以使用 LogisticRegression 和 RidgeCV 实现。 ```python from sklearn.linear_model import LogisticRegression, RidgeCV # LogisticRegression lr = LogisticRegression(penalty='l1', solver='liblinear') # RidgeCV rcv = RidgeCV(alphas=[0.1, 1.0, 10.0]) ``` 2. CART:分类回归树算法。在 sklearn 中,可以使用 DecisionTreeClassifier 和 DecisionTreeRegressor 实现。 ```python from sklearn.tree import DecisionTreeClassifier, DecisionTreeRegressor # DecisionTreeClassifier dtc = DecisionTreeClassifier() # DecisionTreeRegressor dtr = DecisionTreeRegressor() ``` 3. BART:贝叶斯加性回归树算法。在 sklearn 中没有直接实现,可以使用 PyMC3 库实现。 4. XGBoost:梯度提升树算法。在 sklearn 中,可以使用 GradientBoostingClassifier 和 GradientBoostingRegressor 实现。 ```python from sklearn.ensemble import GradientBoostingClassifier, GradientBoostingRegressor # GradientBoostingClassifier gbc = GradientBoostingClassifier() # GradientBoostingRegressor gbr = GradientBoostingRegressor() ``` 5. KNN:K 最近邻算法。在 sklearn 中,可以使用 KNeighborsClassifierKNeighborsRegressor 实现。 ```python from sklearn.neighbors import KNeighborsClassifier, KNeighborsRegressor # KNeighborsClassifier knc = KNeighborsClassifier(n_neighbors=3) # KNeighborsRegressor knr = KNeighborsRegressor(n_neighbors=3) ``` 6. SVM:支持向量机算法。在 sklearn 中,可以使用 SVC 和 SVR 实现。 ```python from sklearn.svm import SVC, SVR # SVC svc = SVC() # SVR svr = SVR() ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值