机器学习概述

目录

机器学习的基本类型

常见的机器学习算法

1. 线性回归（Linear Regression）

2. 逻辑回归（Logistic Regression）

3. 决策树（Decision Tree）

 4. 支持向量机（Support Vector Machine, SVM）

5. K-Means聚类（K-Means Clustering）

6. 主成分分析（Principal Component Analysis, PCA）

7. 神经网络（Neural Networks）

各种算法的应用场景

结语

---

机器学习的基本类型

机器学习通常分为以下几种类型：

1. 监督学习（Supervised Learning）：系统从标记的数据中学习，即数据有明确的输入和对应的输出。常见的算法有线性回归、逻辑回归、决策树、支持向量机等。

2. 无监督学习（Unsupervised Learning）：系统从没有标记的数据中学习，目标是发现数据的内在结构，如聚类和降维。常见的算法有K-means聚类、主成分分析（PCA）等。

3. 半监督学习（Semi-Supervised Learning）：结合少量标记数据和大量未标记数据进行学习，以提高模型的性能。

4. 强化学习（Reinforcement Learning）：系统通过与环境的交互来学习，目标是通过试错获得最大化的累积奖励。

常见的机器学习算法

1. 线性回归（Linear Regression）

线性回归是最基本的回归算法，适用于预测连续变量。其目标是找到一个线性方程来表示输入变量和输出变量之间的关系。

import numpy as np
import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression

# 生成示例数据
np.random.seed(0)
X = 2 * np.random.rand(100, 1)
y = 4 + 3 * X + np.random.randn(100, 1)

# 数据可视化
plt.scatter(X, y)
plt.title('Scatter plot of generated data')
plt.xlabel('X')
plt.ylabel('y')
plt.show()

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 创建线性回归模型并进行训练
model = LinearRegression()
model.fit(X_train, y_train)

# 预测
y_pred = model.predict(X_test)

# 可视化回归线
plt.scatter(X, y, color='blue', label='Data points')
plt.plot(X_test, y_pred, color='red', linewidth=2, label='Regression line')
plt.title('Linear Regression')
plt.xlabel('X')
plt.ylabel('y')
plt.legend()
plt.show()

 

2. 逻辑回归（Logistic Regression）

逻辑回归是一种分类算法，常用于二分类问题。它通过逻辑函数将线性回归的输出映射到0到1之间的概率值，然后根据概率值进行分类。

from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression
fro