小考（机器学习）

 一、学习过程总结

1. 知识准备阶段：学习机器学习基础概念（监督/非监督学习、分类/回归）

2. 工具掌握阶段：熟悉Python生态（NumPy、Pandas、Matplotlib、Scikit-learn）

3. 案例模仿阶段：研究经典案例（鸢尾花分类、房价预测）

4. 问题定义阶段：确定待解决的实际问题

5. 实践开发阶段：数据准备→模型选择→训练→评估→调优

6. 经验总结阶段：分析优化方向，记录常见问题解决方案

 二、AI工具使用指南（以ChatGPT为例）

 1. 使用场景

- 代码生成："用Python实现KNN分类器"

- 错误调试："ValueError: Found array with 0 sample(s)"

- 算法选择建议："图像分类用什么模型最好？"

- 参数调优指导："如何优化SVM的核函数参数？"

 2. 高效提问公式

"【任务类型】+【具体要求】+【输入输出示例】(可选)"

示例："帮我用PyTorch构建CNN网络，输入是28x28灰度图，输出10分类，要求包含两个卷积层"

三、实战案例：MNIST手写数字识别

1. 案例设计思路

```mermaid

graph TD

A[问题定义] --> B[数据加载]

B --> C[数据预处理]

C --> D[模型构建]

D --> E[模型训练]

E --> F[性能评估]

F --> G[结果可视化]

 2. 完整实现代码

python

# 与ChatGPT协作生成的代码（经过人工校验）

import matplotlib.pyplot as plt

import numpy as np

from sklearn.datasets import fetch_openml

from sklearn.model_selection import train_test_split

from sklearn.neighbors import KNeighborsClassifier

from sklearn.metrics import accuracy_score, confusion_matrix

import seaborn as sns

 

# 数据准备阶段

print("正在下载数据集...")

mnist = fetch_openml('mnist_784', version=1, parser='auto')

X, y = mnist.data.to_numpy(), mnist.target.astype(np.uint8)

 

# 数据预处理

print("\n数据预处理中...")

X = X / 255.0 # 归一化

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

 

# 模型训练

print("\n训练KNN分类器...")

knn = KNeighborsClassifier(n_neighbors=3, n_jobs=-1)

knn.fit(X_train, y_train)

 

# 模型评估

print("\n评估模型性能...")

y_pred = knn.predict(X_test)

accuracy = accuracy_score(y_test, y_pred)

print(f"测试集准确率：{accuracy:.4f}")

 

# 可视化结果

fig, axes = plt.subplots(2, 5, figsize=(12, 5))

for i, ax in enumerate(axes.flat):

    ax.imshow(X_test[i].reshape(28, 28), cmap='gray')

    ax.set_title(f"Pred: {y_pred[i]}\nTrue: {y_test.iloc[i]}", color='green' if y_pred[i] == y_test.iloc[i] else 'red')

    ax.axis('off')

plt.tight_layout()

plt.savefig('digit_prediction.png', dpi=300)

 

# 混淆矩阵

cm = confusion_matrix(y_test, y_pred)

plt.figure(figsize=(10,8))

sns.heatmap(cm, annot=True, fmt='d', cmap='Blues')

plt.xlabel('Predicted')

plt.ylabel('True')

plt.savefig('confusion_matrix.png', dpi=300)

```

3. 运行结果

```

正在下载数据集...

数据预处理中...

训练KNN分类器...

评估模型性能...

测试集准确率：0.9711

```

可视化结果：



4. 性能优化建议（来自ChatGPT）

1. 尝试CNN神经网络（准确率可提升至99%+）

2. 使用数据增强技术（旋转/平移图像）

3. 调整KNN参数：

   ```python

   knn = KNeighborsClassifier(

       n_neighbors=5,

       weights='distance',

       algorithm='kd_tree',

       leaf_size=30

   )

4. 使用PCA降维减少特征维度

 四、开发备忘录

1. 常见错误处理：

   - 内存不足：使用`.iloc[:10000]`进行数据采样

   - 版本冲突：固定scikit-learn版本为1.3.0

   - 下载超时：设置`download_timeout=60`

 

2. 效率优化技巧：

   ```python

   # 启用多线程加速

   KNeighborsClassifier(n_jobs=-1)  

   

   # 使用内存映射

   X = np.memmap('temp.dat', dtype='float32', mode='write', shape=X.shape)

   ```

 

3. 扩展方向：

   - 开发Web接口：使用Flask接收手写图片

   - 移动端部署：转换为TensorFlow Lite格式

   - 对抗样本检测：添加异常输入过滤器

 

五、学习资源推荐

1. **AI工具**：ChatGPT、GitHub Copilot、Google Colab

2. **经典教材**：《Hands-On Machine Learning》《Python机器学习》

3. **实战平台**：Kaggle（MNIST竞赛）、阿里云天池