深度学习（卷积网络、循环神经网络、对抗神经网络、Tensorflow实战）

b站视频

机器学习常规套路

k近邻

k近邻计算流程

• 对于未知类别属性数据集中的点:
• 计算已知类别数据集中的点与当前点的距离
• 按照距离依次排序
• 选取与当前点距离最小的K个点
• 确定前K个点所在类别的出现概率
• 返回前K个点出现频率最高的类别作为当前点预测分类。

练手的的数据集：CIFAR-10

k近邻算法求上边图的差异

k-近邻损失函数

目的是通过不断的训练，使这个值变得越来越小

【补充】

1.平方损失函数

深度学习可以被定义为以下四个基本网络框架中具有大量参数和层数的神经网络：

• 无监督预训练网络
• 卷积神经网络
• 循环神经网络
• 递归神经网络

这篇文章主要讨论三个框架：

• 卷积神经网络（Convolutional Neural Network）基本上就是用共享权重在空间中进行扩展的标准神经网络。卷积神经网络主要是通过内部卷积来识别图片，内部卷积可以看到图像上识别对象的边缘。
• 循环神经网络（Recurrent Neural Network）基本上就是在时间上进行扩展的标准神经网络，它提取进入下一时间步的边沿，而不是在同一时间进入下一层。循环神经网络主要是为了识别序列，例如语音信号或者文本。其内部的循环意味着网络中存在短期记忆。
• 递归神经网络（Recursive Neural Network）更类似于分层网络，其中输入序列没有真正的时间面，但是必须以树状方式分层处理。以下10种方法均可应用于这些框架。
  
  最近邻的缺点，图形——求损失，缺少了建模，会导致不同东西因图片形状相同而被识别成同一种东西