chenjunheaixuexi的博客

语言模型简单介绍

  文本预处理的核心思想是如何将文本中转化成能够训练的样本，而且通常情况下是转化成序列数据。通常有以下几个步骤：通常英文和中文的处理会有些差别，我们分别举例讲解

序列数据统计工具马尔科夫假设潜变量模型总结使用马尔科夫假设预测简单实现使用正弦函数和一些可加性噪声来生成序列数据，时间步为1,2,…,10001, 2, \ldots, 10001,2,…,1000​​将数据映射为数据对yt=xty_t = x_tyt​=xt​和xt=[xt−τ,…,xt−1]\mathbf{x}_t = [x_{t-\tau}, \ldots, x_{t-1}]xt​=[xt−τ​,…,xt−1​]使用一个相当简单的架构训练模型：一个拥有两个全连接层的多层感知机训练模型

  目标检测算是计算机视觉中应用最为广泛的一个方向。图片分类：目标检测：  目标检测相对于图片分类来讲所做的工作更多，它需要找出所有感兴趣的物体，当图片中只有一个物体时，可以将目标检测看成是图像分类，把图像中最主要的物体当作是图片的类别，但是当图片中有多个物体的时候，目标检测不仅能将所有的物体都检测出来，还能将他们所在的位置标注出来，所以目标检测的应用场景相对来讲更多总结单张图片锚框代码​ ​定义在这两种表示法之间进行转换的函数定义图像中狗和猫的边界框将边界框在图中画出​ CoCo数

什么是数据增强如何使用数据增广进行训练常见的数据增广方法① 翻转② 切割  切割一般是在图片中切割一块出来，然后将它变成固定的形状（之所以是固定的形状，是因为卷积神经网络的输入通常是固定的，一般是224*224）通过对图像进行随机裁剪，使物体以不同的比例出现在图像的不同位置，从而降低模型对目标位置的敏感性如何进行切割（随机性原理）③ 颜色改变颜色中四个比较重要的指标  某一种数据增强的方法有用，很多时候是因为测试集中某些图片和原始图片通过这种数据增强的方式处理之后的效果类似总结标注一个数据集很贵适合

ResNet简单介绍

  几乎所有的主流神经网络都会使用批量归一化，虽然这个思想早已出现，但是这个层的出现没多久。同事想要做很深的神经网络时，这更是一个不可避免的层。现存问题核心思想  之所以后面的参数会随着前面的参数不停变得原因是方差和均值在不同的层之间在不停地变化，我们可以通过固定住分布来增加数值的稳定性批量归一化层批量归一化在做什么总结...

全连接层的问题大量的参数会带来很多问题NiN块总结  从LeNet到NiN，每个模型都有着各自的特点  但是有这么多选择，我们到底应该如何选择？4个路径从不同层面抽取信息，然后在输出通道维合并以上四种方式都没有改变输入的高和宽，因此对于Concatention操作我们只需要将其在通道数上做合并，因此输出只改变了输入的通道数为什么要用Inception块一共分为5各阶段，使用了9个Inception块最后使用了全局AvgPooling代替了全连接层Stage1&2（更小的宽口。可以支撑模型走得更深）

  LeNet是最早用于图像处理的神经网络，主要是为了解决手写数字识别的问题，著名的数据集Minist就是伴随着LeNet的诞生而出现的。下面是其基本架构：代码实现

卷积神经网络相关基础知识介绍

简要介绍模型的过拟合以及解决方法

多层感知机简单介绍以及代码实现

Softmax回归简单介绍以及代码实现

简单问题引出线性模型  从一个房价预测的问题 引出线性回归问题，如果我们做出以下假设：一般的线性模型线性模型可以看作是单层的神经网络