- 博客(28)
- 收藏
- 关注
RSS订阅原创 细胞神经网络理论与应用学习day1
8月17日学习笔记人工神经网络的定义、历史和分类。定义历史分类matlab安装人工神经网络的定义、历史和分类。定义人工神经网络（Artificial Neural Network，即ANN ），是20世纪80 年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象， 建立某种简单模型，按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型，由大量的节点（或称神经元）之间相互联接构成。每个节点代表一种特定的输出函数，称为激励函数（a
2021-08-17 20:20:01
404
原创 吴恩达深度学习课程第二课3.1-3.5学习笔记
8月15日学习笔记调试参数超参数训练的实践：Pandas vs Caviarbatch归一化将batch norm拟合进神经网络调试参数红色框最重要，三个橙色框比较重要超参数训练的实践：Pandas vs Caviarpandas每天调整参数Caviar多个模型同时训练batch归一化使隐藏单元值的均值和方差标准化将batch norm拟合进神经网络加入batch norm后的过程mini-batches上加入batch norm的过程...
2021-08-15 16:09:21
113
原创 吴恩达深度学习课程第二课2.2-2.6学习笔记
8月12日学习笔记指数加权平均指数加权平均的偏差修正动量梯度下降法指数加权平均通过对权重不同的赋值得到不同的曲线权重越大曲线越平缓公式演变通过权重值得到多少天能够下降到较小值指数加权平均的偏差修正对于t较小的时候偏差修正作用比较大动量梯度下降法具体计算方法β通常取0.9...
2021-08-12 18:33:40
163
原创 吴恩达深度学习课程第二课1.11-2.1学习笔记
8月11日学习笔记神经网络的权重初始化梯度的数值逼近梯度检验Mini-ba
2021-08-11 20:32:17
176
原创 吴恩达深度学习课程第二课1.6-1.10学习笔记
8月10日学习笔记dropout正则化归一化输入梯度消失和梯度爆炸dropout正则化随机删除一些节点inverted dropout（反向随机失活）通过除以keep-prob来保持期望值归一化输入归一化输入对于梯度下降有明显的好处梯度消失和梯度爆炸指数级递增和递减...
2021-08-10 17:31:12
237
原创 吴恩达深度学习课程第一课4.1-4.8学习笔记
8月8日学习笔记深层网络中的前向传播核对矩阵的维数搭建深层神经网络块深层网络中的前向传播前向传播的符号和过程核对矩阵的维数通过w和b的两个式子确定w和b的维数搭建深层神经网络块正向方块和反向方块里的内容流程图...
2021-08-08 19:09:30
162
原创 吴恩达深度学习课程第一课3.6-3.11学习笔记
8月7日学习笔记激活函数激活函数的导数神经网络的梯度下降法随机初始化激活函数tahn函数不同层的激活函数可以不一样ReLU函数一般使用ReLU函数，会使你的神经网络的学习速度快很多sigmoid函数除非用在二元分类的输出层，不然绝对不要用leaky ReLU函数激活函数的导数sigmoid函数的导数计算Tanh函数的导数计算ReLU和Leaky ReLU函数的导数计算神经网络的梯度下降法正向传播和反向传播步骤随机初始化如果权重很大，就会使梯度的斜率很小.
2021-08-07 19:31:43
232
原创 吴恩达深度学习课程第一课3.1-3.5学习笔记
8月6日学习笔记神经网络概括神经网络表示神经网络概括计算很多层神经网络表示中间是隐藏层，左边是输入层，右边是输出层一个隐藏层中的计算，用向量化的方向计算矩阵横向的表示不同训练样本...
2021-08-06 19:17:53
124
原创 吴恩达深度学习课程第一课2.14-2.18学习笔记
8月5日学习笔记向量化logistics回归的梯度输出python中的广播关于python_numpy向量的说明logistics损失函数的解释向量化logistics回归的梯度输出这是梯度下降的一次迭代。其他次数还是得使用for循环。python中的广播通过复制N次或M次来达到可以进行运算的标准关于python_numpy向量的说明用下面的方式创建向量logistics损失函数的解释单个训练样本的损失函数表达式推理过程...
2021-08-05 19:58:34
90
原创 吴恩达深度学习课程第一课2.9-2.13学习笔记
8月4日学习笔记logistic回归中的梯度下降法m个样本的梯度下降向量化logistic回归中的梯度下降法通过偏导数对w1、w2、b计算，这是单个样本实例的一次梯度更新步骤。m个样本的梯度下降成本函数J遍历训练集和遍历所有特征向量化向量化比显式for循环更快，经验得知，尽可能不用for循环...
2021-08-04 16:14:46
85
原创 吴恩达深度学习课程第一课2.1-2.8学习笔记
8月3日学习笔记二分分类logistic回归二分分类符号说明logistic回归sigmoid（z)的图形函数表示
2021-08-03 18:32:02
56
原创 吴恩达深度学习课程第四课4.6-4.11学习笔记
8月2日学习笔记神经风格转换深度卷积网络代价函数神经风格转换神经风格转换的例子深度卷积网络越深的网络层能检测更加复杂的模式和特征代价函数代价函数J（G）Jcontent是内容代价和Jstyle是风格代价，α和β是两个超参数al和al代表两个图片C和G在L层的激活函数值，如果这两个激活值相似，意味着两个图片内容相似...
2021-08-02 18:32:02
71
原创 吴恩达深度学习课程第四课4.1-4.5学习笔记
8月1日学习笔记人脸识别One-shot LearningSiamese网络Triplet损失面部识别与二分类人脸识别人脸识别和人脸验证人脸识别的正确率需要远高于99.9%One-shot Learning通过两个图片比较来判断是否是同一个人Siamese网络将第二张图喂给有同样参数的同样的神经网络定义dxi xj可以是训练集中任意两张图片Triplet损失间隔参数α它拉大了anchor 和postive图片对和anchor和negative图片对的差距损失函数与0取
2021-08-01 16:39:37
136
原创 吴恩达深度学习课程第四课3.6-3.10学习笔记
7月31日学习笔记交并比函数(loU）非极大值抑制Anchor boxesYolo算法候选区域交并比函数(loU）可以用来评价对象检测算法交并比函数计算两个边界框交集和并集之比一般loU大于或等于0.5就说检测正确非极大值抑制确保算法对对象只检测一次算法过程Anchor boxes使用anchor box，从anchor box 交并比大的与对象进行匹配，输出y根据对象个数维度增加Yolo算法在划分格子的基础上加上非极大值抑制以及anchor box候选区域R-CNN 带区域
2021-07-31 10:49:18
172
原创 吴恩达深度学习课程第四课3.1-3.5学习笔记
7月30日学习笔记目标定位目标定位分类与定位 通过神经网络输出一个分类结果和四个参数值表示目标在图片中的位置标签y pc表示是否有这个对象 bx by bh bw 分别对应目标的位置参数，c1 c2 c3表示目标的分类，...
2021-07-30 12:00:17
108
原创 吴恩达深度学习课程第四课2.7-2.11学习笔记
7月29日学习笔记inception 网络迁移学习数据增强计算机视觉现状inception 网络inception 模块inception网络中有很多inception模块分支所做的就是通过隐藏层来做出预测，它确保了隐藏单元和中间层也参与了特征计算，它们也能预测图片的分类，在inception网络起到调整的效果，并且能够防止网络发生过拟合迁移学习上一部分是当拥有很少的训练集时，将前面部分冻结，创建自己的softmax层下一部分是拥有较多的训练集时，冻结小部分。规律：训练数据集越多，冻结
2021-07-29 18:10:01
56
原创 吴恩达深度学习课程第四课2.1-2.6学习笔记
7月28日学习笔记经典网络残差网络1x1卷积inception 网络经典网络LeNet-5AlexNetVGG-16残差网络Resnet将信息直接传到神经网络最深层增加捷径，构成一个残差块创建残差网络可以提升网络性能1x1卷积压缩nC的方法，也就是压缩通道数。它给神经网络添加了一个非线性函数，从而减少或保持输入层中的信道数量不变。inception 网络代替人工来确定卷积层中的过滤器类型或者确定是否需要创建卷积层或池化层可以给网络添加这些参数所有可能的值，然后把这些
2021-07-28 16:13:16
71
原创 吴恩达深度学习课程第四课1.6-1.11学习笔记
7月27日学习笔记三维卷积单层卷积网络池化层为什么使用卷积三维卷积6x6x3图像第一个6 ——高度第二个6 ——宽度3——通道数通道数和右过滤器的通道数必须一致输入的4x4图像通道数为1同时使用两个（多个）过滤器，将图像与一个过滤器卷积输出得到4x4，再与第二个过滤器输出得到另外一个4x4，将其堆叠在一起形成4x4x2的立方体。单层卷积网络6x6x3矩阵卷积输出得到第一个4x4矩阵然后增加偏差，偏差是一个实数。通过python的广播机制，给所有16个元素都加上同一偏差。然后应用非线
2021-07-27 19:00:36
93
原创 吴恩达深度学习课程第四课1.1-1.5学习笔记
7月26日学习笔记卷积运算边缘检测Padding卷积步长互相关与卷积卷积运算目的： 没有足够的数据来防止神经网络过拟合和竞争需求边缘检测垂直边缘水平边缘6X6的灰色图像，为了获取垂直边缘构造3x3的矩阵（过滤器）6x6的矩阵和3x3的矩阵进行卷积运算得到4x4的矩阵6x6矩阵表示一张图片，3x3矩阵表示过滤器，4x4矩阵表示另外一张图片卷积运算函数python：conv_forwardtenserflow: tf.nn.conv2dkeras： Conv2D正边、负边由明变暗、
2021-07-26 16:42:24
172
原创 暑期实训day6
暑假实训验证码识别day6可能是由于python的版本与tensorflow和代码不对应，导致一直报错。于是今天将python从3.7换成了3.5，在anaconda下创建一个虚拟环境，并在其中装有所需要的各种包，再尝试运行代码，就跑动了。再者，就是对于分割图片的训练，发现训练的次数再多也无法增加模型识别的准确率，且非常低。于是，我决定用未分割的已做好预处理的图片去进行训练，发现训练效果非常好，对于训练集的准确率能够达到0.99明日任务：在后端添加ocr测试模型...
2020-06-16 08:54:10
100
原创 暑期实训day5
暑假实训验证码识别day5由于星期六早上数据仓库实验答辩以及软件测试实验要提交今日对于暑期实训的项目并没有任何进展计划：周末补上周五的工作量完成模型训练
2020-06-12 20:22:09
97
原创 暑期实训day4
暑假实训验证码识别day 4今天研究了关于模型的建立（CNN）大致教程（https://www.cnblogs.com/mtcnn/p/9411772.html）见识并且了解了很多关于tensorflow类里的函数根据教程和所了解的函数一步一步应该是搭建好了模型，但还没有训练集测试，（由于分割的高要求，所以这种识别方式对于验证码图片要求比较高，字符标准，无粘连）还没有找到方法能够解决等预处理同学将处理过的验证码xml文件给我，应该就能进行模型的训练了。但由于模型目前只能识别一个字符，对于四个字符
2020-06-11 21:01:49
122
原创 暑期实训day3
暑假实训验证码识别day3今天考虑了昨日对于分割的问题的解决方案通过feedxml文件来训练模型，但却没有找到合适的教程(可能并不存在这种方法)于是又尝试去用已有的模型来训练自己的数据集（keras下的yolov3）（教程https://blog.csdn.net/u012746060/article/details/81183006）通过blog一步一步按照他的方法，最终的目标是能够对图片的一些类进行识别（给的例子是person，car等）在图片上标注位置。但可能是tensorflow与kera
2020-06-10 21:06:21
131
原创 暑假实训验证码识别day 2
暑假实训验证码识别day 2今天效率有点低下，主要是对tensorflow的一些了解Tensorflow-gpu和cpu的对比，Gpu版本对于计算量大的工作更加快速简便且成本低Cpu则相对慢且成本高所以选择gpu是更好的选择再就是对于CNN（卷积神经网络）模型结构的了解以及DNN（深度神经网络）今天最重要的还是与健洲同学讨论一下该如何对于数据集分割的处理起初我认为能给我图片当然是最好，但考虑打标签工作量巨大，最后决定还是通过xml处理标签，至于是直接将xml里的内容交给模型训练，还是通过xm
2020-06-09 21:45:12
141
原创 暑期实训每日任务表
暑期实训验证码识别每日任务表第一周6.8 搭建tensorflow环境并且安装tesseract-ocr，大体了解任务6.9-6.10 学习cnn 、训练模型有关模型的知识，以及ocr对于图片的识别6.11-6.14 运用所学尝试去写代码第二周6.15 -6.16 将预处理方面同学的数据集拿过来进来训练6.17 -6.18 对准确率进行计算，并思考如何改善6.19 -6.20 改善并测试6.21 写文档，完成提交工作...
2020-06-09 10:59:12
341
原创 暑假实训day1
暑假实训验证码识别day1分配到了关于基于opencv和ocr的图片分割简单验证码识别（大体不会hh重头开始）第一步环境搭建Tensorflow的gpu版本根据http://blog.sina.com.cn/s/blog_14935c5880102wu86.html前几个步骤来安装1.下载并安装Anaconda进入官网，选择window系统，选择对应python版本的版本的安装包进行下载（我python版本为3.7）在安装过程中有两个选项需要勾上（是将anaconda加入环境变量）2.在线
2020-06-08 22:41:19
131
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人