babyface88888-CSDN博客

转载 tensorFlow入门实践（三）实现lenet5（代码结构优化）

这两周我学习了北京大学曹建老师的TensorFlow笔记课程，认为老师讲的很不错的，很适合于想要在短期内上手完成一个相关项目的同学，课程在b站和MOOC平台都可以找到。在卷积神经网络一节，课程以lenet5为例，给出了完整的代码，通过这样一个例子完成了模型构建、较大数据量的训练和测试。整个代码不复杂，架构完整，我觉得代码很干净，很优秀，所以想把之后需要实现的Alexnet等网络结构都...

2019-01-27 22:43:00 461

转载 tensorFlow入门实践（三）初识AlexNet实现结构

参考黄文坚《TensorFlow实战》一书，完成AlexNet的整体实现并展望其训练和预测过程。 import tensorflow as tf batch_size = 32 num_batches = 100 # 显示网络每一层结构，展示每一个卷积层或池化层输出tensor的尺寸,接受一个tensor作为输入 def print_activations(t)...

2019-01-27 22:17:00 105

转载 tensorFlow入门实践（二）模块化

实现过一个例子之后，对TensorFlow运行机制有了初步的了解，但脑海中还没有一个如何实现神经网络的一个架构模型。下面我们来探讨如何模块化搭建神经网络，完成数据训练和预测。首先我们将整体架构分为两个模块： forward.py 和 backward.py forward.py 主要完成神经网络模型的搭建，即构建计算图 backward.py 训练出网络参数 tes...

2019-01-19 22:27:00 99

转载机器学习笔记（六）神经网络引入及多分类问题实践

一、神经网络引入我们将从计算机视觉直观的问题入手，提出引入非线性分类器的必要性。首先，我们希望计算机能够识别图片中的车。显然，这个问题对于计算机来说是很困难的，因为它只能看到像素点的数值。应用机器学习，我们需要做的就是提供大量带标签的图片作为训练集，有的图片是一辆车，有的图片不是一辆车，最终我们希望我们给出一张图片，计算机可以准确地告诉我们这是不是一辆车。显然这需要...

2018-12-07 14:55:00 330

转载机器学习笔记（五）过拟合问题及正则化

一、过拟合问题 1. 引入线性回归当中：假设我们拿出房屋面积与房价的数据集，随着面积的增大，房价曲线趋于平缓。第一个模型不能很好地拟合，具有高偏差（欠拟合）。我们加入二次项后曲线可以较好的拟合，用第三个模型去拟合时，它通过了所有的数据点，但它是一条扭曲的线条，不停上下波动，我们并不认为它是一个预测房价的好模型。这个现象我们称为过度拟合。（概括：过拟合现象常在变量过...

2018-12-01 12:12:00 118

转载机器学习笔记（四）Logistic回归模型实现

一、Logistic回归实现（一）特征值较少的情况 1. 实验数据吴恩达《机器学习》第二课时作业提供数据1。判断一个学生能否被一个大学录取，给出的数据集为学生两门课的成绩和是否被录取，通过这些数据来预测一个学生能否被录取。 2. 分类结果评估横纵轴（特征）为学生两门课成绩，可以在图中清晰地画出决策边界。 3. 代码实现首先自己实现了梯度下降方法并测试 gra...

2018-11-30 15:51:00 224

转载机器学习笔记（三）Logistic回归模型

Logistic回归模型 1. 模型简介：线性回归往往并不能很好地解决分类问题，所以我们引出Logistic回归算法，算法的输出值或者说预测值一直介于0和1，虽然算法的名字有“回归”二字，但实际上Logistic回归是一种分类算法（classification y = 0 or 1）。 Logistic回归模型：课堂记录（函数图像）：函数h(x)的输出值，我们把它...

2018-11-26 09:59:00 264

转载机器学习笔记（二）线性回归模型实现

一、向量化对于大量的求和运算，向量化思想往往能提高计算效率（利用线性代数运算库），无论我们在使用MATLAB、Java等任何高级语言来编写代码。运算思想及代码对比的同步更新过程向量化向量化后的式子表示成为：其中是一个向量，是一个实数，是一个向量，所以在这里是做一个向量的减法。在将计算向量化的同时，这种运算方式使我们很好地实现了的同步更新，我自行推导...

2018-11-15 21:31:00 212

转载机器学习笔记（一）线性回归模型

（一）引入—梯度下降算法 1. 线性假设： 2. 方差代价函数： 3. 梯度下降： 4. : learning rate （用来控制我们在梯度下降时迈出多大的步子，值较大，梯度下降就很迅速）值过大易造成无法收敛到minimum（每一步迈更大）值较小且适宜的情况下，步子越来越小直到收敛（导数项为零）不再改变。（注：每一次梯度下降，需完成多个的同步更...

2018-11-09 22:43:00 105

babyface88888的博客