![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
TensorFlow
白 夜
这个作者很懒,什么都没留下…
展开
-
神经网络实战之Fashion-MNIST
Fashion-MNIST 时尚物品数据集训练集为 60,000 张 28x28 像素灰度图像,测试集为 10,000 同规格图像,总共 10 类时尚物品标签。该数据集可以用作 MNIST 的直接替代品。类别标签是Keras 的核心数据结构是 model,一种组织网络层的方式。最简单的模型是 Sequential 顺序模型,它由多个网络层线性堆叠该Sequential模型是层的线性堆栈,通...原创 2019-10-25 16:47:49 · 1932 阅读 · 1 评论 -
17.链式法则
链式法则神经网络上的公式:通过使用链式法则就可以把最后一层的误差,一层层的输出到中间层的权值上面去,从而得到中间层的一个梯度信息。通过这个梯度信息就能很好的更新这个权值,从而到达一个最优化的效果。链式法则表达形式:链式法则原则基础原则乘积原则除法原则链式法则 对于一个比较简单的线性层直接相加的话,可以直接展开得到关于关于求导数的表达式,但是对于实际的神经网络和激活函数来...原创 2019-10-14 21:27:49 · 1144 阅读 · 0 评论 -
16.感知机及其梯度
感知机及其梯度1.单输出感知机及其梯度单层感知机模型y = X*W + by = sum( Xi * Wi + b)大体描述loss对节点的求导总结代码实现import tensorflow as tfimport osos.environ['TF_CPP_MIN_LOG_LEVEL']= '2'x = tf.random.normal([1,3])w = tf....原创 2019-10-13 18:28:43 · 248 阅读 · 0 评论 -
15.损失函数及其梯度
损失函数及其梯度损失函数1.Mean Squared Error均方差(MSE)2.Cross Entropy Loss交叉熵损失(分类误差)即可用于binary二分类也可用于multi-class多分类搭配softmax激活函数在Logistic Regression Part(逻辑回归部分)中使用MSE线性感知机下的梯度求导情况全连接层的MSE梯度求导...原创 2019-10-13 15:30:52 · 2458 阅读 · 0 评论 -
13.梯度下降
梯度下降导数代表函数沿着某一方向变动的范围,是更高层更通用的概念。偏微分是函数沿着某一具体的轴进行变动的范围,是一个标量(含有方向)梯度是指把函数所有轴上的偏微分合在一起得到一个向量梯度的意义:梯度的方向代表函数增大的方向,梯度的模大小代表增大的速率梯度的利用寻找函数的最小值求函数的全局最小值点利用TensorFlow自动求解梯度,自动更新参数With Tf.Gradie...原创 2019-10-10 20:45:10 · 1084 阅读 · 0 评论 -
8.张量排序,填充与复制
8.张量排序,填充与复制I. 张量排序1.tf.sort/argsort()通过设置参数direction为DESCENDING则为降序排列,默认为升序排列tf.sort(values,axis=-1,direction=‘ASCENDING’):对某一维度排序,tf.argsort(values,axis=-1,direction=‘ASCENDING’):排序索引,得到排序后的索引...原创 2019-10-10 19:12:48 · 309 阅读 · 0 评论 -
7.数据统计
7.数据统计1.tf.norm() 张量的范数(向量的范数)张良的范数包括向量范数和矩阵范数,这里只讨论向量范数Vertor Norm 向量范数二范数:所以元素的平方和再开方无穷范数:元素中间最大一个值的绝对值一范数:元素绝对值之和tf.norm(tensor, ord=‘euclidean’, axis=None)tensor:为待计算范数的输入ord:指定计算哪种范数,默认...原创 2019-10-07 15:00:00 · 177 阅读 · 0 评论 -
6.合并与分割
合并与分割Merge and split 接口合并:tf.concat和tf.stack分割:tf.split和tf.unstackconcat-Statistics about scores[class1-4, students, scores][class5-6, students, scores]例如:6个班级每班35个学生每个学生8门成绩,让2个同学收集成绩单,第1个学生...原创 2019-10-03 23:20:23 · 757 阅读 · 0 评论 -
5.数学运算
5.数学运算运算类型element-wise 元素相关、matrix-wise 矩阵相关@ matmuldim-wise 维度相关reduce_mean/ max/ min/ sum一. element-wise 元素相关+ - * / % //In [47]: a=tf.ones([2,2])In [49]: b=tf.fi...原创 2019-09-22 22:36:04 · 110 阅读 · 0 评论 -
3.维度变换
3.维度变换View视图[ b, 28, 28 ][ b, 28 * 28 ][ b, 2, 14 * 28 ][ b, 28, 28, 1 ]这4个View不同,但是原来的content不变In [4]: a =tf.random.normal([4,28,28,3])In [8]: a.shape,a.ndimOut[8]: (TensorShape([4, 28, 28,...原创 2019-09-22 14:43:51 · 345 阅读 · 0 评论 -
1.Tensorflow基础
1.Tensorflow基础关于TensorflowTensorFlow™ 是一个采用数据流图(data flow graphs),用于数值计算的开源软件库。节点(Nodes)在图中表示数学操作,图中的线(edges)则表示在节点间相互联系的多维数据数组,即张量(tensor)。它灵活的架构让你可以在多种平台上展开计算,例如台式计算机中的一个或多个CPU(或GPU),服务器,移动设备等等。数...原创 2019-09-21 13:44:35 · 159 阅读 · 0 评论 -
2.索引切片
2.索引切片TensorFlow索引切片的方式方法与Numpy类似,但又比较简洁In [4]: a=tf.random.normal([4,28,28,3])In [6]: a[1].shapeOut[6]: TensorShape([28, 28, 3])In [7]: a[0].shape #与a[1].shape相同Out[7]: TensorShape([28...原创 2019-09-21 23:50:35 · 102 阅读 · 0 评论