![](https://img-blog.csdnimg.cn/20201014180756923.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
编程
chen_holy
“你要是愿意, 我就永远爱你”——王小波《爱你就像爱生命》
展开
-
笔记 - tensorflow中 Variable 与 get_variable 的用法
莫烦 scope 命名方法我们为什么要对变量命名举个例子:在迁移学习中我们是通过变量名加载相应的值# restore variables# redefine the same shape and same type for your variablesW = tf.Variable(np.arange(6).reshape((2, 3)), dtype=tf.float32, n...原创 2019-08-07 12:52:20 · 550 阅读 · 0 评论 -
笔记 - 数据读取:TFRecords 内部多线程读取文件 (一)
资料:Tensorflow高效读取数据tensorflow的数据输入TensorFlow和Keras解决大数据量内存溢出问题tensorflow的数据输入 - 屌都不会TensorFlow高效读取数据的方法Tensorflow TFRecords及多线程训练介绍 ——详细Google Protocol Buffer 的使用和原理《21个项目玩转深度学习:基于TensorFlow的实...原创 2019-06-20 10:02:52 · 560 阅读 · 0 评论 -
笔记 - tensorflow:sess.run机制
import tensorflow as tfdef read_data(): print("read data ...") return tf.constant(value=[1.0, 2.0, 3.0], dtype=tf.float32)X = read_data()X_train = tf.placeholder(dtype=tf.float32)with tf...原创 2019-06-10 14:25:15 · 776 阅读 · 0 评论 -
笔记 - 数据读取:cifar10多线程读取2
总结:1.images_train, labels_train = cifar10_input.distorted_inputs( data_dir=data_dir, batch_size=batch_size)并不是真的读取数据,而是定义了一系列逻辑操作,返回tensor * tensor里面那些读文件的操作,如何做到在sess.run的时候才真正执行2.for ste...原创 2019-06-10 14:08:57 · 156 阅读 · 0 评论 -
笔记 - 数据读取:cifar10多线程读取1
理论数据增强1张图片变7张图片cifar10.py主要负责cifar10数据集下载定义几个参数batch_size下载数据集存放的地址用什么类型的格式存放模型参数w存储变量数据的一个对象使用eg:cifar10_input.py主要负责数据读取处理IMAGE_SIZE = 24 , 实质就是将cifar10图片原始大小...原创 2019-06-10 13:14:13 · 156 阅读 · 0 评论 -
笔记 - python:StringIO / BytesIO
参考:廖雪峰python的StringIO模块python的StringIO模块本质上就是在内存里操作字符串或者字节嘛,只不过看起来像在操作文件StringIO"""read()等类似文件的接口,使用的时候和文件很像,==光标== 也会移动而且只能读取初始化时加载的数据,不能读取后面 write 的数据"""from io import StringIOf1 = St...原创 2019-06-07 11:16:00 · 176 阅读 · 0 评论 -
笔记 - python:__future__
它在干啥引入python新版本语法特性比如在python2.7的代码中引入python3.6版本的某些语法作用较平稳地实现项目python版本升级eg:如果冒然直接把项目的python版本从2.7升级到3.6,可能会同时出现一大堆错误,影响心情如何使用如果你想在Python 2.7的代码中直接使用Python 3.x的除法,可以通过__future__模块的div...原创 2019-06-07 10:40:18 · 110 阅读 · 0 评论 -
笔记 - tensorflow用法:concat
需求:把所有1拼接在一起,2,3同理import tensorflow as tfx = tf.constant([[[[1,1,1]]], [[[2,2,2]]], [[[3,3,3]]]])y = tf.constant([[[[1,1,1]]], [[[2,2,2]]], [[[3,3,3]]]])a = [x, y]with tf.Session() as sess: ...原创 2019-05-13 16:53:06 · 126 阅读 · 0 评论 -
笔记 - tensorflow用法:placehodler如何传递到函数内部
好像只要声明了placehodler,就可以直接在函数里使用了不需要像传参数一样传递~import tensorflow as tfimport numpy as npX = tf.placeholder(dtype=tf.int32, shape=(2,3))def hello_world(): with tf.Session() as sess: prin...原创 2019-05-13 11:27:43 · 153 阅读 · 0 评论 -
笔记 - tensorflow笔记:tensorboard
TensorFlow-6-TensorBoard 可视化学习tensorflow笔记(三)之 tensorboard的使用Lenet-5 MNIST Tensorboard 参数可视化 直方图 tf.Summary.histogram,tf.Summary.scalar,tf.Summary.image...原创 2019-05-25 11:06:19 · 145 阅读 · 0 评论 -
笔记 - tensorflow用法:argmax 与 axis
axisaxis = 0 不仅可以表示按行操作eg: 相加合并成一行import tensorflow as tfx = tf.constant([[1,2,3], [1,2,3]])with tf.Session() as sess:print(tf.reduce_sum(x, axis=0).eval())# [2 4 6]axis = 0 还可以表示竖直方向impor...原创 2019-05-11 22:31:23 · 151 阅读 · 0 评论 -
笔记 - tensorflow用法:对独热编码分类结果进行评估
语法知识argmax – 返回指定维度上最大值的索引equal – 比较给定的两个值是否一致,支持广播cast – 把布尔值转换成0 1reduce_mean --求加和平均…import tensorflow as tf"""给出样本集的预测分类与实际分类(独热编码)评估准确率"""y = tf.constant([[0, 0, 1], [1, 0, 0]]...原创 2019-05-11 22:46:49 · 1178 阅读 · 0 评论 -
笔记 - 损失函数:交叉熵
import tensorflow as tf"""给出n个样本的预测值与真实值进行计算交叉熵(label已进行热编码)即两个矩阵交叉熵公式倒背如流"""y = tf.constant([[0, 0, 1], [1, 0, 0]], dtype=tf.float32)y_pred = tf.random_uniform(shape=(2, 3), minval=0, maxval...原创 2019-05-11 07:49:08 · 382 阅读 · 0 评论 -
笔记 - tensorflow用法:tf.nn.softmax的用法
思考y_pred = tf.nn.softmax(tf.matmul(x, W) + b) """softmax函数中输入是什么,输出是什么"""要理解输入输出是什么的先决条件:理解softmax的过程softmax函数本质是一种非线性变化############## 占坑,下次更新用图说话 ##################import tensorflow as...原创 2019-05-11 07:49:52 · 3657 阅读 · 0 评论 -
笔记 - tensorflow用法:二维张量与一维张量相加
import tensorflow as tfX = tf.constant([[1, 1], [1, 1]])b = tf.constant([1, 2])with tf.Session() as sess: print(sess.run(X+b)) """ [[2 3] [2 3]] 默认一维数组中每个数只会与 二维数组 中的对应 列 进行广...原创 2019-05-10 22:16:03 · 3866 阅读 · 0 评论 -
笔记 - tensorflow api用法:随机模块
import tensorflow as tf# 均匀分布r1 = tf.random_uniform([1, 2], -1, 1) # -1,1 之间# 正态分布r2 = tf.random_normal([1, 2], mean=0.0, stddev=1.0)with tf.Session() as sess: print(r1.eval()) print(...原创 2019-05-20 13:12:50 · 110 阅读 · 0 评论 -
笔记 - tensorflow语法:reduce_sum
注:不指定keep_dims的reduce_sum,dim(数组维度)最终会减1原创 2019-05-10 16:51:13 · 123 阅读 · 0 评论 -
笔记 - 数据读取:TFRecords 内部多线程读取文件 (二)
对整个流程梳理具体分析在上篇笔记 - 数据读取:TFRecords 内部多线程读取文件 (一)正文...filename_queue = tf.train.string_input_producer(filenames)reader = tf.FixedLengthRecordReader(record_bytes=3073)key, value = reader.read...原创 2019-06-20 12:21:47 · 203 阅读 · 0 评论 -
笔记 - 数据处理:标准归一化
做了啥均值归一化方差归一化作用可以更快的进行梯度下降下降更平稳为啥归一化操作能加速梯度下降一般来说,梯度大的维度更新参数快特征数值会影响梯度的大小eg:特征数值很大,代入梯度计算后得出的结果也可能很大当不同特征的数值相差较大,如年龄(0~100)与 月薪(500~50000)会导致不同维度下降的速度有很大的区别,甚至造成振荡现象应用"""对每一列进行标准归...原创 2019-06-10 19:38:56 · 193 阅读 · 0 评论 -
笔记 - 线性回归:tensorflow原生实现线性回归梯度下降参数更新过程
手动实现线性回归梯度计算公式"""X:m×n矩阵 -- m行样本n个维度error: 列向量"""gradients = 1/m * tf.matmul(tf.transpose(X), error)基于sklearn fetch_california_housing 数据集import tensorflow as tfimport numpy as npfrom sk...原创 2019-06-10 20:12:07 · 1737 阅读 · 0 评论 -
笔记 - 数据结构与算法:单向链表
要实现两个部分:结点对象链表对象假设需求:节点实现要存储数据要存储下一个节点位置class Node(): def __init__(self, item): self.item = item self.next = None单链表实现class SingleLinkList(): def __init__(self): self._head = No...原创 2019-07-01 11:25:30 · 185 阅读 · 0 评论 -
笔记 - 数据结构与算法:顺序表
所以动态结构指的是能在表对象不改变的前提下对数据存储区域进行扩容的结构扩充的方式还有很多eg:每次增加当前容量的一半增加当前容量的3/4......原创 2019-07-01 10:00:00 · 198 阅读 · 0 评论 -
笔记 - 数据结构与算法:【算法的引入】如果 a+b+c=1000,且 a^2+b^2=c^2(a,b,c 为自然数),如何求出所有a、b、c可能的组合?
算法优化带来效率的提高原创 2019-07-01 09:40:51 · 753 阅读 · 0 评论 -
笔记 - 数据结构与算法:Python列表不同操作的时间效率
list添加元素注:把 test 统一改成 tfrom timeit import Timer单纯的生成list,还是list(range())最快list相加的另外一种方式extend和[1]+[2] 即两个列表直接相加要慢但好像extend消耗空间少insert 与 append...原创 2019-07-01 09:15:05 · 205 阅读 · 0 评论 -
笔记 - 算法与数据结构:链表交换相邻元素
class LNode(): def __init__(self, data=None): self.x = data self.next = Nonedef swapPairs(head): pre = head while pre.next and pre.next.next: a = pre.next ...原创 2019-06-11 21:46:52 · 252 阅读 · 0 评论 -
笔记 - 算法与数据结构:反转链表
class LNode: def __init__(self, x=None): self.x = x self.next = Nonedef Reverse(first): cur, pre = first, None while cur: cur.next, pre, cur = pre, cur, cur.next...原创 2019-06-11 19:11:22 · 150 阅读 · 0 评论 -
笔记 - 卷积网络:卷积输出张量shape计算
前置:影响shape形状的因素:1.卷积核大小2.stride步长3.padding模式公式:K – 卷积核数量F – 卷积核大小S – 步长P – 外围填充的层数运用显然valid模式下,直接卷,不够就丢弃我推导的valid模式下的计算方式(以 W 举例):W2 = (W1 - F)/S + 1SAME模式如何确定P利用公式1计算...原创 2019-06-11 16:13:07 · 4426 阅读 · 0 评论 -
笔记 - 模型训练:正则Loss
前置add_to_collectionimport tensorflow as tftf.add_to_collection("reg_losses", 1.0)tf.add_to_collection("reg_losses", 1.0)loss = tf.get_collection("reg_losses")with tf.Session() as sess: pr...原创 2019-06-11 14:55:58 · 1064 阅读 · 0 评论 -
笔记 - 神经网络:参数初始化方式
服从均匀分布的初始化random_uniform自定义区间的均匀分布tf.random_uniform(shape = (n_input, n_output), minval=start, maxval=end, dtype=tf.float32)rand[0,1)区间的均匀分布# 10行一列X = np.random.rand(10,1)"""...原创 2019-06-06 17:54:38 · 690 阅读 · 0 评论 -
笔记 - DNN: 构建网络 与 添加正则化项的不同方式
前置fully_conecteddef fully_connected(inputs, num_outputs, activation_fn=nn.relu, normalizer_fn=None, normalizer_param...原创 2019-06-11 13:02:17 · 524 阅读 · 0 评论 -
笔记 - 模型训练:保存读取使用模型
保存模型# 创建Saver()节点saver = tf.train.Saver()# 训练过程中保存节点save_path = saver.save(sess, "./ckpt/my_model.ckpt", global_step=epoch)# 保存最终节点save_path = saver.save(sess, "./ckpt/my_model_final.ckpt")读...原创 2019-06-11 10:57:48 · 480 阅读 · 0 评论 -
笔记 - 模型训练:监控
打印 训练loss与测试loss print("Epoch", epoch, "MSE = ", sess.run(mse, feed_dict={ X: X_train, y: y_train })) print("Epoch", epoch, "MSE = ", sess.run(mse, feed_di...原创 2019-06-11 10:22:01 · 316 阅读 · 0 评论 -
笔记 - 数据读取:tensorflow mnist手写数据
加载数据集from tensorflow.examples.tutorials.mnist import input_datamnist = input_data.read_data_sets("../data/MNIST_data/", one_hot=True)print(mnist.train.images.shape)读取数据集 batch_xs, batch_ys = my...原创 2019-06-11 10:01:10 · 166 阅读 · 0 评论 -
笔记 - 模型评估:准确率评估
laebl one-hot编码的准确率计算import tensorflow as tfy = tf.constant([[0, 0, 1], [1, 0, 0]], dtype=tf.float32)y_pred = tf.random_uniform(shape=(2, 3))accuracy = tf.reduce_mean(tf.cast(tf.equal(tf.a...原创 2019-06-11 09:33:27 · 921 阅读 · 0 评论 -
笔记 - 梯度下降:基于tensorflow的三种实现
以线性回归为例原生实现...theta = tf.Variable(tf.random_uniform([n + 1, 1], -1.0, 1.0), name='theta')y_pred = tf.matmul(X, theta, name="predictions")error = y_pred - yrmse = tf.sqrt(tf.reduce_mean(tf.sq...原创 2019-06-10 20:30:05 · 333 阅读 · 0 评论 -
python学习笔记:Iterable 与 Iterator
前言一开始只是想知道,iterable 与 iterator的区别后面又拉出来 iter(), next()方法然后还有魔法方法 _ _iter _ _(), _ _ getitem _ _()真的是书到用时方恨少…资料流畅的PythonPython 3 iter函数用法简述python中的Iterator和IterablePython 中 Iterator和Iterab...原创 2019-05-09 17:42:31 · 276 阅读 · 0 评论 -
笔记 - web服务器pyhton: 返回固定页面的HTTP服务器
什么是HTTP协议中文名: 超文本传输协议服务器与浏览器通信的一种规则浏览器发送什么数据服务器能懂服务器发送什么浏览器能懂(自行解析, 渲染页面)import socketdef service_client(new_socket): """为这个客户端返回数据""" # 1.接收浏览器的请求 # GET / HTTP/1.1 # .....原创 2019-05-14 08:28:53 · 151 阅读 · 0 评论 -
笔记 - 正则表达式python: 高级用法
import re# search 只能获取第一个匹配到的值ret = re.search("\d+", "浏览数:999")print(ret.group()) # 999# findall 返回的直接就是列表ret = re.findall("\d+", "浏览数:999,点赞数:100")print(ret) # ['999', '100']# sub 替换匹配到的...原创 2019-05-13 23:05:08 · 293 阅读 · 0 评论 -
笔记: 小批量梯度下降参数求解实现
"""小批量梯度下降描述:每次选取小批量数据集来更新计算梯度场景:一元线性回归"""import numpy as npX = 2 * np.random.rand(100, 1)Y = 4 + 3 * X + np.random.randn(100, 1)X = np.c_[np.ones((100, 1)), X]n_epochs = 10000batch_size...原创 2019-04-24 12:17:51 · 478 阅读 · 0 评论 -
笔记 - tensorflow小案例:线性回归
最小二乘公式:"""tensorflow 实现线性回归案例"""import tensorflow as tfimport numpy as npfrom sklearn.datasets import fetch_california_housing# 装载数据housing = fetch_california_housing(data_home='C:/Users/Mc...原创 2019-05-04 09:37:38 · 153 阅读 · 0 评论