tensorflow
飞猫侠
渴望一流技术的三流技术宅
展开
-
关于DNN,CNN,RNN的一些思考
关于DNN(这里指的dense),CNN,RNN之前一直没搞清楚这三种网络到底本质的区别在哪里?经过一些反复的思考和实验,结合tensorflow提供的API,将一些感悟和想法记录一下。 首先,创建一个 batch_size=1 的序列,假设该序列是经过词嵌入处理后的,如下:x_inputs = tf.constant(np.random.random(10*...原创 2019-03-21 01:49:40 · 1763 阅读 · 0 评论 -
Tensorflow 那些年踩过的坑
指定GPU import osgpu_no = '0' # or '1'os.environ["CUDA_VISIBLE_DEVICES"] = gpu_no 定义TensorFlow训练配置 config = tf.ConfigProto()config.gpu_options.allow_growth = True # 配置GPU内存分配方式,按需增长,很关键c...原创 2019-06-06 19:24:02 · 586 阅读 · 0 评论 -
Learning Tensorflow (4)
搞了那么多准备工作,这节开始来训练一个模型吧,官网上有个关于手写识别完整的例子,模型预测率大概是 91% , 本来打算换一个数据集来玩,结果发现预测率出奇的低(可能是数据量不够,杀鸡用了牛刀),也许是我开打的方式不对. (含泪) 先引入两个损失函数:– 交叉熵: f1(x)=∑i=1ny′ilog(yi)\begin{align}f_1(x) = \sum_{i=1}^n y'原创 2017-08-23 16:55:29 · 2033 阅读 · 0 评论 -
Learning Tensorflow (3)
在学习 Tensorflow 官方文档时,简介介绍了用 tensorflow 针对生成的一些三维数据来拟合一个平面的例子。 import tensorflow as tfimport numpy as np# 使用 NumPy 生成假数据(phony data), 总共 100 个点.x_data = np.float32(np.random.rand(2, 100)) # 随机原创 2017-08-22 19:28:36 · 2090 阅读 · 0 评论 -
Learning Tensorflow (2)
上章节对比了一下 numpy 和 tensorflow 的计算方式,这节来具体阐述一下tensorflow的工作原理: Tensorflow是用数据流图(data flow graphs)技术来进行数计算的!!! 那么问题来了,啥是数据流图???(重要的问题问三遍) 数据流图(Data Flow Diagram):简称DFD,它从数据传递和加工角度,以图形方式来表达系统的原创 2017-08-21 15:12:00 · 2052 阅读 · 0 评论 -
Learning Tensorflow (1)
TensorFlow 是谷歌基于 DistBelief 进行研发的第二代人工智能学习系统,其命名来源于本身的运行原理。Tensor(张量)意味着N维数组,Flow(流)意味着基于数据流图的计算,TensorFlow 为张量从流图的一端流动到另一端计算过程。TensorFlow是将复杂的数据结构传输至人工智能神经网中进行分析和处理过程的系统。 —— [百度百科] 以上是百度百科对Tenso原创 2017-08-20 22:51:53 · 2057 阅读 · 0 评论 -
TensorFlow简单实例(三):nearest_neighbor
http://www.longxyun.com/blog.html [原文地址] k-NN算法:有那么一堆你已经知道分类的数据,然后当一个新数据进入的时候,就开始跟训练数据里的每个点求距离,然后挑离这个训练数据最近的K个点看看这几个点属于什么类型,然后用少数服从多数的原则,给新数据归类。k-NN算法步骤:初始化距离为最大值计算未知样本和每个训练样本的距离dist得到目前K个最临转载 2017-12-12 11:17:02 · 444 阅读 · 0 评论 -
TensorFlow简单实例(二):logistic regression
http://www.longxyun.com/blog.html [原文地址] 目前机器学习中,逻辑回归多用来估计某种事物的可能性。例如用户在某电商平台搜索了一类商品,那么估计他的可能性,估计他想要哪一类或者哪几类商品,推荐给他。这在目前大部分电商平台处处可见。Logistic regression可以用来回归,也可以用来分类,主要是二分类。主要是二分类。还记得上几节讲的支持向量机转载 2017-12-12 11:08:24 · 4963 阅读 · 0 评论 -
TensorFlow简单实例(一):linear_regression
http://www.longxyun.com/blog.html [原文地址] 很简单的线性回归例子,用的是Python2.7,Tensorflow1.0.# -*- coding: utf-8 -*-'''A linear regression learning algorithm example using TensorFlow library.Author: Ayme转载 2017-12-12 10:48:38 · 9591 阅读 · 2 评论 -
tensorflow 源码学习 (一)
作为主流的机器学习框架,tensorflow的提供的接口变化很多,项目代码也比较复杂,为了让自己使用起来更得心应手,所以觉得还是有必要学习一下源码。个人觉得提升编程水平的两种最好方式,一个是自己造轮子,再一个就是阅读源码。 1.版本 2. 整体项目结构 这并不是tensorflow完整的项目结构,而仅仅是python的 tensorf...原创 2019-01-22 19:03:42 · 500 阅读 · 0 评论 -
Learning Tensorflow (5)
前节训练了一个简单的 softmax回归 的模型,并且增加了迭代次数以及更换了一下损失函数做了对比参照,这节来训练一个复杂点的模型 卷积神经网络,当然也仅仅是引用和改进一下官网的例子(谁让我是菜鸟呢~呜呜),才被某“算法大神”明确指出我算法太垃圾,连入门的算不上,(可怜的我内心受到了一万点伤害。。。),所以要更加要努力学习才能入 大神 的法眼。(其实此刻我的内心是不服气的,呼呼~~),往往有部分原创 2017-08-27 00:35:10 · 2038 阅读 · 0 评论 -
关于神经网络训练总结和思考
之前一直在无脑训练神经网络,定义好参数,网络,启动Session,feed给Graph,然后就是无休止的等待,有时候运气好,数据本身有很好的区分度,模型自然很快收敛,loss直线下降。但是当数据中混淆数据占比较大时,模型难免不会受到很大的干扰,简单来说就是,在当前batch_size下,你告诉模型向下走,下一个batch_size你告诉模型向上走。所以模型也蒙蔽,你丫的是要向上还是要...原创 2019-05-24 19:30:19 · 732 阅读 · 0 评论 -
NLP ----- Bert with Sentiment Analysis
Bert模型可谓是在2018年NLP领域的大杀器,它的刷新了各种数据集上的NLP任务新高度,好像预示着人类在让机器理解自然语言的道路上又近了一步。google research方面也公布出了模型和代码,让该模型走近千家万户。作为模型的搬运工,自然不能错过把这样的神器收入囊中的机会。官方也给出了pretraining和fine-tuning的代码,但仅仅是调试官方的代码还是不能将模型很...原创 2019-05-25 17:47:30 · 1075 阅读 · 0 评论 -
tensorflow 编程技术 ------ 双循环
tensorflow是优秀的机器学习框架,python作为其前端语言调用API,可以很便捷实现各种机器学习模型,但是也因为其静态图的缘故让编程本身不够友好,有自己一套的编程的规定。为了可以实现真正的端到端,开发与算法的剥离,因此所有和算法相关的代码尽可能的采用tensorflow图来定义,这样利用tensorflow-serving框架就可以实现模型服务化,即便不采用该框架,那服务...原创 2019-08-29 13:46:50 · 508 阅读 · 0 评论