14-循环神经网络及tensorflow

Recurrent Neural Networks 循环神经网络很像前向神经网络,但是不同的是神经元有连接回指。 循环神经网络用LSTM和GRU单元解决梯度爆炸\消失问题 循环神经元(Recurrent Neurons) 如图左边,一个循环神经元可以把自己的输出,作为自身的输入,但是...

2018-06-18 17:15:09

阅读数 214

评论数 0

11-训练深度神经网络的一些技巧

梯度消失和梯度爆炸 解决办法:Xavier初始化和He初始化 ReLU的优点和缺点 隐层中使用激活函数的策略 Batch Normalization 梯度修剪 梯度消失和梯度爆炸 在反向传播算法计算cost函数的对每个参数的梯度误差之后,在...

2018-06-11 16:51:08

阅读数 243

评论数 0

15-tensorflow实现各种自编码器及技巧

用编码器做PCA 隐层的特点:线性激活函数 代码: 预先声明的函数和包 # To support both python 2 and python 3 from __future__ import division, print_function, unicode_literals ...

2018-06-05 07:56:07

阅读数 358

评论数 0

InfoGAN

Written by title date zhengchu1994 《InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversari...

2018-05-24 14:50:38

阅读数 191

评论数 0

变分自编码器记录与tensorflow代码及pytorch代码分析

Written by title date (我的github地址)zhengchu1994 《Tutorial on Variational Autoencoders》 2018-05-13 生成模型 ...

2018-05-17 15:13:11

阅读数 724

评论数 0

12-卷积网络基本概念及tensorflow代码+pytorch代码

convolutional neural networks 一、卷积神经网络的结构 A. 卷积层(Convolutional Layer) 我们知道对于给定的一幅图像来说,给定一个卷积核,卷积就是根据卷积窗口,进行像素的加权求和。深度学习中的卷积神经网络卷积核是未知的,我们训练一个神经...

2018-04-15 10:20:48

阅读数 212

评论数 0

10_introduction_to_artificial_neural_networks

introduction to artificial neural networks # To support both python 2 and python 3 from __future__ import division, print_function, unicode_litera...

2018-01-05 19:13:03

阅读数 349

评论数 0

转:使用rz上传压缩文件遇到的一些坑

注意:单独用rz会有两个问题:上传中断、上传文件变化(md5不同),解决办法是上传是用rz -be,并且去掉弹出的对话框中“Upload files as ASCII”前的勾选。 -a, –ascii-b, –binary 用binary的方式上传下载,不解释字符为ascii -e, –escap...

2019-02-12 14:54:08

阅读数 12

评论数 0

visio内部错误 3400

保存为svg然后去转成pdf: https://convertio.co/zh/svg-pdf/

2019-01-18 16:10:26

阅读数 62

评论数 0

稀疏矩阵的cos相似度

每行是一个向量,计算之后对角线为1,其余为与其他向量的相似度: def csr_cosine_similarity(input_csr_matrix): similarity = input_csr_matrix * input_csr_matrix.T square_mag...

2019-01-10 12:04:34

阅读数 81

评论数 5

Updating known_hosts is not supported in Windows yet 解决方案

使用ssh时,如果目标机器重装导致其ssh指纹发生了变化,在确认没有中间人攻击的情况下,可以使用【sshkey-gen -R 发生错误的IP】这条命令来重置对应IP的ssh指纹. 但是这一条命令在Windows的cmd或者powershell下没有作用并且会提示Updating known_hos...

2019-01-04 13:11:33

阅读数 20

评论数 0

networkx:add_edge会把节点同时加入图

原始图没有节点1: 现在添加边1-5: final_H.add_edge(1,5) 再次输出final_H.nodes()查看: 原来节点加入在最后面了,一开始我还奇怪。。。以后会继续记录类似情况 ...

2018-12-21 20:40:09

阅读数 53

评论数 0

linux下python程序后台运行,并将打印信息保存文件

在跑比较时间比较长的程序,或者是打印信息比较多的程序时,一般都会后台运行程序,然后把打印信息保存在文件中,等程序运行结束后再检查输出日志。完成该功能可以用如下命令: nuhup python -u test.py > test.log 2&g...

2018-12-09 09:51:16

阅读数 51

评论数 0

字典建立反字典的时候values()不能重复

te = {x:y for x,y in zip(range(4),[1,2,1,3])} te {0: 1, 1: 2, 2: 1, 3: 3} {v:x for v,x in zip(te.values(),te.keys())} {1: 2, 2: 1, 3: 3}

2018-12-08 09:56:57

阅读数 26

评论数 0

Ubuntu创建新用户并增加管理员权限

$是普通管员,#是系统管理员,在Ubuntu下,root用户默认是没有密码的,因此也就无法使用(据说是为了安全)。 想用root的话,得给root用户设置一个密码: sudo passwd root 然后登录时用户名输入root,再输入密码就行了。ubuntu建用户最好用adduser,虽然ad...

2018-12-08 08:55:58

阅读数 83

评论数 0

多元高斯分布的KL散度

kl散度意义: In the context of machine learning, is often called the information gain achieved if Q is used instead of P. This reflects the asymmetry...

2018-12-05 16:03:49

阅读数 60

评论数 0

tf.gather拼接

mu = np.random.rand(5,5) sigma = np.random.rand(5,5) index = [[0, 1],[1,2]] smu = sess.run(tf.gather(mu,index)) ssigma = sess.run(tf.gather(sigma,in...

2018-12-04 18:32:47

阅读数 22

评论数 0

scipy: eliminate_zeros()的

例子: import numpy as np from scipy.sparse import csr_matrix M = csr_matrix(np.ones([2, 2],dtype=np.int32)) print(M) print(M.data.shape) for i in...

2018-11-03 10:46:33

阅读数 32

评论数 0

scipy: 稀疏矩阵 indptr

例子: from scipy import sparse data = np.array([1, 4, 5, 2, 3, 6]) indices = np.array([0, 2, 2, 0, 1, 2]) indptr = np.array([0, 2, 3, 6]) mtx = sparse....

2018-11-03 10:26:22

阅读数 41

评论数 0

numpy:interp插值

numpy.interp 作用:给定1维数据点上做插入。 Parameters: x : 要估计坐标点的x坐标值。 xp : x坐标值,must be increasing if argument period is not specified. Otherwise, xp is intern...

2018-10-25 20:20:13

阅读数 322

评论数 0

提示
确定要删除当前文章?
取消 删除
关闭
关闭