AnySomeday-CSDN博客

原创 Python中用append和extend的连接矩阵的区别

实际使用中，往往是为了连接矩阵，举例：train_data = []for i in range(num_class) train_samples = train_data_from_class_i train_data.expend(train_samples) train_data = np.array(train_data， dtype=np.float32)#...

2020-04-30 15:18:49 490

原创安装Ubuntu18.04LTS+CUDA9.0+CUdnn7.1.4+Anaconda4.5.11+TensorFlow1.8+keras2.2.2+Pytorch0.4.1+caffe1.0

1. 利用UltraIOS制作系统盘https://blog.csdn.net/yaoyut/article/details/78003061备注：U盘装系统后容量变小解决方法：https://blog.csdn.net/m0_37290785/article/details/787383662. UEFI启动模式下安装Ubuntu 18.04教程（F2或者ESC进入bios）ht...

2018-09-15 21:27:06 891

转载指数加权平均-exponential weighted average

前言上一篇我们说通过mini batch的方式来为梯度下降算法增速。这次说一说指数加权平均。它同样是用来给梯度下降增速的。在我们的正常的梯度下降中，不论是mini batch还是 full batch，梯度下降的效果大概是下面这个样子的。梯度下降算法就像是上面这个图一样，像一个碗一样。这是我们优化成本函数J的方式，不停的更新w和b的值。让函数移动到最下面的那个红色的点，也就是全局最优解。在这...

2018-05-06 15:38:09 5878

转载整理：深度学习 vs 机器学习 vs 模式识别

摘要：本文我们来关注下三个非常相关的概念（深度学习、机器学习和模式识别），以及他们与2015年最热门的科技主题（机器人和人工智能）的联系，让你更好的理解计算机视觉，同时直观认识机器学习的缓慢发展过程。【编者按】本文来自CMU的博士，MIT的博士后，vision.ai的联合创始人Tomasz Malisiewicz的个人博客文章，阅读本文，你可以更好的理解计算机视觉是怎么一回事，同时对机器学习是如何...

2018-05-01 10:18:42 360

转载 cross-entropy交叉熵代价函数

本文是《Neural networks and deep learning》概览中第三章的一部分，讲machine learning算法中用得很多的交叉熵代价函数。1.从方差代价函数说起代价函数经常用方差代价函数（即采用均方误差MSE），比如对于一个神经元（单输入单输出，sigmoid函数）,定义其代价函数为：其中y是我们期望的输出，a为神经元的实际输出【 a=σ(z), where z=wx+...

2018-05-01 10:17:33 260

转载机器学习中的范数规则化之 L0、L1与L2范数

机器学习中的范数规则化之（一）L0、L1与L2范数zouxy09@qq.comhttp://blog.csdn.net/zouxy09 今天我们聊聊机器学习中出现的非常频繁的问题：过拟合与规则化。我们先简单的来理解下常用的L0、L1、L2和核范数规则化。最后聊下规则化项参数的选择问题。这里因为篇幅比较庞大，为了不吓到大家，我将这个五个部分分成两篇博文。知识有限，以下都是我一些浅显的看...

2018-05-01 10:15:58 159

转载 TensorFlow实现Batch Normalization

转载： https://blog.csdn.net/shuzfan/article/details/79054561tensorflow版本1.4tensorflow目前还没实现完全封装好的Batch Normalization的实现，这里主要试着实现一下。关于理论可参见《解读Batch Normalization》对于TensorFlow下的BN的实现，首先我们列举一下需要注意的事项：（1）...

2018-04-30 17:45:47 406

原创 TensorFlow个人笔记1---Parametric_relu & Batch normalization

1.Parametric_relu的TensorFlow实现 def parametric_relu（_x）： alphas = tf.get_variable（'alpha'，_x.get_shape（）[ - 1 ]，初始值设定项 = tf.constant_initializer（0.0），...

2018-04-30 17:28:21 896

AnySomeday的博客