深度学习
Catherine_In_Data
这个作者很懒,什么都没留下…
展开
-
pytorch基础知识
pytorch基础知识原创 2022-08-25 20:43:04 · 186 阅读 · 0 评论 -
2.2 正则化与与dropout(deep_ai)
整理来自: https://blog.csdn.net/program_developer/article/details/80737724, 请参考原作者链接, 以下仅是个人学习参考。==================================================================背景介绍:(1)出现原因, 模型参数多,训练样本少,训练集损失函数小,预测准确率高,但测试数据损失大,预测准确率低。因此经常出现过拟合。(2)机器学习过拟合一般采用: 模型集成, 训练多原创 2021-01-19 10:06:33 · 292 阅读 · 0 评论 -
2.1 参数初始化(deep_ai)
#coding=utf-8“”"本节主要说的是,深度学习参数( W, b)权重初始化方法不一样, 得到的模型效果不一样。主要初始化方法:1)全部初始化为02) 随机初始化3)He initialization好的初始化方法:1)加速梯度收敛2)增加梯度收益(odds),降低训练集误差总结3-layer NN with zeros initialization : 没有打破均匀性3-layer NN with random initialization : 权重太大3-layer N原创 2021-01-07 10:44:48 · 140 阅读 · 0 评论 -
sigmoid 与 relu 求导代码
附录: 吴恩达深度学习中,simoid, relu反相求导代码, 后期应用时方便参考其中 dA 与A 的关系还没搞懂,正在看。cache: 存储A_pre, w_l, b_l. 即A _pre为第l层的输入。sigmoid 求导def sigmoid_backward(dA, cache): """ Implement the backward propagation for a single SIGMOID unit. Arguments: d原创 2020-12-22 10:58:12 · 2015 阅读 · 3 评论 -
吴恩达深度学习(一)---numpy(dot , outer, multiply)应用
#coding=utf-8"""numpy 常用的几个函数具体应用个, 如: np.dot, np.outer, np.multiply"""import timeimport numpy as np## datax1 = [9, 2, 5, 0, 0, 7, 5, 0, 0, 0, 9, 2, 5, 0, 0]x2 = [9, 2, 2, 9, 0, 9, 2, 5, 0, 0, 9, 2, 5, 0, 0]##"""np.dot 内积: 1) 一维内积,得到一个值原创 2020-12-02 12:32:30 · 177 阅读 · 0 评论 -
deep_ai——1.2逻辑回归案例
逻辑回归实现思路1)初始化参数2)计算损失函数与梯度3)使用优化算法(梯度下降)数据处理课程案例是针对动物图像做图像分类。图像值: 图像的rgb,输出:是否为cat图像rbg: shape=(209, 64,64,3), 209 表示照片数, 64*64 表示rgb。label:shape=(1, 209)1)如何将 shape=(209, 64,64,3)转换为2D模型可识别的值?使用reshapetrain_set_x_orig = np.random.rand(209..原创 2020-11-25 10:21:31 · 154 阅读 · 0 评论 -
Adaptive Mixtures of Local Experts 阅读
Adaptive Mixtures of Local Experts背景将多个场景不同任务进行分割,通过不同的experts进行预测。第一次大概读到的,后面还需要读:以前版本,多个experts预测后,基于experts的统计概率进行线性加和。这样缺点是,一个experts的统计概率发生变化,其他的也会变化。 即,多个experts需要互相配合。其中,d是期望向量, p是某exper...原创 2020-03-10 20:14:59 · 1002 阅读 · 0 评论 -
windows下Tensorflow安装
安装conda,略安装tensorflow1)安装tensorflowconda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/ conda config --set show_channel_urls yes创建tensorflow镜像 conda crea...原创 2019-04-08 21:26:13 · 327 阅读 · 0 评论