- 博客(15)
- 收藏
- 关注
原创 【Deep learning AI】用一个隐藏层构建平面数据分类器
该文章来自吴恩达深度学习课程一 week3的作业任务:1.利用含一个隐藏层的神经网络 实现一个二分类器2.使用非线性激活函数,如tanh relu3.计算交叉熵误差4.实现前向与后向传播#导入所需要的模块# Package importsimport numpy as npimport matplotlib.pyplot as pltfrom ...
2020-02-09 22:59:59
203
原创 pytorch 错误总结
问题1:norm() received an invalid combination of arguments - got (Tensor, tuple, tuple, keepdim=bool)问题描述:问题分析:问题解决:
2020-02-09 22:58:24
405
原创 【Deep learning AI】梯度检测Gradient Checking
有时候我们不知道我们的后向传播是否写得正确,这时候我们就要使用梯度检测技术来帮我们测试一下。其数学依据为导数的定义当eposilon趋于0时,便是J对θ的导数了N维的梯度检测我们的参数矩阵储存在python的 一个叫做parameters 的dict中,我们需要将其转换成一个向量将其矩阵中的每一个值都放入向量之中计算J_plus[i]的步骤1.令θ+ = np.copy(value) 深复制整...
2018-04-09 16:46:49
944
2
原创 【Deep learning AI】正则化与Drop out
前向传播正则化可以有效避免过拟合。 其中L2正则化如下图所示L2项,即把每一层的每一个权重W 求其平方和使用np.sum(np.square(Wl)) 求即可def compute_cost_with_regularization(A3, Y, parameters, lambd): """ Implement the cost function with L2 regulariz...
2018-04-09 16:03:48
1131
原创 【deep learning AI】超参数调初始化
#初始化网络参数的方法初始数据集初始化的方法有许多种1.零初始化 def initialize_parameters_zeros(layers_dims): """ Arguments: layer_dims -- python array (list) containing the size of each layer. Returns: par...
2018-04-09 15:29:12
1160
翻译 【Deep learning AI】利用Python搭建一个自己的猫猫分类器
此文章基于吴恩达深度学习课程的Week1 第二次课程作业#导入必须模块import numpy as npimport matplotlib.pyplot as pltimport h5pyimport scipyfrom PIL import Imagefrom scipy import ndimagefrom lr_utils import load_dataset%matpl...
2018-04-01 22:50:19
677
2
原创 【Deep learning AI】结构化机器学习项目(机器学习策略)
正交化在我们对算法进行改进时,我们希望我们可以获得一个正交化的“旋钮”对每个不同的特征使用不同的“旋钮”进行调节假如我们的算法在以下几个情况表现得不太好:1.对训练集拟合的效果很好 假如拟合的不好的话,那可能是欠拟合问题。加大神经网络深度或者使用别的梯度下降法2.对验证集拟合的效果很好 假如拟合的不好的话,使用正则化或者增大训练样本也许会有帮助3.对测试集拟合的效果很好...
2018-03-31 07:52:22
232
原创 【Deep learning AI】Python Basics with Numpy 作业笔记
常用的numpy方法请详见:https://blog.csdn.net/flyDeDog/article/details/63255431?locationNum=9&fps=1#创建一个向量x = np.array([1, 2, 3])#sigmoid 函数的实现sigmoid = 1/(1+np.exp(-x))np.exp(-x)是对输入向量 element-wise的方法#sigm...
2018-03-30 23:39:38
328
原创 【小甲鱼Python入门笔记】一个文件任务
算法实现如下f = open("record2.txt")#将读取到的每一行作为字符串存入一个list当中boy = []girl = []#设置一个计数器 用于创建 三个文件名count = 1for each_line in f: if each_line[:6] != "======": # 当没遇到分割线时 将对话进行分割并保存 ...
2018-03-29 21:16:53
900
原创 【Deep learning AI】 超参数调试、正则化与优化
超参数选择layershidden units learning ratesactivation functions数据集的设置经验设置训练/交叉验证集/测试集数据集很大 比如有一百万个数据, 验证集和测试集或许只拿1万出来即可 评估分类器的性能98/1/1没有测试集也可以保证测试集与验证集是来自同一分布(比如训练集是网站上的猫,验证/测试则是用户手机照片的猫)偏差与方差trace-off 权衡正...
2018-03-15 10:00:42
999
原创 Deep Learning Onramp 学习笔记
1.1deepnet = alexnet %利用库内pretrained alexnetimg = imread('filename') %使用变量存储图片imshow(img) %展示图片classify(deepnet,img) %使用alexnet来分类当前的图片1.2ly=deepnet.Layers %用ly变量存储deepnet的layers信息,如下图inlayer = ly...
2018-03-09 08:52:26
1416
1
原创 反向误差传播算法学习笔记
step.1构建cost function的表达式的函数,其神经网络图如下,其θ1和θ2已经训练好。输入X为5000*400的矩阵 (5000个元素,400个像素)Y为5000*1的矩阵 其中有5000个结果,以1,2,3,4,5,6,7,9,10(代表0)为labela1=[ones(size(X,1),1) X]; %为每个输入样品加入一个偏置单元 size(x,1) is the row ...
2018-02-08 23:14:59
307
原创 判断两个序列构成的两个二叉排序树是否相同
思路:对输入的数字序列构建二叉排序树,分别进行先序遍历和中序遍历(唯一构成一个二叉树)。比较两个序列的前序遍历和中序遍历是否相同,相同则是同一颗二叉搜索树。#include #include #include #include ///记得加上.husing namespace std;typedef struct BiNode{ char data;
2018-01-28 21:44:09
1442
原创 【2018机试笔记】二叉树
王道机试例3.4 不同与王道例题的写法,用考研时习惯的代码书写方法#include <iostream>#include <stdio.h>#include <stdlib.h>using namespace std;char pre[26];///前序遍历输入char in[26];///中序遍历输入typedef struct ...
2018-01-26 22:39:17
396
原创 【2018机试笔记】贪心算法
基于王道机试指南题2018年1月20日22:38:04贪心算法笔记例题2.11#include <iostream>#include <stdio.h>#include <algorithm>using namespace std;typedef struct goods{ double price; double pound;...
2018-01-20 23:02:27
328
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人