mrcoderrev-CSDN博客

原创 cs231n作业：Assignment2-Pytorch

import torchimport torch.nn as nnimport torch.optim as optimfrom torch.utils.data import DataLoaderfrom torch.utils.data import samplerimport torchvision.datasets as dsetimport torchvision.tran...

2020-03-14 22:27:56 978

原创 cs231n作业：Assignment2-Convolutional Networks

def conv_forward_naive(x, w, b, conv_param): """ A naive implementation of the forward pass for a convolutional layer. The input consists of N data points, each with C channels, height H ...

2020-03-03 17:37:15 632

原创 cs231n作业：Assignment2-Fully-Connected Neural Nets

fc_net.pyfrom builtins import rangefrom builtins import objectimport numpy as npfrom cs231n.layers import *from cs231n.layer_utils import *class TwoLayerNet(object): """ A two-layer fu...

2020-02-27 16:59:16 781

原创 cs231n作业：Assignment2-Dropout

def dropout_forward(x, dropout_param): """ Performs the forward pass for (inverted) dropout. Inputs: - x: Input data, of any shape - dropout_param: A dictionary with the following...

2020-02-26 21:09:24 297

原创 cs231n作业：Assignment2-Batch Normalization

from builtins import rangeimport numpy as npdef affine_forward(x, w, b): """ Computes the forward pass for an affine (fully-connected) layer. The input x has shape (N, d_1, ..., d_k) ...

2020-02-24 19:49:46 575

原创 cs231n作业：Assignment1-Image features exercise

# Use the validation set to tune the learning rate and regularization strengthfrom cs231n.classifiers.linear_classifier import LinearSVMlearning_rates = [1e-9, 1e-8, 1e-7]regularization_strengths...

2020-01-20 09:56:22 380

原创 cs231n作业：Assignment1- two_layer_net

from __future__ import print_functionfrom builtins import rangefrom builtins import objectimport numpy as npimport matplotlib.pyplot as pltfrom past.builtins import xrangeclass TwoLayerNet(obj...

2019-12-16 15:52:10 452

原创 VGG:VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION

VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITIONImageNet2014 定位第一，分类第二"VGG"代表，牛津大学的Oxford Visual Geometry GroupVGG 的特点：（1）小卷积核：作者将卷积核全部替换为3*3，极少用了1*1（2）小池化核：相比AlexNet的3*3的池化核，V...

2019-12-13 19:51:09 375

原创 AlexNet:ImageNet Classification with Deep Convolutional Neural Networks

这个神经网络有6000万参数，和650000个神经元，包含5个卷积层（某些卷积层后面带有池化层）和3个全连接层，最后一个是1000维的softmax。为了防止过拟合，使用了dropout的正则化方法。使用了120万高分辨率图像分到1000个不同的类别中。使用了非饱和的神经元并对卷积操作进行了非常有效的GPU实现。cnn的前面部分，卷积-激活函数-降采样-标准化。AlexNet论文翻译—...

2019-12-01 10:14:16 278

原创 cs231n作业：Assignment1-softmax

def softmax_loss_naive(W, X, y, reg): """ Softmax loss function, naive implementation (with loops) Inputs have dimension D, there are C classes, and we operate on minibatches of N exa...

2019-11-28 14:54:21 394

原创 python中的浅拷贝和深拷贝

浅拷贝：(1)切片操作 [:](2)工厂函数，list(),dict()(3)使用copy模块中的copy函数构造方法或切片[:]做的是浅拷贝，即拷贝了最外层的容器(内存地址不一样)，副本中的元素都是原容器中的引用（内存地址一样）。深拷贝：不仅拷贝最外层的容器，还会拷贝容器中的元素。相当于完全没有关系不可变对象：int,float,complex,long,str,unicode,...

2019-11-26 10:43:28 153

原创 softmax/sigmoid tanh/ReLU/Leaky ReLU

softmaxσ(xi)=exi∑j=1j=nexj\sigma(x_i) = {\frac{e^{xi}}{\sum_{j=1}^{j=n}e^{xj}}}σ(xi)=∑j=1j=nexjexi概率之和为1，元素之间相互关联抑制，取值被压缩到（0，1）可用于多分类问题。只有一个标签。sigmoid(logistic function)σ(xi)=11+exi\sigma(x_i)...

2019-11-24 22:12:28 379

原创 leetcoder 48. Rotate Image(思维)

题意：将一个矩阵进行顺时针旋转自己的做法：直接推公式，x，y = y, n-1-x,弊端需要开一个标记数组class Solution: def rotate(self, matrix): """ Do not return anything, modify matrix in-place instead. """ dt ...

2019-11-24 20:59:54 103

原创 LeNet-5 手写字体识别模型

手写字体识别模型LeNet5诞生于1994，是最早的神经网络之一。现在常用的LeNet-5（卷积池化当作一层的话，共5层）结构和Yann LeCun教授在1988年提出的结构在某些地方有区别，比如激活函数的使用，现在一般采用ReLU作为激活函数，输出层一般选择softmax。(论文RBF)性质：随着网络越来越深，图像的高度和宽度在缩小，但channel数量一直在增加。局限性：CNN能够从...

2019-11-23 17:05:56 1739

原创 cs231n作业：Assignment1-SVM

def svm_loss_naive(W, X, y, reg): """ Structured SVM loss function, naive implementation (with loops). Inputs have dimension D, there are C classes, and we operate on minibatches of N...

2019-11-21 22:38:36 254

原创线性分类（svm/softmax）/损失函数/优化

f(x,W)=Wx + bW:所有训练中的经验都存在W中bias:他不与训练数据交互，而只会给我们一些数据独立的偏好值。（例如，数据集的不平衡带来的差异）优点：易于使用和理解缺点：难于解决多分类问题，在多模态数据中，比如一个类别出现在不同的领域空间中...

2019-11-19 22:32:42 614

为什么要进行归一化和标准化？因为特征间的单位尺度可能不同，可能会导致计算结果也不同，尺度大的会起决定性作用，为了消除特征间的单位和尺度差异和影响，以对每维特征同等看待，需要对特征进行归一化操作。因尺度差异，其损失函数的等高线可能是椭圆形，梯度方向垂直于等高线，下降会走zigzag路线，而不是指向local minimum,通过对特征进行平均值为0方差为1的变换后，其损失函数的等高线更接近圆形，...

2019-11-18 23:59:00 401

原创梯度下降法（全局gGD和随机gSGD）

梯度下降法分为全局梯度下降和随机梯度下降全局梯度法训练的时候用的是所有的训练样本gGD=1n∑i=1nΔθL(xi,yi,θt)g_{GD} = {{1} \over {n}}\sum_{i=1}^{n}\Delta_{\theta}L(x^{i},y^{i},\theta_{t})gGD=n1∑i=1nΔθL(xi,yi,θt)θt+1=θt−ηgGD\theta_{t+1} =...

2019-11-17 12:47:53 1119

原创 YOLOv3: An Incremental Improvement

摘要（1）比V2体积更大，精度更高，但是速度仍有保障（2）输入320/*320的图片后，v3能在22ms内处理完成，并取得28.2mAP，精度和SSD相当，但速度快上3倍。介绍更新2.1边框预测V3用逻辑回归预测每个边界框的objective score。如果当前预测的边界框比之前的更好的与ground truth对象重合，那他的分数就是1，如果当前的预测不是最好的但是和ground ...

2019-11-06 16:12:07 211

原创 softmax和交叉熵

softmax用于多分类过程中，往往加在神经网络的他将多个神经元的输出，映射到（0，1）区间内，看成概率来解，这些值的累和为1，在选取输出节点的时候选取概率最大的节点作为我们的预测目标，从而进行多分类。Si=ei(∑jej)S_{i} = { \frac{e_{i}} {\choose\sum_{j}e^{j}} }Si=(∑jej)eisoftmax 相关求导当对分类的Loss进...

2019-11-04 15:48:46 554

原创人脸识别基本常识

人脸识别算法主要包含三个模块（1）人脸检测（Face Detection）：确定人脸在图像中的大小和位置，也就是在图像中yu代码中的main函数就相当于是test文件，用于输入数据，输出结果代码返回的是图像中人脸的特征向量（多少个人脸就返回多少个向量）实现识别功能的话，先把数据库中的人脸图像跑一遍，得到特征向量再将待测试的图片跑一遍，得到待测试的特征向量，把这两组特征向量计算余弦距离，距...

2019-11-03 11:10:29 1416

原创环境配置

找cuda：ls /usr/bin/cuda查看GPU型号：nvidia-sml下载与cpu对应的pytorch,例如：pip install https://download.pytorch.org/whl/cu90/torch-1.1.0-cp37-cp37m-linux_x86_64.whlpytorch下载网站：https://download.pytorch.org/whl/cu...

2019-10-31 20:03:00 237

原创 cs231n作业：Assignment1-KNN

note:曼哈顿距离依赖于坐标系统的选择（向量中的元素可能都有实际的意义）d1(I1,I2)=∑p∣I1p−I2p∣d_{1}(I_{1}, I_{2}) = \sum_{p}|I_{1}^{p}-I_{2}^{p}|d1(I1,I2)=∑p∣I1p−I2p∣欧式距离对距离的排序不会受到坐标系统的影响d2(I1,I2)=∑p(I1p−I2p)2d_{2}(I_{1}, I_{2...

2019-10-29 10:55:34 193

原创 YOLO9000: Better, Faster, Stronger

1.介绍（1）大多数检测方法受限于小目标（2）YOLOv2可以检测9000多种不同的物体更好（1）由于YOLO的缺点，我们的目标是提高召回和定位，同时保持分类的准确性。（2）我们不是扩展我们的网络，而是简化我们的网络，然后使表示更容易学习。...

2019-10-27 10:02:12 291

原创降（上）采样

降采样（subsampled）目标：使得图像符合显示区域的大小，生成对应图像的缩率图。本质就是池化操作（pooling），降低特征的维度保留有效的信息。保持平移，旋转，伸缩不变性。图像的质量可能受到影响，但是也有一些缩放方法能够增加图像的质量。上采样（upsampled）目标：放大原图像，从而可以显示在更高分辨率的图像上。操作：几乎都是采用内插值方法，即在原有图像像素的基础上，在像素点...

2019-10-18 15:52:57 720

原创目标检测20年

00

2019-10-18 10:47:57 303

原创目标检测历史进展

早期目标检测流程（1）候选框生成（2）特征向量提取（3）区域分类DeepLearning 时代目标检测（1）二阶检测器（如CNN，（R-CNN）及其变体）首先使用候选框生成器生成稀疏的候选框集，然后使用深度卷积网络编码生成候选框的特征向量，最后使用区域分类器预测候选框区域类别（2）一阶检测器（如YOLO）直接对特征图像上的每个位置进行类别预测二阶检测器性能更优，一阶...

2019-10-18 10:47:36 583

原创吴恩达深度学习学习笔记

第二周深度卷积网络：实例探究2.11计算机视觉当数据量不大时，就需要在人工设计上多下一点功夫通过他人的预训练模型进行微调可能训练效果会很好（大量的数据和GPU资源）集成，可以独立训练几个神经网络并平均它们的输出（基准有所提高）eg:multi-crop第三周目标检测3.1 目标定位不仅识别出图像的类别，还想定位对象的位置，，需要神经网络输出一个边界框eg:bx,...

2019-10-18 10:46:59 596

原创 You Only Look Once: Unified, Real-Time Object Detection

摘要（1）将目标检测的设计看做是一个回归问题，从空间上分割边界框和类别的概率。（2）在一次评估中，仅用一个神经网络就能预测整张图像的边界框和类别概率。（3）特点：1.检测速度非常快。2.与其他实时检测系统相比能实现较高的mAP。3.与其他先进的检测模型相比，定位误差更高，但不太可能将背景检测成目标（FP）。4.能够学到非常泛化的表示。1 介绍（1）RPN网络的一些弊端：1.使用...

2019-10-13 23:52:59 439

原创准确率和召回率 precision / Recall / mAP(mean average precision) / fps

因为看了很多次都没记住所以自己记录一下西瓜和苹果TP：西瓜检测成西瓜 FP：苹果检测成西瓜FN：西瓜检测成苹果 TN：苹果检测成苹果准确率 =（把西瓜检测成西瓜）/（把西瓜检测成西瓜+把苹果也检测成西瓜）即：检测到的西瓜中确实是西瓜的个数（precision）= TP / （TP+FP）召回率 =（把西瓜检测成西瓜）/（把西瓜检测成西瓜+把西瓜检测成苹果）即：西瓜中有多少被...

2019-10-08 15:07:34 563

原创 django 创建表单基础

GET/HelloWorld/HelloWorld/search.py 文件代码：# -*- coding: utf-8 -*- from django.http import HttpResponsefrom django.shortcuts import render_to_response # 表单def search_form(request): return re...

2019-09-23 21:04:48 240

原创 http基础

HTTP协议（HyperText Transfer Protocol，超文本传输协议）HTTP 是基于TCP/IP通信协议从万维网上传输数据（HTML，图片，查询结果）到本地浏览器。常见http请求方法GET：请求指定的页面信息，并返回实体主体POST：向指定资源提交数据进行处理请求（例如上传表单，文件），数据被包含在请求体中，可能导致新的资源的建立或者已有资源的修改。常见状态码200...

2019-09-23 18:33:55 130

原创 mysql使用过程中的各种坑

MySQL登陆成功之后，使用命令update user set password=password(“1234”) where user=“root”;修改密码的时候出现错误： ERROR 1054 (42S22): Unknown column ‘password’ in ‘field list’命令重新修改就可以了。修改完之后不要忘了使用flush privileges命令刷新MySQ...

2019-09-23 14:42:24 190

原创 mysql安装过程中的各种坑

‘NAME’: ‘test’,‘USER’: ‘test’,‘PASSWORD’: ‘test123’,service mysql restart，重新启动mysql。启动服务service mysql start　　　关闭服务service mysql stop　　重启服务service restart stop　使用命令 # service mysqld status...

2019-09-16 21:41:25 334

原创 Django 模板基本语法

模板标签-if/else{% if condition %} ...display{% elif condition%}{% endif %}

2019-09-14 10:12:54 296

原创 html 基本知识

HTML：Hyper Text Markup Language标签成对出现<!DOCTYPE html> 声明为html5 文档<html> 元素是html页面的根元素<head> </head> 元素包含了文档的元数据，如<meta charset="utf-8"><title> </title&...

2019-09-13 15:17:26 156

原创 django 基本操作

使用 django-admin 来创建 HelloWorld 项目：django-admin startproject HelloWorld启动服务器：python3 manage.py runserver 0.0.0.0:8000（和manage.py进行交互）视图和url配置view.pyfrom django.http import HttpResponse de...

2019-09-13 15:15:26 141

原创 pip 国内换源

pip国内的一些镜像阿里云 http://mirrors.aliyun.com/pypi/simple/ 中国科技大学 https://pypi.mirrors.ustc.edu.cn/simple/ 豆瓣(douban) http://pypi.douban.com/simple/ 清华大学 https://pypi.tuna.tsinghua.edu.cn/simple/ 中...

2019-09-08 10:08:15 211

空空如也

空空如也