ZzH7HN的博客

原创 i++原子操作图解

转载 2021-04-19

TCP/IP 中有两个具有代表性的传输层协议，分别是 TCP 和 UDP，本文将介绍下这两者以及它们之间的区别。一、TCP/IP网络模型计算机与网络设备要相互通信，双方就必须基于相同的方法。比如，如何探测到通信目标、由哪一边先发起通信、使用哪种语言进行通信、怎样结束通信等规则都需要事先确定。不同的硬件、操作系统之间的通信，所有的这一切都需要一种规则。而我们就把这种规则称为协议（protocol）。TCP/IP 是互联网相关的各类协议族的总称，比如：TCP，UDP，IP，FTP，HTTP，ICMP

原创 linux下编写脚本文件 .sh

这是一篇学习记录一 编写base.sh的脚本文件的过程。1. touch base.sh //创建一个脚本文件2.vim base.sh //打开脚本文件3. 从键盘上输入字母 i 进入vim的插入模式(编辑模式)4. //后面的的注释，只是为了方便记忆，运行时不能写。#!/bin/bash //这个是必须要写的echo $1 //输出命令行中第一个给定的的参数//或者也可以这样A=$1 //把命令行中第一个给定的参数赋值给变...

原创 FM/FFM原理及其公式详解

FM在特征组合中的应用 年龄(x1) 城市(x2) 性别(x3) 用户1 23 北京 男 用户2 31 上海 女 如上述特征X有三个维度，年龄是数值型特征，城市和性别是类别型特征，在进行特征组合的使用类别型特征要onehot处理 。 x1年龄 x2北京 x3上海 x4深圳 x5男 x6女 用户1 23 1 0 0 1 0 用户2 31 0..

原创 Mask_rcnn中文详解

一.在学习Mask之前，建议先看看faster_rcnn,(faster_rcnn代码解读)Mask_rcnn关键技术：1.多尺度检测(最早在yolo3中使用)，里面用到了FPN技术2.rpn2.ROI Align二：系统学习mask_rcnn过程，B站视频讲解三：代码中文注释model.py"""Mask R-CNNThe main Mask R-CNN m...

转载 目标检测

9.3 目标检测和边界框In[4]:%matplotlib inlinefrom PIL import Imageimport syssys.path.append('/home/kesci/input/')import d2lzh1981 as d2lIn[5]:# 展示用于目标检测的图d2l.set_figsize()img = Image.open('...

转载 pytorch 模型微调

微调在前面的一些章节中，我们介绍了如何在只有6万张图像的Fashion-MNIST训练数据集上训练模型。我们还描述了学术界当下使用最广泛的大规模图像数据集ImageNet，它有超过1,000万的图像和1,000类的物体。然而，我们平常接触到数据集的规模通常在这两者之间。假设我们想从图像中识别出不同种类的椅子，然后将购买链接推荐给用户。一种可能的方法是先找出100种常见的椅子，为每种椅子拍摄...

原创 优化算法

原创 图像迁移

总变差损失有时候，我们学到的合成图像里面有大量高频噪点，即有特别亮或者特别暗的颗粒像素。一种常用的降噪方法是总变差降噪（total variation denoising）。假设xi,jxi,j表示坐标为(i,j)的像素值，降低总变差损失 能...

原创 Gan /DCGan 生成对抗网络

GANGan 神经网络来生成数据，可用于训练数据太少，生成伪数据来解决欠拟合问题%matplotlib inlineimport matplotlib.pyplot as pltfrom torch.utils.data import DataLoaderfrom torch import nnimport numpy as npfrom torch.autograd...

原创 机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer

机器翻译及相关技术：解决RNN固定长度输出问题翻译机制编码器和解码器机制

原创 卷积神经网络基础；leNet；卷积神经网络进阶

一 网络矿建搭建，#第一部分数据读取，数据预处理，将标签处理#第二部分模型搭建。可自行选择模型#第三阶段定义训练，验证，预测函数# 第四部分模型训练 # -*- coding: utf-8 -*-import os, sys, glob, argparseimport pandas as pdimport numpy as npfrom tqdm impo...

原创 过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸；循环神经网络进阶

一，过拟合、欠拟合及其解决方案过拟合：模型的训练误差远小于它在测试数据集上的误差欠拟合：模型无法得到较低的训练误差因素：模型复杂度和训练数据集大小训练集数据太少，会引起过拟合，模型越越简单，会引起欠拟合。折中办法是在保证能够训练的情况下，模型尽量复杂，数据量也随之增多机器学习中遇到的方法：正则化：在loss函数中加入，w^2项来强行训练减少loss，在训练的时候限制权值变大...

原创 循环神经网络进阶-------自动写歌词

RNN,LSTM,GRU,循环RNN, 深度LSTM，四个模型自动写杰伦歌词import os import numpy as npimport torchfrom torch import nn,optimimport torch.nn.functional as Fimport sysimport timeimport mathsys.path.append("###"...

原创 文本预处理，语言模型，循环神经网络

文本预处理文本是一类序列数据，一篇文章可以看作是字符或单词的序列，本节将介绍文本数据的常见预处理步骤，预处理通常包括四个步骤：读入文本 分词 建立字典，将每个词映射到一个唯一的索引（index） 将文本从词的序列转换为索引的序列，方便输入模型用现有工具进行分词spaCy，NLTK,jieba。...

原创 语言模型

语言模型一段自然语言文本可以看作是一个离散时间序列，给定一个长度为TT的词的序列w1,w2,…,wT，语言模型的目标就是评估该序列是否合理，即计算该序列的概率：P(w1,w2,…,wT).本节我们介绍基于统计的语言模型，主要是n元语法（n-gram）。在后续内容中，我们将会介绍基于神经网络的语言模型。语言模型假设序列w1,w2,…,wT中的每个词是依次生成的，我们有例如...

原创 循环神经网络

理解：循环神经网络可以看成是一个过程，通过现在的发生的事情来预测未来发生的事，t时刻的输出由t-1时刻的隐藏层输出Ht-1和t时刻的输入Xt共同决定。(Xt,Ht-1) -----> Yt递归网络问题常规递归网络从理论上应该可以顾及所有过去时刻的依赖，然而实际却无法按人们所想象工作。原因在于梯度消失（vanishinggradient）和梯度爆炸（exploding gra...

原创 多层感知机

多层感知机的基本知识深度学习主要关注多层模型。在这里，我们将以多层感知机（multilayer perceptron，MLP）为例，介绍多层神经网络的概念。隐藏层下图展示了一个多层感知机的神经网络图，它含有一个隐藏层，该层中有5个隐藏单元。表达公式 具体来说，给定一个小批量样本X∈，其批量大小为n，输入个数为d。假设多层感知机只有一个隐藏层，其中隐藏单元...

原创 softmax和分类模型

softmax的基本概念分类问题 分类问题需要得到离散的预测输出，一个简单的办法是将输出值Oi，当作预测类别是i的置信度，并将值最大的输出所对应的类作为预测输出，即输出argmax(Oi)。例如，如果O1,O2,O3分别为0.1,10, 0.1，由于O2最大，那么预测类别为2输出问题直接使用输出层的输出有两个问题：一方面，由于输出层的输出值的范围不确定，我们难以直...

原创 线性回归 ，softmax，多层感知机

一 线性回归模型最要是描述输入输出的线性关系，例如：房屋价格与房子面积和房子年龄的关系为了简单起见，这里我们假设价格只取决于房屋状况的两个因素，即面积（平方米）和房龄（年）。接下来我们希望探索价格与这两个因素的具体关系。线性回归假设输出与各个输入之间是线性关系:price=warea⋅area+wage⋅age+b二 优化函数 - 随机梯度下降当模型和损失函数形式较为简单时，上...

转载 opencv+python海康威视单目测距

这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入-*- cod...