深度学习-2333

最新推荐文章于 2024-05-06 16:31:00 发布
最新推荐文章于 2024-05-06 16:31:00 发布
阅读量139 收藏
点赞数
分类专栏： others 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yywxl/article/details/103271064
版权

文章目录

自 AlexNet 伊始，基于 ImageNet 的深度学习算法（或模型）改进都和模型大小相关。在如上的由 Google 研究人员给出的 图一 中，垂直方向是网络在给定任务上的效果，横向是网络的大小。通过对比图中 AlexNet，GoogleNet 和 VGG 的趋势不难看出，当模型变大时网络的准确度（accuracy）可能更高。 虽然精心设计的 MobileNet 能在保持较小的体积时仍然具有与 GoogleNet 相当的准确度，不同大小的 MobileNet 本身就表明——也许一个好的模型设计可以改进准确度，但同类模型中仍然是更大的网络，更好的效果!

  • 线性和非线性
    知乎 齐次和可加，让我想到了被信号与系统支配的恐惧。。。
  • FC 和Conv

fc层（擅长产生语义向量）和 conv层（擅长产生空间相干掩模）来分别产生“掩模系数”和“原型掩模”1

  1. http://www.135editor.com/articles/1601827.html ↩︎

yywxl
关注
专栏目录
《PyTorch深度学习实践》-P5线性回归
m0_60673782的博客
10-21 444
1prepare dataset 2design model using Class (计算y_hat) 3consturct loss and optimizer using PyTorch API构造损失函数和优化器 4training cycle (forwward backward update 前馈算损失，后馈算梯度，更新权重） 广播机制： 用mini-batch的方式来做线性回归 第一步 X、Y是3x1的tensor（张量），w是3x1的矩阵（这里可以理解为矩阵）（对应位置..
李宏毅 深度学习
weixin_45837404的博客
04-26 2927
一个神经元就可以看做一个function如果没有固定的参数叫做function set ，就是我们要找的当每一层有好多神经元时候整个神经网络的运算过程—矩阵运算矩阵运算可以用GPU运算加速hidden 层对feature进行了提取，最后经过softmax:归一化函数输出分类结果对于手写1 -10 识别我们去计算yyy和y\hat{y}y​的cross entropyCnC^nCn，调整网络参数，让total loss最小Emc2E = mc^2Emc2。
差分隐私与深度学习--联邦学习
fyrmaryt的博客
05-07 2973
tensorflow官方差分隐私项目： https://github.com/tensorflow/privacy
深度学习 | 编码器-解码器网络、seq2seq模型、束搜索算法
"You are worthy! You can do it!"
12-31 3044
定义编码器self.embedding = nn.Embedding(vocab_size, ebd_size, padding_idx=3) # 将token表示为embedding# encoder_inputs从(batch_size, seq_len)变成(batch_size, seq_len, emb_size)再调整为(seq_len, batch_size, emb_size)
深度学习之梯度
01-28 3117
深度学习之梯度概念
深度学习玩LOL-游戏助手-概述
Aaron学习记录
06-05 1532
目标 用深度学习技术实现常规英雄联盟游戏助手的主要功能，功能主要包括：英雄推荐，装备推荐，地图预警等。 基本思路 首先使用图像分类算法模型对游戏客户端内的英雄头像进行截取和识别。 使用线性回归模型对可选英雄进行预测胜率和推荐。 在游戏内，记录敌我双方英雄在小地图上的实时位置，并对移动朝向进行预测，实现地图预警 在游戏内，对敌我双方装备进行实时记录，并在玩家打开商城后，使用线性回归进行装备推荐。 为完成上述功能，还添加了下列程序辅助: 游戏客户端心跳线程，监控游戏客户端的不同状态，位置和大小等信息。（
linux训练深度学习模型：文件基本操作
Ajdidfj的博客
08-18 235
linux训练深度学习模型：文件基本操作
动手学深度学习笔记day3
m0_56770663的博客
07-14 1228
线性回归
深度学习个人问题汇总（一）
最新发布
a5014858的博客
05-06 589
学习深度学习中遇到的问题和理解，会持续更新的
stanford课程-----自然语言处理中的深度学习 课件
01-18
【自然语言处理与深度学习】 斯坦福大学的“自然语言处理中的深度学习”课程，是一门深入探讨如何利用深度学习技术解决自然语言处理（NLP）问题的专业课程。这门课程涵盖了从基础理论到最新研究的广泛内容，旨在帮助...
基于深度学习的视频背景音乐自动推荐算法研究.pdf
08-18
IEEE Transactions on Knowledge and Data Engineering, 32(12), 2333-2345. [2] Lee, J., & Kim, B. (2019). A deep learning approach to music recommendation. Expert Systems with Applications, 115, 112-...
xshell远程安装深度学习_Docker：Linux下搭建深度学习环境
weixin_30431137的博客
12-24 350
Linux：通过Docker搭建深度学习环境背景前不久朋友转发了个链接给我，一看，是马爸爸在疫情期间送温暖。 全日制高校学生都可以领一台2核4G的ECS。先领半年，快到期的时候又可以续半年。真的香啊！之前买的学生机一年120大洋才1核2G！正好最近深度学习的课实验很多，自己的笔记本又要干别的事儿，就领一台准备拿来跑数据。顺手记录下用Docker配置环境的方法，免得以后忘了。配置：Docker安装首...
多曝光融合
yywxl的博客
01-19 8115
在实际应用中，如果有至少两张图像，而这几张曝光都不好，那么怎样将他们融合在一起从而得到一张曝光较好的图像呢？ HDR(high dynamic range)或者叫WDR(wide dynamic range)是一个方向，2007年Mertens提出了从多曝光融合方向解决这个问题，下图解释两者区别 opencv提供了这个算法的接口 import cv2 mergeMertens = cv2....
pytorch-学习率调整-torch.optim.lr_scheduler
yywxl的博客
12-02 7938
文章目录`torch.optim.lr_scheduler` torch.optim.lr_scheduler pytorch提供了以下学习率调整的方式，转自pytorch官网 Prior to PyTorch 1.1.0, the learning rate scheduler was expected to be called before the optimizer’s update; 1...
论文-知识蒸馏
yywxl的博客
01-06 2338
今天看一篇沈老师他们的工作，是知识蒸馏(knowledge distillation)相关 github传送 Structured Knowledge Distillation for Dense Prediction Previous knowledge distillation strategies used for dense prediction tasks often direct...
视频降噪
yywxl的博客
01-12 2297
一直没有接触过视频图像处理，一来这个问题太南了，二来也确实没有想过要接触这方面的东西，借着这个机会看一下传说中的视频图像处理，和单帧图像处理又什么区别，他是如何利用多帧信息更好处理图像，又是如何解决帧间(时间序列)一致性这样一个问题。 文章目录Supervised Raw Video Denoising with a Benchmark Dataset on Dynamic Scenes Supervised Raw Video Denoising with a Benchmark Dataset on
reflection removal
yywxl的博客
05-22 1925
拍照，监控等场景，由于玻璃的反射和折射，滤光膜等因素，图像质量大大降低，那么我们可以通过什么手段去除，降低这种影响，从而提升图像质量以获取更多场景本身的信息？ 文章目录Single image reflection removal beyonf linearity Single image reflection removal beyonf linearity 章博推的cvpr2019的文章 开篇题图就告诉我们，以前做反射消除严重依赖线性仿真数据，文章提出基于非线性的仿真的反射消除 摘要 摘要老生.
Denoising/图像恢复
yywxl的博客
08-04 1796
去噪是图像恢复/增强领域的一个经典问题，现在来关注一下，其实我更想关注unpaired real data 的去噪问题 由于去噪的文章属实又多又杂，所以我在paperwithcode 网站上搜索关键字 ‘denoising gan’, 选择感兴趣的题目粗略看下，有意思和有用的文章我会在标题后加’*’, 之后再仔细研读 文章目录DCGANs for image super-resolution, denoising and debluring DCGANs for image super-resolut
pytorch-loss
yywxl的博客
01-16 1527
文章目录KL散度PIKD KL散度 先简单介绍下KL散度，一直都只知道KL散度是衡量两个分布之间的距离度量，但是没有什么涉猎，前段时间为了在知识蒸馏过程中衡量学生和教师网络中间的特征层之间的分布，直接使用torch.nn.KLDivLoss，kl(feature_s, feature_t)是负值，即使两个相同的特征层之间KL散度也是-1.这令我非常困惑。当时采用了论文1的方法代替,暂且称之为pi...
Shake-Shake正则化：缓解深度学习过拟合的新策略
"Shake-Shake Regularization：一种用于深度学习的正则化方法，通过在多分支网络中引入随机仿射组合替代标准分支求和，有效缓解过拟合问题。在3分支残差网络上应用该方法，CIFAR-10和CIFAR-100的测试错误率分别降低...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值