- 博客(19)
- 收藏
- 关注
RSS订阅原创 通过Hadarmard矩阵或采样伯努利分布来生成单标签数据集和多标签数据集的哈希中心
引用于论文：Central Similarity Quantization for Efficient Image and Video Retrieval 【CVPR2020】Hadarmard矩阵可作为哈希目标（哈希中心）使用在本教程中，我们将介绍如何使用Hadamard矩阵为图像和视频数据集生成哈希目标（哈希中心）。from scipy.special import comb, perm #calculate combinationfrom itertools import combina.
2022-04-11 15:17:56
831
原创 蒙特卡洛模拟近似拉普拉斯范数的理论推导（蒙特卡洛方法、蒙特卡洛模拟）
蒙特卡洛模拟近似拉普拉斯范数的理论推导蒙特卡洛方法蒙特卡洛模拟利用蒙特卡洛模拟近似求解圆周率布丰投针试验随机数实验拉普拉斯分布雅可比矩阵拉普拉斯范数蒙特卡洛模拟近似拉普拉斯范数代码分析参考文献蒙特卡洛方法蒙特卡洛模拟蒙特卡洛方法，也称统计模拟方法。是冯诺依曼和乌拉姆提出的一种以概率统计理论为指导的数值计算方法。与之相对应的有拉斯维加斯方法（没错，都是赌城的名字）。通常蒙特卡罗方法可以粗略地分成两类：一类是所求解的问题本身具有内在的随机性，借助计算机的运算能力可以直接模拟这种随机的过程。另一
2021-04-26 15:32:42
963
原创 Transformer 详解(下) — 解码器【附pytorch代码实现】
Transformer 详解（下）解码器文本嵌入层位置编码层多头自注意力机制多头注意力机制规范化层前馈全连接层输出层代码实现Transformer论文： Attention is All You Need在上一篇博客，笔者简述了编码器部分的理论并用pytorch实现了编码器部分的代码。此篇博客便是承接上文，继续讲述Transformer模型中解码器的代码实现。其实编码器和解码器模型的部分层都是相同的，例如规范化层，多头注意力机制，前馈全连接层等。只是解码器比编码器子层连接结构中多了一个多头自注意力
2021-04-14 13:42:10
7752
2
原创 Transformer 详解(上) — 编码器【附pytorch代码实现】
Transformer 详解（上）编码器Transformer结构文本嵌入层位置编码注意力机制编码器之多头注意力机制层编码器之前馈全连接层规范化层和残差连接代码实现Transfomer参考文献Transformer结构论文： Attention is All You NeedTransformer模型是2017年Google公司在论文《Attention is All You Need》中提出的。自提出伊始，该模型便在NLP和CV界大杀四方，多次达到SOTA效果。2018年，Google公司再次发布论
2021-04-12 22:00:03
9435
2
原创 基于中心先验的深度贝叶斯哈希算法的多模态神经影像检索(CenterHash)
通过向医生提供以前的病例(视觉上相似的神经影像)和相应的诊断报告，多模态神经影像检索极大地促进了临床实践中决策的效率和准确性。然而，现有的图像检索方法在直接应用于多模态神经影像数据库时往往会失败，因为与自然图像相比，医学影像通常具有较小的类间差异和较大的模态差异。为此，我们提出了一个深度贝叶斯哈希学习框架，称为CenterHash，它可以将多模态数据映射到共享的海明空间，并从不平衡的多模态神经影像中学习判别哈希码。解决小类间差异和大模态差异的关键思想是为来自不同模态的相似的神经影像学习一个共同中心表示，并鼓
2021-02-16 15:25:31
1619
3
原创 一文总结经典卷积神经网络(AlexNet/VGGNet/ResNet/DenseNet 附代码)
随着神经网络变得越来越深，一个新的问题出现了：当输入特征数据或梯度数据通过多个神经层时，它在到达网络结尾（或开始）处就消失了。ResNets通过恒等连接将信号从一层传输到下一层。Stochastic depth通过在训练期间随机丢弃层来缩短ResNets，以得到更好的信息和梯度流。FractalNets重复组合几个并行层序列和不同数量的卷积块，以获得较深的标准深度，同时在网络中保持许多短路径。尽管上述方法的网络结构都有所不同，但它们有一个共同特征：创建从早期层到后期层的短路径。
2021-02-11 21:42:13
530
原创 【K-近邻】K-NN 实战分析 Facebook V Results: Predicting Check Ins
Facebook V Results: Predicting Check Ins 是Facebook在Kaggle上的一个机器学习工程竞赛数据集。K-近邻实战分析1. 数据集介绍及下载2. 代码分析3.总结1. 数据集介绍及下载这项比赛的目的是预测一个人想签到哪个地方。为了实现这一目的，Facebook创建了一个人工世界，由10公里乘10公里的正方形中的100,000多个地方组成。对于给定的一组坐标，程序员的任务是返回最可能的位置的排名列表。数据经过伪造，类似于来自移动设备的位置信号，使您有一种处理真
2020-10-09 17:16:43
841
1
原创 【总结】关于玻尔兹曼机(BM)、受限玻尔兹曼机(RBM)、深度玻尔兹曼机(DBM)、深度置信网络(DBN)理论总结和代码实践
近期学习总结前言玻尔兹曼机(BM)受限玻尔兹曼机(RBM)深度玻尔兹曼机(DBM)深度置信网络(DBN)前言前段时间，团队被老师安排了一个涉及玻尔兹曼机及相关变体的任务。具体内容就是学习相关理论知识及代码实现。所以就想着写一篇博客来总结一下繁杂的知识点（尤其是背后的数学推导公式），如果你是玻尔兹曼机及相关变体的初学者，并对这些知识非常感兴趣，那么恭喜你，发现了这篇文章。我会用非常白话、通俗易懂的方式向读者解释这些知识逻辑。在此特别感谢王志强、董倩等研究生，对此篇博客做出的贡献。玻尔兹曼机(BM
2020-09-21 21:53:58
6494
13
原创 【YOLO系列】YOLO-v1：统一的实时对象检测算法。
YOLO-v11. 介绍2. 优点3. 大统一模型4. 神经网络结构5. 缺点6. 对比7. 结论1. 介绍YOLO算法是一种新的目标检测算法。以前的目标检测算法都是基于分类思想的算法。相反，YOLO算法是一种基于回归思想的目标检测算法。YOLO算法非常简单，就只有一个神经网络。它可以同时定位物体的边界框和预测类别概率。2. 优点相对于以前的目标检测算法，YOLO算法有其优越性。第一：它非常的快。它可以每秒45帧的速度在GPU上运行，其快速版本的速度可以超过150FPS。第二：它是基于全
2020-09-09 16:03:42
583
原创 【智能计算系统笔记】第二章笔记及课后习题
第二章笔记及课后习题笔记课后习题1. 多层感知机和感知机的区别是什么？为什么会有这样的区别?2. 假设有一个只有1个隐层的多层感知机，其输入、隐层、输出层的神经元个数分别为33、512、10，那么这个多层感知机中总共有多少个参数是可以被训练的？3. 反向传播中，神经元的梯度是如何计算的？权重是如何更新的？4. 请在同一个坐标系内画出五种不同的激活函数图像，并比较它们的取值范围。5. 请简述三种避免过拟合问题的方法。6. sigmoid激活函数的极限是0和1，请给出它的倒数形式并求出其在原点的导数值。7. 假
2020-08-18 00:40:43
3736
2
原创 【智能计算系统笔记】第一章笔记及课后习题
第一章课后习题1. 简述强人工智能和弱人工智能的区别。2. 简述人工智能研究的三个学派。3. 一个有两个输入的单个神经元构成的感知机能完成什么任务？4. 深度学习的局限性有哪些？5. 什么是智能计算系统？6. 为什么需要智能计算系统？7. 第一代智能计算系统有什么特点?8. 第二代智能计算系统有什么特点?9. 第三代智能计算系统有什么特点？10. 假如请你设计一个智能计算系统，你打算如何设计？在你的设计里，用户将如何使用该智能计算系统？1. 简述强人工智能和弱人工智能的区别。强人工智能： 又称通用人工
2020-07-21 01:50:05
2135
3
原创 「Python网络编程」使用单线程实现多任务/epoll模型（完）
博主前言：Python网络编程系列已经讲述了套接字编程、HTTP协议、TCP/IP协议、多线程、多进程以及协程等知识，就以这篇博客结束Python网络编程系列吧。在这篇博客中会讲述两种以单线程的方式完成多任务。1. 单线程实现多任务前面我们讲述以多线程、多进程以及协程的方式实现多任务，那么能否以单线程的方式实现多任务呢？答案是可行的。我们先了解一种简单的方式 —— 单线程以轮询的方式实现...
2020-02-11 17:38:03
332
原创 「Python网络编程」简述HTTP协议/模拟实现百度页面（五）
读者前言：上次博客讲述了迭代器和生成器的相关知识点，在实现多任务的能力方面已经很不错了，接下来就是要勤加练习，掌握各种实现多任务的方式。1. HTTPHTTP(Hyper Text Transfer Protocol)，全称超文本传输协议。HTTP是因特网上应用最为广泛的一种网络传输协议，所有的WWW文件都必须遵守这个标准。1.1 HTTP的特性HTTP是一个基于TCP/IP通信...
2020-02-06 02:02:46
292
原创 【正则表达式】程序员的“瑞士军刀”
博主前言：在上学的时候有幸读了一本书，说是一本书，倒不如说是一个小册子。这本册子就是计算机技术大佬Ben Forta编写的《正则表达式必知必会》。这本册子使用简明又实用的例子，让我对正则表达式产生了浓厚的兴趣。在后期的学习中我发现，正则表达式是真的太强大了，特别是在处理复杂旳文本和表单时，正则表达式极大的让原本复杂的编码化成简单的、易懂的字符串。当然，在此之前，你要弄懂以及熟悉正则表达式的相关...
2020-01-29 00:59:39
223
原创 「Python网络编程」迭代器和生成器（四）
博主前言：「2020本来是充满希望，收获幸福的一年。可没想到这一年的开始就如此的惨烈、痛苦。在此，博主真诚的祝福那些身处在抗疫一线的白衣天使们能够平稳健康，给他(她)们致以最崇高的敬意」这篇博客讲述Python中的迭代器和生成器，内容较抽象，希望读者结合代码好好理解。1. 迭代器迭代是重复反馈过程的活动，其目的通常是为了逼近所需目标或结果。每一次对过程的重复称为一次“迭代”，而每一次...
2020-01-26 01:25:49
161
原创 「Python网络编程」再识多任务的真面目/多进程（三）
博主前言：上篇博客我讲述了多任务的一种实现方式—多线程。这篇博客我继续讲述使用进程的方式来实现多任务。由于进程的知识实属有点抽象，特别是结合线程来讲进程确实有点难度，所以在本篇博客开写之前，我借阅了多个论坛大佬写的有关于多进程的博客，所以这篇博客如有雷同，算我抄你的。但是我保证，百分之一大半都是自己理解所得。1. 多进程在「Python网络编程」系列第一篇博客讲端口号时，我们了解了有关进...
2020-01-21 21:45:37
222
原创 【案例】多线程实现基于UDP协议的聊天器
博主前言：在上一篇博客中，我讲述了用多线程的方式实现多任务，结合套接字编程的内容，我们已经具备了实现开发简单的基于UDP协议的聊天功能的程序，本来今天准备写一下多任务的另一种实现方式：多进程。但是今天事情有点多，写写停停思绪也没能集中，所以干脆停笔了，打算明天再写，加油！整体逻辑：def main(): # 1. 创建udp套接字 udp_socket = socket....
2020-01-21 00:00:36
470
原创 「Python网络编程」如何让蔡徐坤同时唱跳rap篮球/初识多线程（二）
博主前言：通过第一篇文章的学习，读者已经认识了网络编程中的套接字编程，已经具备了实现基于TCP协议和基于UDP协议网络编程中客户端的实现。第二篇文章打算让读者感受一下多线程的魅力，通过仔细阅读本篇文章完全可达到一文入门多线程的目的。1. 几个基本概念1.1 单核CPU与多核CPUCPU（central processing unit），即中央处理器，是作为计算机系统的运算和控制核心，是...
2020-01-19 19:25:55
6231
原创 「Python网络编程」进入网络通信编程的大世界（一）
博主前言：寒假在家待着实属无聊，所以准备继续跟博，本来想搞一个什么“十天搞定Python网络编程”、“一周Python网络编程入门大法”等等，但是在整理完资料开始写的时候才发现这些搏眼球的招数都被全网用遍了，倒不如实实在在写一些东西。开写网络编程系列呢，需要读者已经了解了Python语言的语言逻辑和具有使用Python编程的基础，这方面的知识网上也挺多的，所以博主来这里就不在继续讲解，如果有地...
2020-01-17 22:49:35
465
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人