- 博客(64)
- 收藏
- 关注
RSS订阅原创 人工智能学习（八）Attention机制中的位置编码(固定）
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录一、为什么要引入位置编码二、位置编码的实现方式2.1 位置编码实现2.1 绝对位置编码信息2.2 相对位置编码信息提示：以下是本篇文章正文内容，下面案例可供参考一、为什么要引入位置编码我们都知道Attention是一种模拟生物注意力的机制。我们可以通过简单的全连接层或者汇聚层来实现非自主性注意力。也可以通过注意力机制即查询匹配的方式来实现自主性的注意力。同样注意力机制在NLP中虽然能够较好应对长句子的情况，但是他的计算复杂
2022-01-13 15:14:42
1985
原创 NLP自然语言处理之GloVe与fastText
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、Glove 词嵌入前言本文主要记录了Glove嵌入的学习笔记，如有错误还请不吝赐教！提示：以下是本篇文章正文内容，下面案例可供参考一、Glove 词嵌入...
2022-01-13 15:08:54
763
原创 人工智能学习（三）Transposed Convolution
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、Transposed Convolution1.1 普通卷积1.2 转置卷积二、转置卷积公式前言本文主要记录了人工智能学习中的Transposed Convolution部分内容（转置卷积）提示：以下是本篇文章正文内容，下面案例可供参考本文参考了两位大佬的文章：抽丝剥茧，带你理解转置卷积（反卷积）转置卷积（Transposed Convolution）一、Transposed Convolution转置
2022-01-06 15:02:47
593
原创 NLP自然语言处理之Word2Vec(一）词向量
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、pandas是什么？示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。二、使用步骤1.引入库代码
2021-12-30 15:13:20
550
原创 NLP自然语言处理之Word2Vec(二）CBOW 加层次的网络结构
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言前言一、CBOW 加层次的网络结构二、优化目标与解问题前言本文主要记录了Word2Vec中CBOW加层次的网络结构的学习笔记，如有错误还请不吝赐教！本文参考：北流浪子大佬的文章提示：以下是本篇文章正文内容，下面案例可供参考前言Word2vec总共有两种类型，每种类型有两个策略，总共 4 种。这里先说最常用的一种，CBOW加层次化网络结构。一、CBOW 加层次的网络结构其中第一层，也就是最上面的那一层可以称为
2021-12-30 15:12:59
881
1
原创 深度学习之目标检测（三）yoloV3
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、pandas是什么？示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。二、使用步骤1.引入库代码
2021-12-23 14:35:19
543
原创 人工智能学习（四）评估标准——mAP
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、pandas是什么？示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。二、使用步骤1.引入库代码
2021-12-23 14:34:53
1909
原创 人工智能学习（六）Group Normalization
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、pandas是什么？示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。二、使用步骤1.引入库代码
2021-12-23 14:34:16
545
原创 人工智能学习（五）Layer Normalization
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、pandas是什么？示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。二、使用步骤1.引入库代码
2021-12-23 14:33:49
1396
原创 人工智能学习（二）Batch Normalization
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、Batch Normalization前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、Batch Normalization...
2021-12-23 14:30:06
483
原创 深度学习之目标检测（二） SSD
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、SSD1.1 Default Box 的scale 和aspect设定1.2 Predictor1.3 正负样本选取1.4 损失前言本篇记录的是目标检测网络SSD算法的基本原理。以下是本篇文章正文内容。一、SSD原论文：SSD：Single Shot MultiBox DetectorSSD网络是作者Wei Liu 在ECCV 2016上发表的论文，对于输入尺寸300* 300 的网络使用Nvidia Tit
2021-12-16 13:19:29
704
原创 GAN对抗生成网络学习笔记（四）GAN难以训练问题以及WGAN
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、GAN训练1.1 训练不稳定1.2 Mode Collapse二、WGAN2.1 Wasserstein距离2.2 WGAN前言本篇论文主要记录了对抗生成网络训练难的问题和解决方式。本文主要参考了两位大佬的博客[WGAN (原理解析)](https://www.cnblogs.com/Allen-rg/p/10305125.html)[生成对抗网络——原理解释和数学推导](https://alberthg.gi
2021-12-16 13:19:14
5498
原创 GAN对抗生成网络学习笔记（三）DCGAN原理
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、DCGAN简介1.1 DCGAN的特点二、几个重要概念2.1 下采样（SubSampled）2.2 上采样（UpSampled）2.3反卷积（Deconvolution）三、G模型前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、DCGAN简介DC
2021-12-16 13:19:02
4677
1
原创 GAN对抗生成网络学习笔记（二）GAN网络原理
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、概率分布1.1 生成器1.2 判别器二、目标函数前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、概率分布1.1 生成器首先我们是可以知道真实图片的分布函数pdata(x)，同时我们把假的图片也看成一个概率分布，称之为pg=(x,θ)。那么我们的
2021-12-09 15:37:08
897
原创 GAN对抗生成网络学习笔记（一）GAN简述
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、pandas是什么？示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。二、使用步骤1.引入库代码
2021-12-09 15:36:23
831
原创 深度学习之目标检测（一）——Faster RCNN
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、Faster RCNN前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、Faster RCNN...
2021-12-02 13:54:09
627
原创 NLP自然语言处理学习（六）Beam Search
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、Beam Search2 Beam Search的实现2.1数据结构-堆2.2 使用堆来实现Beam Search2.3 模型的优化方法2.3.1 使用梯度裁剪其他优化方法前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、Beam Search在进
2021-12-02 13:53:11
262
原创 经典卷积网络结构（五）
文章目录前言一、DenseNet1.1 网络结构1.1.1 论文思路1.1.2 论文总结和亮点1.2 代码二、RegNet2.1 论文思路前言本文主要记录了一些经典的卷积网络架构，以及相应的pytorch代码。提示：以下是本篇文章正文内容，下面案例可供参考一、DenseNet1.1 网络结构网络的总体结构：DenseBlock:1.1.1 论文思路概要：由近期的研究出发，作者发现如果在卷积网络的输入与输出之间添加跳跃链接，那么就可以增加网络的深度，以提高网络的准确率。作者..
2021-11-11 15:55:46
1335
原创 部分卷积网络结构（四）
文章目录前言一、EfficientNetV21.1 网络结构1.1.1 论文思路1.1.2 总结与亮点1.2 代码前言本文主要记录了一些经典的卷积网络架构，以及相应的pytorch代码。提示：以下是本篇文章正文内容，下面案例可供参考一、EfficientNetV21.1 网络结构1.1.1 论文思路1.1.2 总结与亮点1.2 代码...
2021-10-28 12:41:02
436
原创 对比学习（一）简介
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、对比学习简介1.1 基本思想1.2 对齐性(alignment)和均匀性(uniformity)1.3 正负样例2.4 对比损失2.4.1 原始对比损失2.3.2 三元组损失（triplet loss）2.3.3 InfoNCE损失前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章
2021-10-21 11:17:16
10441
原创 部分卷积网络结构（三）
文章目录前言一、ShuffleNet1.1 网络结构1.2 代码前言本文主要记录了一些经典的卷积网络架构，以及相应的pytorch代码。提示：以下是本篇文章正文内容，下面案例可供参考一、ShuffleNet1.1 网络结构1.2 代码...
2021-10-21 11:16:30
684
原创 部分卷积网络结构（二）
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、ResNeXt1.1 网络结构1.2 代码二、前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、ResNeXt1.1 网络结构论文的一些思路1.借鉴了VGG的堆叠卷积核以及GooleNet的Inception分支卷积的思想。Inceptio
2021-10-14 12:15:29
1144
原创 深度学习学习笔记（五）
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、pandas是什么？示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。二、使用步骤1.引入库代码
2021-10-14 12:15:11
654
原创 部分卷积网络结构（一）
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、LeNet二、AlexNet三、前言本文主要记录了一些经典的卷积网络架构，以及相应的pytorch代码。提示：以下是本篇文章正文内容，下面案例可供参考一、LeNet二、AlexNet三、...
2021-10-07 11:03:00
1292
原创 深度学习学习笔记（四）
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、卷积神经网络（Convolutional Neural Networks）1.1 计算机视觉1.2 边缘检测示例1.4 Padding1.5 卷积步长前言此篇博客是对于神经网络中的卷积网络学习的相应笔记。提示：以下是本篇文章正文内容，下面案例可供参考一、卷积神经网络（Convolutional Neural Networks）1.1 计算机视觉深度学习与计算机视觉可以帮助汽车，查明周围的行人和汽车，并帮助汽车
2021-09-30 11:30:21
1205
原创 深度学习学习笔记（二）
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、深度学习的实践层面1.1 训练，验证，测试集1.2 偏差，方差1.3 正则化1.3.1 为什么正则化有利于预防过拟合？1.3.2 Dropout regularization1.3.3 其他正则化方法1.4 提升神经网络训练速度的方法1.5 梯度消失和梯度爆炸1.6 神经网络的权重初始化1.7 梯度检验前言此篇博客主要记录机器深度学习第二周的课程笔记。提示：以下是本篇文章正文内容，下面案例可供参考一、深度学习的实
2021-09-23 13:52:24
180
原创 深度学习学习笔记（三）
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、pandas是什么？示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。二、使用步骤1.引入库代码
2021-09-23 13:51:50
87
原创 深度学习学习笔记（一）
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、神经网络与深度学习前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、神经网络与深度学习示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。...
2021-09-15 08:49:20
102
原创 机器学习python代码
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、线性回归1.1 单特征的线性回归1.2 多特征的线性回归1.3 正规方程二、logistic 回归2.1 plot data2.2 单特征的logistic回归2.3 多特征的logistic回归三、Neural Network3.1 plot data3.2 Neural Network四、交叉验证误差五、SVM大间距分类器5.1 线性svm5.2 非线性SVM六、K-means6.1 K-Means应用6.2 K-Mea
2021-09-15 08:48:27
176
原创 机器学习笔记（十五）大规模机器学习
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录十五、大规模机器学习15.1 随机梯度下降（stochastic gradient descent）15.2 小批量梯度下降15.3 大规模数据下的收敛判断以及参数选择15.4 Online Learning15.5 映射约减（Mapreduce function）十五、大规模机器学习我们已经知道，得到一个高效的机器学习系统的最好的方式之一是，用一个低偏差(low bias)的学习算法，然后用很多数据来训练它。但是同样的，当
2021-09-08 13:29:58
131
原创 机器学习笔记（十四）推荐系统
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录十四、推荐系统14.1 例子：电影评分预测14.2 基于内容的推荐14.3 协同过滤14.4 协同过滤优化改进14.5 协同过滤向量化14.6 均值归一化十四、推荐系统14.1 例子：电影评分预测给定这些数据，给定这些 r(i,j)和 y(i,j) 数值，然后浏览全部数据，关注所有没有电影评分的地方，并试图预测这些带问号的地方应该是什么数值，然后向用户推荐新电影。14.2 基于内容的推荐对于每一部电影，我们都有一个特征向
2021-09-08 13:28:42
83
原创 机器学习笔记（十三）异常检测
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录十三、异常检测（Density Estimation）13.1 异常检测13.2 高斯分布13.3 参数估计13.4 异常检测算法13.5 设计与评估异常检测系统13.6 异常检测与监督学习比较13.7 选择合适的特征13.8 多元高斯分布13.9 基于多元高斯分布的异常检测算法十三、异常检测（Density Estimation）13.1 异常检测所谓异常检测就是发现与大部分对象不同的对象，其实就是发现离群点,异常检测有
2021-09-01 12:04:15
329
原创 机器学习笔记（十二）数据降维
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录十二、数据降维12.1 PCA12.2 PCA分析十二、数据降维压缩数据使得数据占用更少的计算机内存和硬盘空间 ，它还能给算法提速 ，它还能给算法提速 。如图，是将3维数据压缩成2维也可以将其应用于数据可视化中：例如：通过将上述特征采用二维数据概括来进行可视化。12.1 PCAPrincipal Component Analysis(PCA)是最常用的线性降维方法，它的目标是通过某种线性投影，将高维的数据映射到低
2021-09-01 12:03:58
245
原创 机器学习笔记（十一）聚类与K均值算法
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言十一、聚类11.1 K-means 算法11.2 优化目标函数11.3 随机选择聚类中心11.4 选择聚类中心的个数前言例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考十一、聚类在非监督学习中我们要做的是给这种没有标记的训练集合一个算法并且通过算法来为我们定义一些数据的结构。对于这种结构的数据集
2021-09-01 12:03:38
182
原创 RL习题整理
多智能体竞争算法：1.多阶段算法额外信息，头的位置，四周的位置，豆子的位置，其他蛇相对的位置。增大每轮结束后的胜利奖励，和失败奖励。2.改后的ddqn算法扩展维度，增加蛇的视野等。（与不同策略的蛇进行对战训练）（getSourding方法拓展）3.buffer 异常和重复数据replay Buffer 并集操作随机更新/数据效率/数据不充分？ 对于数据要用对应的数据价值的更新4.启发式算法领土矩阵，防御行为。...
2021-08-25 10:26:18
210
原创 RLChina强化学习笔记
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、机器学习二、深度学习二、机器学习中的优化理论和方法2.1 优化算法2.2 收敛性分析2.3 图形模型与贝叶斯推理2.4 贝叶斯优化三、博弈论3.1 Motivation and Normal-form Game3.2 Extensive-form Game and Imperfect Information3.3 Bayesian Game and Incomplete information3.4 Nash Equilib
2021-08-18 13:28:53
1210
原创 强化学习笔记
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、强化学习1.1 强化学习方法二、Q Learning前言强化学习：Reinforcement Learning，又称再励学习或者评价学习。也是机器学习的技术之一。所谓强化学习就是智能系统从环境到行为映射的学习，以使奖励信号（强化信号）函数值最大，由于外部给出的信息很少，强化学习系统必须依靠自身的经历进行自我学习。通过这种学习获取知识，改进行动方案以适应环境。强化学习最关键的三个因素是状态，行为和环境奖励。关于强化学习和
2021-08-11 13:51:54
383
原创 数据结构与算法设计中的代码实现（1-3）
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、pandas是什么？示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。二、使用步骤1.引入库代码
2021-08-04 13:55:37
533
原创 机器学习笔记
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、机器学习概述1.1 机器学习是什么？1.1.1 概述1.1.2 对于机器学习的不同定义1.2 学习算法1.2.1 有监督学习1.2.2 无监督学习二、线性回归算法2.1 模型表示2.2 代价函数2.2.1 数学定义2.2.2前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容
2021-08-04 13:55:27
1078
原创 算法设计习题(12-13）
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、第十三章 随机化算法1.1 带解答的练习1.1.1 练习11.1.2 练习21.2 课后练习1.2.1 练习11.2.2 练习2前言本文是对于算法设计的相关习题。有错误，请不吝赐教。一、第十三章 随机化算法1.1 带解答的练习1.1.1 练习11.1.2 练习21.2 课后练习1.2.1 练习11.2.2 练习2...
2021-08-04 13:54:41
1216
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人