- 博客(274)
- 收藏
- 关注
RSS订阅
原创 数论的基础入门（初读数论概论有感）（acm知识储备）
在寒假自己对自己的硬核知识进行了充电，这本书是学长极力推荐的，是专门给数学系的学生进行对数论进行全面认识和理解的入门书籍，虽然自己是计算机的，但是并不影响去阅读它，读的过程中就发现了，书中不少数学系的知识映入眼帘，我确实有点慌，有选择的进行了阅读。读的比较仓促，但是读完确实是有如神助，补齐了自己之前在学习acm数论的不少的坑，让自己对一些知识有了更深的认识。比如拓展欧几里得和欧拉函数。-一。毕...
2019-02-12 10:16:57
1430
2
原创 博弈论合集（博弈）
说到博弈论，他的官方解释就是：博弈论考虑游戏中的个体的预测行为和实际行为，并研究它们的优化策略。博弈论很多种类，一般训练中会遇到的有几种，巴什博弈，威佐夫博弈，尼姆博弈，斐波那契博弈。下面分开进行对这几种博弈来进行介绍。一。巴什博弈。（同余理论）巴什博奕：只有一堆n个物品，两个人轮流从中取物，规定每次最少取一个，最多取m个，最后取光者为胜。核心代码： if(n%(m+...
2018-11-21 21:54:05
3704
原创 种类并查集 ----大锅烩
种类并查集的接触，对于我来说 还是比较有难度的，因为一开始思维不明确不清晰，所以上手难度较大，但是经过几天的做题和思考，有了新的感悟，主要帮助还是来自向量思维的建立，https://blog.csdn.net/qq_42505741/article/details/81104742（转载的大佬的一篇文章）关于并查集就不多做介绍了，直接上题来体会种类并查集的奇特。A Bug's Life ...
2018-07-19 17:21:16
3436
6
原创 第7周学习任务：注意力机制论文泛读
本周泛读了关于注意力机制的几篇文章，对于注意力有了一定的了解。文章目录【BMVC2018】BAM: Bottleneck Attention Module创新点结构图【CVPR2019】Dual Attention Network for Scene Segmentation创新点结构图【CVPR2020】ECA-Net: Efficient Channel Attention for Deep Convolutional Neural Networks创新点结构图【CVPR2020】Improving
2021-10-24 20:13:35
947
原创 第五周作业：卷积神经网络（Part3）
本周论文学习总结《MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications》论文学习笔记论文改进点：深度可分离卷积。《MobileNetV2: Inverted Residuals and Linear Bottlenecks》论文学习笔记论文改进点：反残差结构，构造两端细，中间粗的网络。《HybridSN: Exploring 3-D–2-DCNN Feature Hierarchy fo
2021-10-03 22:01:29
330
原创 《Deep Supervised Cross-modal Retrieval》论文学习笔记
文章目录论文基本信息研究背景读完摘要后的疑问读完文章后对上述问题的回答Contribution：方法框架目标函数J1误差J2误差J3误差实验验证数据集评价指标与最先进的方法的比较代码分析存在的疑惑论文基本信息标题：Deep Supervised Cross-modal Retrieval作者：Liangli Zhen∗, Peng Hu∗, Xu Wang, Dezhong Peng†时间：2019机构：Machine Intelligence Laboratory, College of Co
2021-10-03 21:44:01
1207
原创 《HybridSN: Exploring 3-D–2-DCNN Feature Hierarchy for Hyperspectral Image Classification》论文学习笔记
文章目录论文基本信息研究背景读完摘要后的疑问读完文章后对上述问题的回答高光谱基础知识HybridSN实验验证数据集描述分类结果代码分析存在的疑惑论文基本信息标题：HybridSN: Exploring 3-D–2-DCNN Feature Hierarchy for Hyperspectral Image Classification作者：Swalpa Kumar Roy, Student Member , IEEE, Gopal Krishna, Shiv Ram Dubey, Member ,
2021-10-03 16:25:59
1460
1
原创 《MobileNetV2: Inverted Residuals and Linear Bottlenecks》论文学习笔记
论文基本信息标题：《MobileNetV2: Inverted Residuals and Linear Bottlenecks》作者：Mark Sandler, Andrew Howard, Menglong Zhu ,Andrey Zhmoginov ,Liang-Chieh Chen机构：Google Inc.{sandler, howarda, menglong, azhmogin, lcchen}@google.com时间：2018论文地址：arXiv:1801.04381v3 [
2021-10-03 10:26:39
994
1
原创 《MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications》论文学习笔记
论文基本信息标题：MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Application作者：Andrew G. Howard, Menglong Zhu, Bo Chen, Dmitry Kalenichenko, Weijun Wang, Tobias Weyand, Marco Andreetto, Hartwig Adam机构：Google Inc.{howarda,menglong,bochen,d
2021-09-29 15:16:30
907
原创 第四周作业：卷积神经网络（Part2）
现代神经网络本周主要学习了几种经典的现代神经网络：AlexNet，VGG，NiN，GeoogleNet、ResNet。这几种网络可以看作是神经网络发展过程中不断去精进的一个过程：从开始的LeNet网络，通过更改激活函数，使用DropOut等方法产生了AlexNet；在引入了块的概念，通过构建VGG块，将网络实现规整化的VGGNet；为了减少参数，使用两个1*1卷积层来代替全连接层的NiN；再到结合多张路径的Inception实现的GoogleNet；再到把输入参数考虑进去的ResNet；这个
2021-09-25 15:38:28
338
1
原创 跟李沐学AI-动手学深度学习-现代卷积神经网络
AlexNet深度学习之前最火的是机器学习：特征提取。选择核函数来计算相关性。凸优化问题。漂亮的定理。计算机视觉方面之前关注的不是机器学习而是几何学：抽取特征。描述几何（例如多相机），（非）凸优化。漂亮定理。假设满足了，效果很好。在十几年前，计算机视觉中最重要的是特征工程：特征工程是关键。特征描述子：SIFT，SURF。视觉词袋（聚类）。最后用 SVM。数据集ImageNet(2010)：自然物体的彩色图片。AlexNet赢得了2012年ImageNet竞赛。
2021-09-22 15:00:47
1443
1
原创 第三周作业：卷积神经网络（Part1）
深度学习计算这部分主要是介绍了神经网络中的一些基础知识。跟李沐学AI-动手学深度学习-深度学习计算在一开始学习高级编程语言的时候，我们就听说过一个词“模块化”。如果我们按照前边的所学知识一步一步的顺下来去构建神经网络，会存在大量的代码重复，现在则是将神经网络中的层和块两个概念提出来，进一步去提高代码的复用性和健壮性。层是十分易于理解的概念，即存在于神经网络中的一个卷积层/池化层/全连接层等，通过调用torch库Module来进行抽象实现。块则是可以描述单个层。由多个层组成的组件或者整个模型本身。使
2021-09-19 17:09:01
340
1
原创 跟李沐学AI-动手学深度学习-卷积神经网络
文章目录从全连接层到卷积二维卷积层代码实现卷积层里的填充和步幅填充步幅代码实现多个输入和输出通道多个输入通道多个输出通道多个输入和输出通道1*1卷积层二维卷积层总结多输入和多输出的代码实现总结：池化层二维最大池化层填充、步幅和多个通道平均池化层总结池化层代码实现从全连接层到卷积引例：分类猫和狗的图片不变性：平移不变性、局部性。图像的平移不变性使我们以相同的方式处理局部图像，而不在乎它的位置。局部性意味着计算相应的隐藏表示只需要一小部分局部图像像素。对全连接层使用平移不变性和局部性得到卷积层！
2021-09-17 17:21:21
1475
原创 跟李沐学AI-动手学深度学习-深度学习计算
深度学习计算层和块单个神经元：接收一组输入。生成相应的标量输出。具有一组相关参数（这些参数可以更新以优化感兴趣的目标函数）。层：接受一组输入。生成相应的输出。有一组可调整参数描述。为了实现这些复杂的⽹络，我们引⼊了神经⽹络块的概念。块可以描述单个层、由多个层组成的组件或整个模型本⾝。使⽤块进⾏抽象的⼀个好处是可以将⼀些块组合成更⼤的组件，这⼀过程通常是递归的。import torchfrom torch import nnfrom torch.nn import functi
2021-09-16 14:56:43
827
原创 第二周作业：多层感知机
李沐专题学习线性回归回归是指一类为一个或多个自变量与因变量之间关系建模的方法。在自然科学和社会科学领域，回归经常表示输入和输出之间的关系。在机器学习领域中的大多数任务都与预测(prediction)有关。当我们想预测一个数值时，就会涉及到回归问题。常见的例子包括：预测价格、预测住院时间、预测需求等，但是需要注意的是不是所有的预测问题都会回归问题。跟李沐学AI-动手学深度学习-线性回归+基础优化算法线性回归可以说是传统机器学习中最简便的一种分类方法，可以看作为单层的神经网络，对数据进行学习训练，能够得
2021-09-12 13:18:01
283
原创 跟李沐学AI-动手学深度学习-数值稳定性+模型初始化和激活函数
数值稳定性神经网络的梯度考虑如下有d层的神经网络计算损失l关于参数Wt的梯度数值稳定性的常见两个问题梯度消失 和 梯度爆炸例子： MLP加入如下MLP（为了简单省略了偏移）梯度爆炸使用ReLU作为激活函数。梯度爆炸的问题值超出值域(infinity) 对于16位浮点数尤为严重（数值区间6e-5 - 6e4）。对学习率敏感 如果学习率太大 -> 大参数值 -> 更大的梯度。 如果学习率太...
2021-09-11 15:58:50
602
原创 跟李沐学AI-动手学深度学习-权重衰退+Dropout
权重衰退是最广泛使用的正则化的技术之一。使用均方范数作为硬性限制通过限制参数值的选择范围来控制模型容量。通常不限制偏移b（因为限制与不限制的差别不大）。小的θ意味着更强的正则项。使用均方范数作为柔性限制对于每个θ，都可以找到λ使得之前的目标函数等价于下面可以通过拉格朗日乘子来证明。超参数λ控制了正则项的重要程度。λ=0：无作用。λ->是⚮，w*->0。参数更新法则计算梯度时间t更新参数通常在下ηλ <1，在深度学.
2021-09-10 21:44:36
477
原创 跟李沐学AI-动手学深度学习-模型选择+过拟合和欠拟合
模型选择训练误差和泛化误差训练误差：模型在训练数据上的误差。泛化误差：模型在新数据上的误差。验证数据集：一个用来评估模型好坏的数据集。测试数据集：只用一次的数据集。K-折交叉验证在没有足够多数据时使用(这是常态)算法：将训练数据分割成K块， for i = 1,....K. 使用第i块作为验证数据集，其余的作为训练数据集。 报告K个验证集误差的平均。常用：K=5或10.总结训练数据集...
2021-09-10 12:50:39
706
原创 跟李沐学AI-动手学深度学习-感知机+多层感知机
感知机给定输入x，权重w，和偏移b，感知机输出： 二分类：-1或1。回归输出实数、softmax回归输出概率。训练感知机等价于使用批量大小为1的梯度下降，并使用如下的损失函数：收敛定理数据在半径r内。余量p分类为两类，对于，感知机保证在步后收敛。XOR问题感知机不能拟合XOR函数，它只能产生线性分割面。总结感知机是一个二分类模型，是最早的AI模型之一。 它的求解算法等价于使用批量大小为1的梯度下降。 它不能拟...
2021-09-10 10:21:38
838
原创 跟李沐学AI-动手学深度学习-softmax回归+损失函数+图片分类数据集
softmax回归虽然softmax的名字是回归，但是其实它是一个分类问题。回归VS分类回归估计一个连续值 分类预测一个离散类别eg:MNIST：手写数字识别（10类）ImageNet：自然物体分类（1000类）Kaggle上的分类问题：将人类的蛋白质显微镜图片分成28类、将恶意软件分成9个类别、将恶意的Wikipedia评论分成7类。从回归到多类分类回归单连续数值输出 自然区间R 跟真实值的区别作为损失分类通常多个输出 输出i是预测为第i类的置信度从.
2021-09-07 20:26:45
1052
原创 跟李沐学AI-动手学深度学习-线性回归+基础优化算法
回归（regression）是指⼀类为⼀个或多个⾃变量与因变量之间关系建模的⽅法。在⾃然科学和社会科学领域，回归经常⽤来表⽰输⼊和输出之间的关系。 在机器学习领域中的⼤多数任务通常都与预测（prediction）有关。当我们想预测⼀个数值时，就会涉及到 回归问题。常⻅的例⼦包括：预测价格（房屋、股票等）、预测住院时间（针对住院病⼈）、预测需求（零售 销量）等。但不是所有的预测都是回归问题。线性回归eg：房价预测：一个简化模型假设1：影响房价的关键因素是卧室个数、卫生间个数和居住面积，记为x
2021-09-06 15:51:54
680
原创 第一次作业：深度学习基础
本次主要内容是进行深度学习的基础知识的学习整理，学习内容主要包括：《专知》系列的绪论、深度学习概述；李沐课程的3.20、3.21的部分。《专知》绪论什么是人工智能？人工智能(Artificial Intelligence):使一部机器像人一样进行感知、认知、决策、执行的人工程序或系统。关于人工智能、机器学习和深度学习三者的关系：人工智能是一个领域，而机器学习是其中的一个方法，深度学习又是机器学习中的一个小点。三者属于包含关系。人工智能的三个层次：第一层次 - 计算智能：表现为
2021-09-02 15:28:50
1209
2
原创 Acwing 165. 小猫爬山
翰翰和达达饲养了N只小猫，这天，小猫们要去爬山。经历了千辛万苦，小猫们终于爬上了山顶，但是疲倦的它们再也不想徒步走下山了（呜咕>_<）。翰翰和达达只好花钱让它们坐索道下山。索道上的缆车最大承重量为W，而N只小猫的重量分别是C1、C2……CN.当然，每辆缆车上的小猫的重量之和不能超过W。每租用一辆缆车，翰翰和达达就要付1美元，所以他们想知道，最少需要付多少美...
2019-12-08 11:10:00
302
原创 【 Special Permutations】（codeforce1234E）（数学+差分数组）
题目：Let's definepi(n)pi(n)as the following permutation:[i,1,2,…,i−1,i+1,…,n][i,1,2,…,i−1,i+1,…,n]. This means that theii-th permutation isalmost identity(i.e. which maps every element to itself)...
2019-10-13 17:01:00
503
原创 Tourism【codeforces 1200E】
E. Tourismtime limit per test2 secondsmemory limit per test256 megabytesinputstandard inputoutputstandard outputAlex decided to go on a touristic trip over the cou...
2019-09-26 22:19:00
178
原创 Middle-Out【codeforces 1231E】(字符串匹配问题)
E. Middle-Outtime limit per test2 secondsmemory limit per test256 megabytesinputstandard inputoutputstandard outputThe problem was inspired by Pied Piper story. Af...
2019-09-26 18:01:00
235
原创 super_log （广义欧拉降幂）（2019南京网络赛）
题目：In Complexity theory, some functions are nearlyO(1)O(1), but it is greater thenO(1)O(1). For example, the complexity of a typical disjoint set isO(nα(n))O(nα(n)). Hereα(n)α(n)is Inver...
2019-09-01 22:43:00
151
原创 Different Circle Permutation （HDU - 5868） （欧拉函数+矩阵快速幂）
题目：You may not know this but it's a fact that Xinghai Square is Asia's largest city square. It is located in Dalian and, of course, a landmark of the city. It's an ideal place for outing any ti...
2019-08-30 13:23:00
132
原创 Knapsack Cryptosystem（状压dp）
题目描述 Amy asks Mr. B problem E. Please help Mr. B to solve the following problem. There are n people, who don't know each other at the beginning. There are m turns. I...
2019-08-15 21:42:00
128
原创 Quadratic equation（二次剩余定理）
题目描述 Amy asks Mr. B problem B. Please help Mr. B to solve the following problem. Let p = 1000000007. Given two integers b and c, please find two integers x and y(0≤x≤y&l...
2019-08-15 20:50:00
1753
原创 分级（线性dp）
题目：给定长度为N的序列A，构造一个长度为N的序列B，满足：1、B非严格单调，即B1≤B2≤…≤BN或B1≥B2≥…≥BN。2、最小化S=∑Ni=1|Ai−Bi|。只需要求出这个最小值S。输入格式第一行包含一个整数N。接下来N行，每行包含一个整数Ai。输出格式输出一个整数，表示最小S值。数据范围1≤N≤20001≤|Ai|≤10^9输入样例：...
2019-08-15 00:02:00
183
原创 求解线性dp的序列问题
一.最长上升子序列（LIS）LIS（Longest Increasing Subsequence）最长上升子序列一个数的序列bi，当b1 < b2 < … < bS的时候，我们称这个序列是上升的。对于给定的一个序列(a1, a2, …, aN)，我们可以得到一些上升的子序列(ai1, ai2, …, aiK)，这里1 <= i1 < i2 &l...
2019-08-14 23:26:00
123
原创 Calabash and Landlord
Problem DescriptionCalabash is the servant of a landlord. The landlord owns a piece of land, which can be regarded as an infinite 2D plane.One day the landlord set up two orthogonal rectangu...
2019-08-14 21:25:00
142
原创 Quailty and CCPC
Problem DescriptionConsidering the overall difficulty of other problems, we invite Quailty to propose an easy problem for this contest.Quailty accidentally won both gold medal and silver med...
2019-08-14 21:15:00
146
原创 Roundgod and Milk Tea
Problem DescriptionRoundgod is a famous milk tea lover at Nanjing University second to none. This year, he plans to conduct a milk tea festival. There will benclasses participating in this...
2019-08-14 21:10:00
161
原创 Visible Lattice Points（莫比乌斯反演）
题目：Consider a N*N*N lattice. One corner is at (0,0,0) and the opposite one is at (N,N,N). How many lattice points are visible from corner at (0,0,0) ? A point X is visible from point Y iff no o...
2019-08-11 17:17:00
144
原创 楼兰图腾（树状数组）
题目：题目描述在完成了分配任务之后，西部314来到了楼兰古城的西部。相传很久以前这片土地上(比楼兰古城还早)生活着两个部落，一个部落崇拜尖刀(‘V’)，一个部落崇拜铁锹(‘∧’)，他们分别用V和∧的形状来代表各自部落的图腾。西部314在楼兰古城的下面发现了一幅巨大的壁画，壁画上被标记出了N个点，经测量发现这N个点的水平位置和竖直位置是两两不同的。西部314认为这幅壁画所包...
2019-08-11 16:26:00
172
原创 奇偶游戏（带权并查集）
题目：小A和小B在玩一个游戏。首先，小A写了一个由0和1组成的序列S，长度为N。然后，小B向小A提出了M个问题。在每个问题中，小B指定两个数 l 和 r，小A回答 S[l~r] 中有奇数个1还是偶数个1。机智的小B发现小A有可能在撒谎。例如，小A曾经回答过 S[1~3] 中有奇数个1， S[4~6] 中有偶数个1，现在又回答 S[1~6] 中有偶数个1，显然这是自...
2019-08-09 16:42:00
270
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人