学习小计
文章平均质量分 74
YiPeng_Deng
这个作者很懒,什么都没留下…
展开
-
【Deep Learning】Meta-Learning:训练训练神经网络的神经网络
本文简单介绍了两类与Learn to Learn有关的问题元学习(Meta-Learning)或少样本学习(Few-Shot Learning)少样本学习在大模型强大的Few-Shot能力下已经成为主流,在很多下游任务上大放异彩。Learn to learn nerual network by nerual network:即通过神经网络来优化训练神经网络的过程由于效率不高,再套一层娃(Learn to learn to learn) 的效果也并不好。原创 2024-06-22 14:01:09 · 1173 阅读 · 0 评论 -
【Deep Learning】Self-Supervised Learning:自监督学习
本文首先介绍了表征学习(Representation Learning)在无监督学习领域的重要性,而后大致介绍了自监督学习领域的一系列重要模型,主要由2类构成:1. 基于预测的自监督框架:即人工设计数据的标签。2. 对比学习框架:将匹配好的数据作为正样例,其他的数据作为负样例,扩大正样例的响应占比,从而在特征空间中学习到好的表征。原创 2024-06-22 14:06:25 · 914 阅读 · 0 评论 -
【留档】一个好看的latex表格
【代码】【留档】一个好看的latex表格。原创 2024-05-12 14:39:56 · 234 阅读 · 0 评论 -
【Deep Learning】Variational Autoencoder & ELBO:优美的数学推导
本文从最基础的Maximum Likelihood(最大似然估计)到Variational Autoencoder,引入了ELBO,详细推导出最终的优化目标形式原创 2024-04-12 18:26:33 · 497 阅读 · 1 评论 -
【Machine Learning】Other Stuff
本笔记基于清华大学《机器学习》的课程讲义中有关机器学习的此前未提到的部分,基本为笔者在考试前一两天所作的Cheat Sheet。内容较多,并不详细,主要作为复习和记忆的资料。原创 2024-01-10 00:56:51 · 1092 阅读 · 1 评论 -
【Machine Learning】Unsupervised Learning
本笔记基于清华大学《机器学习》的课程讲义无监督学习相关部分,基本为笔者在考试前一两天所作的Cheat Sheet。内容较多,并不详细,主要作为复习和记忆的资料。原创 2024-01-10 00:53:28 · 1028 阅读 · 0 评论 -
【Machine Learning】Supervised Learning
本笔记基于清华大学《机器学习》的课程讲义监督学习相关部分,基本为笔者在考试前一两天所作的Cheat Sheet。内容较多,并不详细,主要作为复习和记忆的资料。原创 2024-01-10 00:49:14 · 972 阅读 · 0 评论 -
【Machine Learning】Generalization Theory
本笔记基于清华大学《机器学习》的课程讲义中泛化理论相关部分,基本为笔者在考试前一两天所作的Cheat Sheet。内容较多,并不详细,主要作为复习和记忆的资料。原创 2024-01-10 00:45:44 · 515 阅读 · 1 评论 -
【Machine Learning】Optimization
本笔记基于清华大学《机器学习》的课程讲义梯度下降相关部分,基本为笔者在考试前一两天所作的Cheat Sheet。内容较多,并不详细,主要作为复习和记忆的资料。原创 2024-01-10 00:43:00 · 1095 阅读 · 0 评论 -
【容斥推导】JZOJ7099. 【2021.06.01NOI模拟】nim
Description求多少个[0,m−1][0,m-1][0,m−1]的集合大小为nnn且xor和为0,。n≤3000,m≤23e6,n log m≤3.5e7n\le 3000,m\le 2^{3e6},n\ log\ m\le 3.5e7n≤3000,m≤23e6,n log m≤3.5e7Solution首先算出可重有序,枚举第一个小于mmm的位置出现在哪里,那么其中一个在确定n−1n-1n−1个之后也是确定的(后面的位置可以任意选),因此假设a原创 2021-06-02 11:25:16 · 179 阅读 · 0 评论 -
稳定匹配学习小计
定义稳定匹配:特殊的二分图匹配,不妨假设X部和Y部称为男和女,那么每一个男的对于所有女的有一个优先级,每一个女的也对于男的有优先级,一组匹配是不稳定的即为存在一男一女他们认为对方比自己当前的对象优(那么他们就会私奔),反之则为稳定的(还需要满足不存在一对男女都没有匹配)。算法如何求出一组稳定匹配:考虑做若干轮,每一轮所有男的都会追求还未追求过的最优的女的,然后每一个女的会在追求她的男的中选择自己认为最优的男的。实际上可以用队列实现,每一个男的按顺序追求,如果找到一个女的且自己能替代她现在的男朋友原创 2021-05-05 08:29:55 · 219 阅读 · 0 评论 -
浅谈整数拆分的四种方法
DP对于拆分为<=n<=\sqrt n<=n部分,直接背包,对于>n>\sqrt n>n的部分由于最多只有n\sqrt nn个,因此可以记f[i][j]f[i][j]f[i][j]表示用了iii个数,当前总和为jjj,转移f[i][j]=f[i−1][j−n]+f[i][j−i]f[i][j]=f[i-1][j-\sqrt n]+f[i][j-i]f[i][j]=f[i−1][j−n]+f[i][j−i],之后合并即可。五边形数有ϕ(x)=∏(1+xi原创 2021-05-04 22:47:58 · 1471 阅读 · 0 评论 -
模板:pollard_rho
需要注意mr筛的次数稍微有点大,尽量保证正确性,sd要赋初值。ll mul(ll x, ll y, ll p){ ll t=(x*y-(ll)((long double)x/p*y)*p)%p; if (t<0) return t+p; return t;}ull sd;ll rd(){sd^=sd>>13,sd^=sd<<7,sd^=sd>>23;return sd>>1;}ll gcd(ll x,ll y){return (x%y==.原创 2021-04-26 14:52:21 · 115 阅读 · 0 评论 -
最小树形图学习小计
问题来源JZOJ6997裸的最小树形图简单介绍参考网上的博客。假设是最小外向树。简单记录:每一次将除了根节点以外的点找出最小的入边,这些边连成了一个环套树,对于所有环,将它们缩成一个点。对于所有点,将原本它的入边减去最小入边的权值,递归直到无环。如果无根则多建立一个虚点作为根,并向每一个点连边,边权取决于是最小外向森林还是最小外向树。边权的总和就是每一轮每一个点选择的最小入边的边权的和。如果要还原这棵树,在最终图中有一条边插在环上,则将环上的这条边替换,对应了它的边权减去环边的这个操原创 2021-03-12 21:30:00 · 112 阅读 · 0 评论 -
类欧几里得学习小计
现在才会类欧我好菜啊,而且是简单的部分特殊类欧求L≤vx%M≤RL\leq vx\%M\leq RL≤vx%M≤R的最小的xxx。记f(M,v,L,R)f(M,v,L,R)f(M,v,L,R)为上面的答案。按照一般的套路,将特殊的情况判掉,最后再缩减范围即可。首先保证0≤L≤R<M0\le L\le R<M0≤L≤R<M。然后判断无解的情况因为所有vx%Mvx\%Mvx%M一定可以表示成k∗gcd(M,v)k*gcd(M,v)k∗gcd(M,v),所以要原创 2020-07-27 15:22:49 · 151 阅读 · 2 评论 -
常系数齐次线性递推学习小计
常系数齐次线性递推由于博主水平有限,许多东西并不严谨,在这里主要作一个记录和总结。问题给出ggg,满足当n>mn>mn>m时:gn=∑i=1mgn−iaig_n=\sum_{i=1}^mg_{n-i}a_ign=∑i=1mgn−iai当n<=mn<=mn<=m时gn=cng_n=c_ngn=cn矩阵乘法O(m3log n)O(m^3log\ n)O(m3log n)我们考虑转移矩阵AAA,初始行矩阵GGG由cic_ici原创 2020-07-26 21:05:42 · 159 阅读 · 0 评论 -
莫队学习小计
莫队能处理的东西离线的区间问题易对答案进行撤销或增加操作莫队是什么莫队就是通过排序和分块所优化的暴力,为根号算法(数据结构???)算法思路一道例题(入门):给定一个序列,求[l,r]有多少个不同的正整数考虑将序列分块,块大小为Sqrt(n),将操作区间的左端点所在块为第一关键字排序,右端点为第二关键字排序。每一个块中有若干个左端点,右端点为升序排列。设两个指针...原创 2019-07-10 22:38:20 · 141 阅读 · 0 评论 -
多项式ln,exp学习小计
主要作为一个模板和总结多项式ln求G(x)=ln(F(x))G(x)=ln(F(x))G(x)=ln(F(x))两边求导G′(x)=F′(x)F(x)G'(x)=\frac{F'(x)}{F(x)}G′(x)=F(x)F′(x),注意这是复合函数求导。多项式求逆,求导,乘法即可求出G′(x)G'(x)G′(x)再积分回去就是G(x)G(x)G(x)一般会钦定常数项为1,否则ln的时候先求导再积分(这里是不定积分)你会发现常数项丢失了,得到的结果并不是原来的多项式,而是在每一项的基础上除以了原创 2020-06-10 17:37:32 · 738 阅读 · 0 评论 -
Min_25筛学习小计
简单介绍由Min_25在他的博客中介绍的做法,又称Min_25筛。用于求积性函数f(n)f(n)f(n)的前缀和,其中要求f(p)f(p)f(p)可以表示成多项式,并且f(pk)f(p^k)f(pk)可以快速算出。能够在O(n0.75log)O(\frac{n^{0.75}}{log})O(logn0.75)的时间内算出。基本思路使用DPDPDP先求出所有素数的f(p)f(p)f(p)的前缀和,然后再通过枚举最小的质因子计算出合数的前缀和。求素数的前缀和下面的所有除法都为整除。我原创 2020-06-03 19:16:59 · 293 阅读 · 0 评论 -
二次剩余学习小计
二次剩余x2≡n (mod p)x^2\equiv n\ (mod\ p)x2≡n (mod p),ppp是奇素数。如果存在一个nnn满足以上方程有解,那么就称nnn是ppp的一个二次剩余。判断勒让德符号(pn)=np−12(^{n}_{p})=n^{\frac{p-1}{2}}(pn)=n2p−1(pn)=1(^{n}_{p})=1(pn)=1:是二次剩余。因为如果是二次剩余的话,存在n=n12\sqrt{n}=n^{\frac{1}{2}}原创 2020-05-25 20:22:03 · 206 阅读 · 0 评论 -
任意模数FTT
模板题luogu42459次DFT由于在一般的条件下值域大概在102310^{23}1023下,所以找到三个NTT模数,它们的乘积大于102310^{23}1023,求出三个模数下的答案,再用中国剩余定理把它们合并到一起,变成模三个数的乘积下的答案,这就是它的实际答案。一共需要9次DFT,常数比较小,但是9次实在是太慢了。三次变两次由于复数域的神奇性质,我们在FFT的时候可以将计算C(x)=A(x)B(x)C(x)=A(x)B(x)C(x)=A(x)B(x)这个原本需要三次DFT的操作变成只原创 2020-05-19 22:32:39 · 380 阅读 · 0 评论 -
快速阶乘算法(暂无实践)
Problem模板题luogu5282求 n! mod pn!\ mod\ pn! mod p,ppp是质数由于是任意模数,所以需要MTT。nlog2n\sqrt{n}log^2nnlog2n一种暴力 的方法是多项式加分块,设定一个块的大小BBB,以及这样一个多项式:f(x)=∏i=1B(x+i)f(x)=\prod_{i=1}^B{(x+i)}f(x)=i=1∏B(x+i)那么答案就是f(0)∗f(B)∗f(2B)∗...∗f(n/B∗B)∗原创 2020-05-18 21:16:09 · 472 阅读 · 0 评论 -
burnside定理学习小计
基本概念置换:对一个集合的映射,简单来说就是重排列。一个集合SSS经过映射a[1..n]a[1..n]a[1..n]后得到S′S'S′的即S′[1]=S[a[1]],S′[2]=S[a[2]]....S'[1]=S[a[1]],S'[2]=S[a[2]]....S′[1]=S[a[1]],S′[2]=S[a[2]]....不动点:如果一个集合SSS在通过置换aaa后生成的S′S'S′与SS...原创 2019-11-30 16:58:18 · 594 阅读 · 1 评论 -
反演学习小计
参考资料炫酷反演魔术,打开了我新世界的大门,原来这些反演都是一个东西!!!二项式反演f(n)=∑i=0nCnig(i)f(n)=\sum_{i=0}^{n}C_n^ig(i)f(n)=i=0∑nCnig(i)g(n)=∑i=0n(−1)n−iCnif(i)g(n)=\sum_{i=0}^{n}(-1)^{n-i}C_n^if(i)g(n)=i=0∑n(−1)n−iCnif(i)推...原创 2019-11-06 21:59:20 · 377 阅读 · 0 评论 -
后缀数组学习小计
其实很久之前思想上就会了,只不过一直没有打过Orz,这两天打了一下,其实比SAM好理解多了呀后缀数组的定义将字符串s以所有位置开头的后缀排个序。SA[i]:排名第i的后缀的开头。Rank[i]:以i开头的后缀的排名。SA与Rank其实是互逆的。后缀数组的求法有一种比较快的DC3可以做到O(n),但是常数巨大,不推荐使用(除非出题人真的卡你)所以还是老老实实用倍增吧,O(n l...原创 2019-10-22 16:38:42 · 126 阅读 · 0 评论 -
【线头DP】JZOJ3320.【BOI2013】【LOJ#2687 Vim】文本编辑器
DescriptionN<=7e4,字符集为’a’~'j’共10个Solution暴力(N3)比赛的时候题意没有看清楚,但是暴力的思路还是正确的,却因为我没有看清f操作代价为2,而删除一个e后向右移,所以惨爆零。先来看一看比较显然的策略,我们每一次都是一直往后跳到某个位置(称向左为向前,向右即为向后),再一直往前跳并删去这一段中的e,所以每一次e是一段一段地被删去的。...原创 2019-07-08 20:02:17 · 268 阅读 · 0 评论 -
【平衡规划】JZOJ4616. 【NOI2016模拟7.12】二进制的世界
Desciptionn<=1e5,ai<=216Solution一道看起来很神仙的题目,实际上运用了平衡规划的神奇技巧。让我们先来看一看暴力。我们设 fi 表示 a=i 时的答案。每一次加入一个数都可以跟任意一个i进行运算更新fi这样我们能做到 O(216) 修改, O(1) 查询。接下来我们引入平衡规划的思想。对于每加入一个数,我们都要分别对其做以上的操作,我...原创 2019-07-07 20:00:32 · 375 阅读 · 0 评论 -
【半平面交】JZOJ3297. 【SDOI2013】逃考
Description矩形内任意一个点会被距离它最近的特殊点监控。求某起点到给定矩形外的一条路径上,最少会被多少个特殊点监控。(n<=600)Solution考虑一个特殊点它所能控制的平面,应该是它与其他特殊点的连边的中垂线取靠近它的那一侧的半平面交。那么起点处出发,通过将每一条围成半平面的边,将这个边两侧的半平面连一条边,边权为1,再找到起点所在的半平面,跑一个向边界的最短路即可...原创 2019-07-06 21:38:43 · 191 阅读 · 1 评论 -
【分治NTT/多项式求逆】JZOJ3303. 城市规划
Description求出n 个点的简单(无重边无自环)无向连通图数目.n <= 130000Solution设 f[i] 表示大小为i的答案,g[i]为2C(i,2)表示大小为i的任意无向图个数。考虑运用容斥。f[i] = g[i]-sigma( f[j] * g[i-j] * C(i-1,j-1) )用所有方案减去不连通的方案。枚举1所在的连通块(保证不重复不遗漏),再考...原创 2019-07-06 17:01:54 · 280 阅读 · 0 评论 -
【上下界网络流学习小计】JZOJ3302.供电网络
Description每个城市i多(缺)电量Left[i],可以耗费in[i]从外面输入电量,out[i]向外面输出电量,或者有一些有向边可以转移电量,这些有向边的流量有上界和下界,代价为a*x2+b,x为流量。求最少满足电量刚刚好为0的方案数。Solution显然的上下界费用流题目。先考虑建图,再考虑上下界的问题。设源点S,汇点T。S向i或i向T连一个上界和下界都为|left[i]|...原创 2019-07-06 08:05:50 · 236 阅读 · 0 评论 -
【凸优化】【长链剖分】【2019冬令营模拟1.8】tree
PROMBLEM给你一棵树,你需要在树上选择恰好 m条点不相交的、长度至少为 k的路径,使得路径所覆盖的点权和尽可能大。求最大点权和。数据保证有解。SOLUTION这是一道综合的题目,考察凸优化、长链剖分、树形DP、以及关于数组空间的优化首先引进凸优化凸优化就是关于答案可以表示成一个凸函数 f(y),x是题目给出的参数,并且 这个函数的斜率成下降的趋势(反过来也可以)假设...原创 2019-01-12 13:30:30 · 273 阅读 · 0 评论 -
SG函数学习小计
参考博文SG函数的定义SG函数用于Nim游戏中定义mex(S)表示不在S集合中的最小整数对于任意状态 x , 定义 SG(x) = mex(S),其中S为x的后继状态的集合假设x状态先手必败,那么令SG(x)=0SG定理(重要)如果当前游戏可以看成很多个互不相关的子游戏,那么SG(x)=SG(x1) xor SG(x2) xor SG(x3)…其中x1,x2,x3…为x可以划...原创 2019-08-03 08:15:46 · 237 阅读 · 0 评论 -
差分约束学习小计
差分约束体系有若干个不等式xi<=xj+k(或经过移项可以表示成这个形式)求xt-xs的最大值或最小值。算法思想考虑对于任意不等式xi<=xj+k,我们将它与最短路中的边类比。在最短路中如果有一条边(u,v),当dis[u]+cost<dis[v]时我们要更新dis[v],使得dis[v]=dis[u]+cost(u,v)实际上最终的dis一定满足任意边(u,v...原创 2019-07-12 17:24:44 · 115 阅读 · 0 评论