- 博客(40)
- 收藏
- 关注
RSS订阅原创 Recall and Learn: Fine-tuning Deep Pretrained Language Models with Less Forgetting【小白读论文】
随着训练的进行，模型逐渐聚焦于目标任务，在回忆预训练任务知识的同时，学习更多针对特定目标的知识。我们引入 Recall Adam (RECADAM) 优化器来集成二次惩罚和退火系数，它们分别是模拟预训练和目标转移机制的核心因素，通过将它们与 Adam优化器中的梯度更新解耦。2）适应的优化目标是LossT，而多任务学习的目标是优化LossM，即LossT和LossS的加权和。对于预训练数据不可用的第一个挑战，我们引入预训练模拟来将源任务的优化目标近似为二次惩罚，从而使模型参数接近预训练参数。
2024-09-25 14:25:58
479
原创 Latex两个表格在整个页面并排居中显示【小白随手记】
搜索的方法大部分都是适用于单栏的页面的，最终去问了gpt，上面的例子是gpt给的，gpt牛！，需要使用table*，使得table能够跨越两栏。
2024-09-25 09:45:49
77
原创 Memory Replay GANs: learning to generate images from new categories without forgetting【小白读论文】
由于顺序微调使网络无法正确生成先前类别的图像（即遗忘），为了解决这个问题，我们提出了记忆重放 GAN (memory replay GAN，MeRGAN)，这是一种集成了记忆重放生成器的条件 GAN 框架。MNIST、SVHN 和 LSUN 数据集的定性和定量实验结果表明，我们的记忆重放方法可以生成有竞争力的图像，同时显着减少先前类别的遗忘。它们的条件空间（即类别），以及它们的潜在空间（即潜在向量 z）和参数空间最初也是对齐的，因为当前生成器是使用重放生成器的相同参数进行初始化的。和 x 也是对齐的。
2024-09-22 10:01:38
552
原创 Generative Models from the perspective of Continual Learning【小白读论文】
这种评估称为 G 的拟合能力，是测试 G 生成的样本训练的分类器的准确性。它使用两种生成模型：一种充当存储器，能够生成所有过去任务的数据，另一种学习从所有过去的任务和当前任务生成数据。在未来的工作中，我们计划研究任务边界的自动检测，或者尝试任务之间更平滑的过渡，而不是不相交的任务设置。4、VASE，也仅在VAE上进行了实验，它将备用表示能力分配给新知识，同时通过使用先前模型的权重来保护先前学习到的知识免遭灾难性遗忘。实验中使用的生成模型有：GAN，CGAN，WGAN，WGAN-GP，VAE，CVAE。
2024-09-20 22:26:48
490
原创 Continual Learning with Deep Generative Replay【小白读论文】
仅使用这两个模型，就可以轻松对先前任务的训练数据进行采样，并将其与新任务的训练数据交错。“scholar”与集成模型的师生框架的不同，师生框架的网络仅进行教学或学习。图（a）一个任务对应一个scholar，训练一系列scholar模型相当于连续训练单个scholar，同时参考其最新的先前scholar。每一个新的生成器的输入是最新任务的数据和以前生成器的输出，使得当前生成器能够包含以前任务的全部输入信息，求解器同理。在我们的深度生成重放框架中，模型通过生成的伪数据（使用GAN）的重放来保留先前获取的知识。
2024-09-20 16:52:47
810
原创 TypeError: ‘xxx‘ object is not callable【小白找bug】
上网搜索错误原因，一般都是说，变量和函数重名、返回值类型错误、无return值等等，找了半天都没发现这些错误。今天遇到了错误TypeError: ‘xxx’ object is not callable。最后发现是定义类忘了继承nn.Module。只需要加上nn.Module就可以了。这错误都能犯 /(ㄒoㄒ)/~~
2024-09-15 20:59:34
101
原创 teacher forcing 和 auto regressive 相关概念【小白记笔记】
2、teacher-forcing mode：ground truth作为下一state的输入，而不是将上一state的输出作为下一state的输入。这样可以避免在某个state出现错误，导致后面的都错了。体现到transformer中，就是decoder的输入是全部目标序列（ground truth），尽管前一步可能出现错误，这一步仍然要输入正确的。1、free-running mode：上一个state的输出作为下一个state的输入。auto regressive：仅根据过去的预测对未来进行预测。
2024-09-15 16:54:43
88
原创 Given groups=1, weight of size [4, 1, 2, 2], expected input[4, 3, 128, 256] to have 1 channels, but
Given groups=1, weight of size [4, 1, 2, 2], expected input[4, 3, 128, 256] to have 1 channels, but got 3 channels instead
2023-10-15 11:50:54
853
原创 No property {id} found for type Tag! Did you mean ‘id‘?
报错信息Whitelabel Error PageThis application has no explicit mapping for /error, so you are seeing this as a fallback.Thu Mar 25 10:44:22 CST 2021There was an unexpected error (type=Internal Server Error, status=500).No property {id} found for type Tag!
2021-03-25 11:54:16
2672
原创 SpringMVC 通过Controller访问报404（源服务器未能找到目标资源的表示或者是不愿公开一个已经存在的资源表示）
奈何一个错误一排就是几个小时，记录错误，避免下次再犯！
2020-11-20 16:27:58
11003
18
原创 什么是 JDBC ？
JDBC概念：Java DataBase Connectivity，Java数据库连接，也就是用Java语言操作数据库。JDBC本质：是官方定义的一套操作所有关系型数据库的规则，即接口。各个数据库厂商去实现这套接口，提供数据库驱动 jar 包。我们可以使用这套接口（JDBC）编程，真正执行的代码是驱动 jar 包中的实现类。点击这里下载驱动 jar 包，提取码：r60s复制 jar 包，可以在你的工程文件新建一个名为 libs 的包，将文件粘贴进去，右键，找到 Add as Library ，如下图
2020-10-05 20:17:51
388
原创 实践出真知 -- 用Python处理Excel的一些实例
实践出真知，这次我们就通过一些实例来巩固一下用Python的openpyxl模块处理Excel的一些操作吧！一、乘法表创建程序，从命令行接收数字N，在一个Excel电子表格中创建一个N×N的乘法表。行1和列A用作标签，应该使用粗体。# coding=utf-8import openpyxlfrom openpyxl.utils import get_column_letterfrom openpyxl.styles import FontN = int(input('请输入一个数字：').
2020-08-31 23:23:12
14302
8
原创 当你学会用 Python 处理 Excel...
首先要安装 openpyxl 模块。读取 Excel 文档从工作簿中取得工作表：openpyxl.load_workbook() 函数接收文件名，返回一个 workbook 数据类型的值。这个workbook对象代表这个Excel文件。sheetnames 方法可以取得工作薄中所有表名的列表。通过 worksheet对象[‘表名字符串’] 可以工作薄中的一个指定工作表。worksheet对象.active 可以取得工作簿的活动表。import openpyxl# 用openpyxl.
2020-08-31 11:05:46
585
1
原创 【Python从入门到实践】之 数据可视化
Windows系统首先要安装Visual Studio绘制简单的折线图首先安装matplotlib库，Matplotlib 可以绘制多种形式的图形包括普通的线图，直方图，饼图，散点图以及误差线图import matplotlib.pyplot as pltsquares = [1, 4, 9, 16, 25]plt.plot(squares)plt.show()运行得到的图形：修改标签文字和线条粗细tick_params语法：Axes.tick_params(axis=‘bo.
2020-08-30 09:44:20
482
原创 吐血整理！Python 基础知识大全
变量和简单数据类型变量变量的命名：①变量名只能包含字母、数字和下划线，变量名可以以字母或下划线开头，但不能以数字开头。②不能将Python关键字和函数名用作变量名。字符串字符串就是一系列字符，Python 中，用引号括起来的都是字符串，引号可以是单引号或者双引号。使用方法修改字符串的大小写：title()以首字母大写的方式显示每个单词，即将每个单词的首字母都改为大写。upper()将字符串的每个字母都转换成大写。lower()将字符串的每个字符都转换为小写。拼接字符串：Python
2020-08-23 12:33:53
1434
原创 Java IO -- 字节流与字符流
概述在程序中所有的数据都是以流的方式进行传输和保存的，程序需要数据时使用输入流读入数据，而当程序需要将一些数据保存起来时，就要使用输出流。IO流根据流向分为输入流和输出流。根据数据类型分为字节流和字符流。字节流有：字节输入流InputStream字节输出流OutputStream字符流有：字符输入流Reader字符输出流Writer字节流字节流主要操作byte类型数据，以byte数组为准，主要操作类是OutputStream和InputStream。字符流字节流与字符流的区别
2020-08-17 15:01:34
286
原创 瞧一瞧，看一看！Java异常的捕获及处理
异常的基本概念异常是导致程序中断运行的一种指令流，如果不对异常进行正确的处理，则可能导致程序的中断执行，所以在程序的设计中必须要考虑各种异常的发生，并正确的做好相应的处理，这样才能保证程序的正常执行。异常的分类异常分为严重异常-Error 和 一般异常，一般异常又分为运行时异常（RuntimeException）和 编译时异常（除了RuntimeException）。注：出现Error一般不做异常处理，因为是比较严重的问题，可能与代码没有关系。出现RuntimeException也不做异常处理
2020-08-16 17:03:44
367
原创 念数字：输入一个整数，输出每个数字对应的拼音
平时练习中一些题目，改进空间还有很大，希望大神多多指教！念数字输出每个数字对应的拼音。当整数为负数时，先输出fu字。十个数字对应的拼音如下：0: ling1: yi2: er3: san4: si5: wu6: liu7: qi8: ba9: jiu输入格式：输入在一行中给出一个整数，如：1234。提示：整数包括负数、零和正数。输出格式：在一行中输出这个整数对应的拼音，每个数字的拼音之间用空格分开，行末没有最后的空格。如 yi er san si。输入样例：-60
2020-05-11 07:50:12
3939
3
原创 C语言编程练习——数组（一）
帮一个 c语言小白 盆友撸代码，改进的空间还有很大，希望大神多多指教！一、组合数的和给定 N 个非 0 的个位数字，用其中任意 2 个数字都可以组合成 1 个 2 位的数字。要求所有可能组合出来的 2 位数字的和。例如给定 2、5、8，则可以组合出：25、28、52、58、82、85，它们的和为330。输入格式：输入在一行中先给出 N（1 < N < 10），随后给出 N 个不同的非 0 个位数字。数字间以空格分隔。输出格式：输出所有可能组合出来的2位数字的和。输入样例：3 2
2020-05-11 07:43:20
3499
2
原创 C语言编程练习——循环结构（二）
帮一个 C语言小白 朋友撸代码，改进的空间还有很大，希望大神多多指教！一、奇偶分家给定N个正整数，请统计奇数和偶数各有多少个？输入格式：输入第一行给出一个正整N（≤1000）；第2行给出N个非负整数，以空格分隔。加粗样式输出格式：在一行中先后输出奇数的个数、偶数的个数。中间以1个空格分隔。输入样例：988 74 101 26 15 0 34 22 77输出样例：3 6...
2020-04-24 17:11:01
1914
1
原创 C语言编程练习——循环结构（一）
帮一个 C语言小白 朋友撸代码，改进的空间还有很大，希望大神多多指教！一、生成3的乘方表输入一个非负整数n，生成一张3的乘方表，输出30~3n的值。可调用幂函数计算3的乘方。输入格式:输入在一行中给出一个非负整数n。输出格式:按照幂的递增顺序输出n+1行，每行格式为“pow(3,i) = 3的i次幂的值”。题目保证输出数据不超过长整型整数的范围。输入样例:3输出样...
2020-04-24 16:57:47
7013
2
原创 C语言编程练习——选择结构（二）
帮一个 C语言小白 朋友撸代码，改进的空间还有很大，希望大神多多指教！一、比较大小本题要求将输入的任意3个整数从小到大输出。输入格式:输入在一行中给出3个整数，其间以空格分隔。输出格式:在一行中将3个整数从小到大输出，其间以“->”相连。输入样例:4 2 8输出样例:2->4->8#include<stdio.h>int main(){...
2020-04-19 21:13:43
4286
原创 C语言编程练习——选择结构（一）
帮一个 C语言小白 朋友撸代码，改进空间还有很大，希望大神多多指教！一、12-24小时制编写一个程序，要求用户输入24小时制的时间，然后显示12小时制的时间。输入格式：输入在一行中给出带有中间的:符号（半角的冒号）的24小时制的时间，如12:34表示12点34分。当小时或分钟数小于10时，均没有前导的零，如5:6表示5点零6分。提示：在scanf的格式字符串中加入:，让scanf来处理这...
2020-04-16 20:58:42
5521
12
原创 C语言编程练习——顺序结构（二）
帮一个 C语言小白 朋友撸代码，改进的空间还很大，希望大神多多指教！一、交换a和b的值交换变量a，b的值，如输入a的值为1，b的值为5，则输出a的值为5，b的值为1。输入格式:输入两个整数，之间用一个空格间隔。输出格式:在一行中按照“a=x,b=y”的格式输出，其中x和y均是原样输出，不加宽度控制。输入样例:1 5输出样例:a=5,b=1代码如下：#include&...
2020-04-16 20:29:16
6510
原创 C语言编程练习——顺序结构（一）
帮一个 C语言小白 盆友撸代码，可改进的空间还很大，希望大神多多指教！一、 输出三角形本题要求编写程序，输出指定的由 “￥” 组成的三角图案。输入格式： 本题无输入输出格式： 按照下列格式输出由“￥”组成的三角图案。￥￥￥￥￥￥￥￥￥￥代码如下：#include<stdio.h>int main(){ printf("****\n"); ...
2020-04-16 18:32:49
3831
原创 来喽！Java抽象类，接口，内部类
一、抽象类概述： 用来描述抽象类1、被abstract抽象类修饰2、有抽象方法的类一定是抽象类（有抽象方法的类，必须被定义为抽象类）；但抽象类中不一定有抽象方法3、可以有构造方法，但无法去创建对象，它的构造方法是供子类初始化父类数据用的4、抽象类可以被继承a、子类必须重写抽象类中所有的抽象方法b、抽象类可以继承抽象类，并且不需要实现父类中的抽象方法public class Abst...
2020-04-13 21:48:51
134
原创 Java面向对象之多态
Java学习ing，整理一些知识，希望对大家有所帮助，也请大佬多多指教！一、多态描述多态概述 ： 同一操作作用于不同对象，可以产生不同的执行结果。例子：父类：宠物类叫（）子类：猫 叫（）-----喵喵喵狗 叫（）-----汪汪汪都是叫，但产生了不同的结果多态前提：1、继承2、方法的重写多态实现：父类 对象名 = new 子类();public class DuoTaiD...
2020-04-06 19:43:24
181
原创 Java面向对象之继承
一、继承概述多个类中存在相同的属性和行为时，将这些内容抽取到单独一个类中，那么多个类无需再定义这些属性和行为，只要继承那个类即可。通过extends关键字可以实现类的继承。格式： class 子类名 extends 父类名 {}单独的这个类称为父类，基类或者超类；这多个类可以称为子类或者派生类；。有了继承以后，我们定义一个类的时候，可以在一个已经存在的类的基础上，还可以定义自己的新成员继承...
2020-04-02 11:30:56
112
原创 对面的你看过来！JavaScript字符串方法大全
JavaScript学习中，整理了一些字符串的知识，希望对大家有所帮助，也请大神多多指教！一、字符串概念与声明字符串概念：所有带单引号或者双引号的都叫做字符串字符串声明：1、通new运算符去声明2、省略new声明字符串3、字符串常量赋值代码如下：var str1 = new String(100);var str2 = String(100);var str3 = "100"...
2020-03-31 21:26:45
190
原创 来了来了！JavaScript ECM5新增数组方法
JavaScript学习中，整理了一些ECM5新增数组方法，希望对大家有所帮助，也请大神多多指教！1、indexOf方法格式：数组名.index(item,start); 参数：item:任意的数据 start:下标，可以不传入，如果不传入，默认是0功能：在数组中查找第一次出...
2020-03-26 23:59:56
2925
2
原创 JavaScipt数组方法大全
一、数组的声明1、通过new创建数组，传入任意参数2、省略new创建数组3、通过数组常量进行赋值以上三种形式分别为：var arr = new Array(100,true,"hello"); var arr = Array(100,true,"hello"); var arr = [100,true,"hello"];同时，需要注意，1、2两种方法，传入参...
2020-03-24 16:52:58
433
2
原创 C语言之while循环的运用
whlie循环的一般形式while（表达式）语句只要当循环表达式的值为真（即给定的条件成立时）就执行循环体语句。应用二：对方不想和你说话，并向你扔了一串数…… 而你必须从这一串数字中找到“250”这个高大上的感人数字。输入格式：输入在一行中给出不知道多少个绝对值不超过1000的整数，其中保证至少存在一个“250”。输出格式：在一行中输出第一次出现的“250”是对方扔过来的第几个数字（...
2020-03-24 14:03:28
1319
原创 Java面向对象之封装
封装概述：隐藏对象的属性和实现细节，仅对外提供公共的访问方式。其中隐藏对象的属性为私有化成员变量；隐藏实现细节为私有化方法。*原则：*将不需要用户操作的内容隐藏起来，根据需求，提供公共的访问方式。*优点：*安全性高，独立性高，复用性高。关键字private它是一个权限修饰符，可以修饰成员变量和成员方法，被修饰的成员只能在本类中被访问，如果其他类想要访问，则必须通过公共的访问方法。cl...
2020-03-21 22:06:02
174
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人