- 博客(21)
- 收藏
- 关注
RSS订阅原创 【无标题】
其实可以看出语义相似的损失函数——主要思路是构建句子之间的相似度矩阵,然后通过比较正例和负例的相似度,采用交叉熵、log-sum-exp等方式计算loss,优化模型的句子表示,使得正例相似度更高。常用的语义相似度任务数据集包括STS-B,SICK等。模型训练过程中需要大量语义相关的文本对构成监督数据,损失函数则常采用余弦相似度与标注相似度的差异作为优化目标。这个任务的主要难点在于获得合适的文本向量表示,需要模型能够捕捉文本的语义信息,忽略词汇表面的差异,根据上下文判断语义是否相近。适用于不同的训练目标。
2024-05-13 15:33:23
277
原创 RLHF理解篇
左：输入（Image/text）,通过计算预测值和真实标签值之间的损失更新模型右：环境（数据），agent（模型）在环境产生某个动作（预测值），从而获得奖励模型的打分，通过最大化打分更新agent（模型），从而再次回到环境产生新一轮的动作。基本概念还是解释一下一些概念，从NLP的角度举一些例子。首先是RL中的Policy，State，Action。接下来介绍Reward，Return，Q，V。PS：这里要注意区分价值和奖励：价值是未来累计奖励的期望。奖励是我们做出该动作后立即获取的收益。
2024-04-08 11:26:43
1074
原创 SFT实战微调Gemma
SFT Trainer 是transformers.Trainer的子类，增加了处理PeftConfig的逻辑 .3、在外面创建模型的时候就不要向SFTTrainer传入from_pretrained()方法相关的参数。需要设置响应的模版： response_template = " ### Answer:"2、使用 8bit 训练模型的时候，最好在外部加载模型，然后传入SFTTrainer。gpu资源较好可使用7b模型的全精度进行Lora微调。在模型加载的时候按照int8进行加载。
2024-02-27 16:35:02
801
原创 大模型微调技术
p-tuning v2 在多种任务上下进行微调，之后对于不同的任务如token classification与sentence classification添加了随机初始化的任务头（AutoModelForTokenClassification、AutoModelForSequenceClassification），而非使用自然语言的方式，可以说V2是集大成者。手动尝试最优的提示无异于大海捞针，于是便有了自动离散提示搜索的方法（作图），但提示是离散的，神经网络是连续的，所以寻找的最优提示可能是次优的。
2024-02-21 13:37:10
961
1
翻译 2021考研王道计算机408
2021考研王道计算机408（王道计算机组成原理+王道操作系统+王道计算机网络+王道数据结构）链接：https://pan.baidu.com/s/1krd4TFG0zj7EPqEr2T3aMg提取码：xpm7(备用)链接：https://pan.baidu.com/s/1NU8sOFdt4AY_oMdhk0fmRQ提取码：qr69...
2021-04-10 11:04:32
2580
2
原创 Docker卸载与安装使用
docker卸载命令：yum remove docker \ docker-client \ docker-client-latest \ docker-common \ docker-latest \ docker-latest-logrotate \ docker-logrotate \ docker-selinux \ docker-engine-selin
2020-11-16 09:35:51
105
原创 mybatis-plus(代码生成器)
public static void main(String[] args) { AutoGenerator mpg = new AutoGenerator(); //全局配置 String projectPath = System.getProperty("user.dir"); System.out.println(projectPath); GlobalConfig gc = new GlobalConfig(); g
2020-11-04 19:06:13
126
转载 Linux
狂神说Linux02：常用的基本命令（必掌握）本文档来自于狂神说JAVA，为复制版，纯属用来自己学习。狂神说Linux系列连载课程，通俗易懂，基于CentOS7，欢迎各位狂粉转发关注学习。未经作者授权，禁止转载常用的基本命令目录管理绝对路径和相对路径我们知道Linux的目录结构为树状结构，最顶级的目录为根目录 /。其他目录通过挂载可以将它们添加到树中，通过解除挂载可以移除它们。在开始本教程前我们需要先知道什么是绝对路径与相对路径。绝对路径：路径的写法，由根目录 / 写起，例如：/us
2020-06-13 15:15:08
134
原创 虚拟环境的创建
配置tensorflow环境Win+R启动cmd，在命令提示符内输入以下命令：conda create –n tensorflow-gpu python=3.6activate tensorflow-gpu pip install tensorflow-gpu==1.13.2pip install keras==2.1.5需要注意的是，如果在pip中下载安装比较慢可以换个源，可以到用户文件夹下，创建一个pip文件夹，然后在pip文件夹里创建一个txt文件。在这里插入图片描述修改txt文件的
2020-06-12 11:10:47
96
原创 Nginx报错
有时候我们开启或重启Nginx时会报如下错误：Nginx [emerg]: bind() to 0.0.0.0:80 failed (98: Address already in use)原因是端口号80被其它程序或文件占用了，那么就干掉这个程序吧：root用户下：fuser -k 80/tcp1非root用户下：sudo fuser -k 80/tcp1然后开启或重启Nginx...
2020-04-14 10:07:34
163
原创 Linux目录结构
/bin：bin是Binary的缩写, 这个目录存放着最经常使用的命令。/boot： 这里存放的是启动Linux时使用的一些核心文件，包括一些连接文件以及镜像文件。/dev ： dev是Device(设备)的缩写, 存放的是Linux的外部设备，在Linux中访问设备的方式和访问文件的方式是相同的。/etc： 这个目录用来存放所有的系统管理所需要的配置文件和子目录。/home：用户的主目...
2020-04-14 08:23:06
225
原创 Linux下连接远程mysql
最近在Linux上安装了Mysql，然后在Windows环境下通过Navicat来连接时，出现报错：1045 Access denied for user ‘root’@‘XXX’ (using password: YES)。解决方法：方法一：首先，在Linux中是可以正常登录mysql，所以不会是用户密码错误导致的。这与防火墙有关，检查Linux下的防火墙是否开放了对应端口，发现此时...
2020-04-12 15:21:02
1059
原创 SpringMVC模型
什么是MVC?模型（Model）、视图（View）和控制器（Controller），即为MVC。控制器Controller：控制器即是控制请求的处理逻辑，对请求进行处理，负责请 求转发；视图View：视图即是用户看到并与之交互的界面，比如HTML（静态资源），JSP（动态资源）。模型Model：模型代表着一种企业规范，其中业务模型的设计可以说是MVC的核心。...
2020-03-28 16:42:17
253
原创 Git使用与介绍
本文来自狂神说Git Bash：Unix与Linux风格的命令行类似Git CMD：Windows风格的命令行类似 GitGUI：图形界面的Git，不建议初学者使用，尽量先熟悉常用命令***常用的Linux命令***1）、cd : 改变目录。2）、cd . . 回退到上一个目录，直接cd进入默认目录3）、pwd : 显示当前所在的目录路径。4）、ls(ll): 都是列出当前...
2020-03-27 13:40:57
1678
原创 Linux常用命令
Linux常用命令ls: 列出目录cd：切换目录pwd：显示目前的目录mkdir：创建一个新的目录rmdir：删除一个空的目录cp: 复制文件或目录rm: 移除文件或目录mv: 移动文件与目录，或修改文件与目录的名称命令模式：用户刚刚启动 vi/vim，便进入了命令模式。此状态下敲击键盘动作会被Vim识别为命令，而非输入字符。比如我们此时按下i，并不会输入一个字符，i被当作了...
2020-03-26 13:04:58
90
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人