宁少的博客

其实可以看出语义相似的损失函数——主要思路是构建句子之间的相似度矩阵,然后通过比较正例和负例的相似度,采用交叉熵、log-sum-exp等方式计算loss,优化模型的句子表示,使得正例相似度更高。常用的语义相似度任务数据集包括STS-B,SICK等。模型训练过程中需要大量语义相关的文本对构成监督数据,损失函数则常采用余弦相似度与标注相似度的差异作为优化目标。这个任务的主要难点在于获得合适的文本向量表示,需要模型能够捕捉文本的语义信息,忽略词汇表面的差异,根据上下文判断语义是否相近。适用于不同的训练目标。

左：输入（Image/text）,通过计算预测值和真实标签值之间的损失更新模型右：环境（数据），agent（模型）在环境产生某个动作（预测值），从而获得奖励模型的打分，通过最大化打分更新agent（模型），从而再次回到环境产生新一轮的动作。基本概念还是解释一下一些概念，从NLP的角度举一些例子。首先是RL中的Policy，State，Action。接下来介绍Reward，Return，Q，V。PS：这里要注意区分价值和奖励：价值是未来累计奖励的期望。奖励是我们做出该动作后立即获取的收益。

SFT Trainer 是transformers.Trainer的子类，增加了处理PeftConfig的逻辑 .3、在外面创建模型的时候就不要向SFTTrainer传入from_pretrained()方法相关的参数。需要设置响应的模版： response_template = " ### Answer:"2、使用 8bit 训练模型的时候，最好在外部加载模型，然后传入SFTTrainer。gpu资源较好可使用7b模型的全精度进行Lora微调。在模型加载的时候按照int8进行加载。

RAG概述

p-tuning v2 在多种任务上下进行微调，之后对于不同的任务如token classification与sentence classification添加了随机初始化的任务头（AutoModelForTokenClassification、AutoModelForSequenceClassification），而非使用自然语言的方式，可以说V2是集大成者。手动尝试最优的提示无异于大海捞针，于是便有了自动离散提示搜索的方法（作图），但提示是离散的，神经网络是连续的，所以寻找的最优提示可能是次优的。

机器学习基础

深度学习面试题

面试总结

Mybatis Example简单使用

第一范式：必须保证每一列不可以再分！

2021考研王道计算机408（王道计算机组成原理+王道操作系统+王道计算机网络+王道数据结构）链接：https://pan.baidu.com/s/1krd4TFG0zj7EPqEr2T3aMg提取码：xpm7(备用)链接：https://pan.baidu.com/s/1NU8sOFdt4AY_oMdhk0fmRQ提取码：qr69...

docker卸载命令：yum remove docker \ docker-client \ docker-client-latest \ docker-common \ docker-latest \ docker-latest-logrotate \ docker-logrotate \ docker-selinux \ docker-engine-selin

public static void main(String[] args) { AutoGenerator mpg = new AutoGenerator(); //全局配置 String projectPath = System.getProperty("user.dir"); System.out.println(projectPath); GlobalConfig gc = new GlobalConfig(); g

狂神说Linux02：常用的基本命令（必掌握）本文档来自于狂神说JAVA，为复制版，纯属用来自己学习。狂神说Linux系列连载课程，通俗易懂，基于CentOS7，欢迎各位狂粉转发关注学习。未经作者授权，禁止转载常用的基本命令目录管理绝对路径和相对路径我们知道Linux的目录结构为树状结构，最顶级的目录为根目录 /。其他目录通过挂载可以将它们添加到树中，通过解除挂载可以移除它们。在开始本教程前我们需要先知道什么是绝对路径与相对路径。绝对路径：路径的写法，由根目录 / 写起，例如：/us

配置tensorflow环境Win+R启动cmd，在命令提示符内输入以下命令：conda create –n tensorflow-gpu python=3.6activate tensorflow-gpu pip install tensorflow-gpu==1.13.2pip install keras==2.1.5需要注意的是，如果在pip中下载安装比较慢可以换个源，可以到用户文件夹下，创建一个pip文件夹，然后在pip文件夹里创建一个txt文件。在这里插入图片描述修改txt文件的

有时候我们开启或重启Nginx时会报如下错误：Nginx [emerg]: bind() to 0.0.0.0:80 failed (98: Address already in use)原因是端口号80被其它程序或文件占用了，那么就干掉这个程序吧：root用户下：fuser -k 80/tcp1非root用户下：sudo fuser -k 80/tcp1然后开启或重启Nginx...

/bin：bin是Binary的缩写, 这个目录存放着最经常使用的命令。/boot： 这里存放的是启动Linux时使用的一些核心文件，包括一些连接文件以及镜像文件。/dev ： dev是Device(设备)的缩写, 存放的是Linux的外部设备，在Linux中访问设备的方式和访问文件的方式是相同的。/etc： 这个目录用来存放所有的系统管理所需要的配置文件和子目录。/home：用户的主目...

最近在Linux上安装了Mysql，然后在Windows环境下通过Navicat来连接时，出现报错：1045 Access denied for user ‘root’@‘XXX’ (using password: YES)。解决方法：方法一：首先，在Linux中是可以正常登录mysql，所以不会是用户密码错误导致的。这与防火墙有关，检查Linux下的防火墙是否开放了对应端口，发现此时...

什么是MVC?模型（Model）、视图（View）和控制器（Controller），即为MVC。控制器Controller：控制器即是控制请求的处理逻辑，对请求进行处理，负责请 求转发；视图View：视图即是用户看到并与之交互的界面，比如HTML（静态资源），JSP（动态资源）。模型Model：模型代表着一种企业规范，其中业务模型的设计可以说是MVC的核心。...

本文来自狂神说Git Bash：Unix与Linux风格的命令行类似Git CMD：Windows风格的命令行类似 GitGUI：图形界面的Git，不建议初学者使用，尽量先熟悉常用命令***常用的Linux命令***1）、cd : 改变目录。2）、cd . . 回退到上一个目录，直接cd进入默认目录3）、pwd : 显示当前所在的目录路径。4）、ls(ll): 都是列出当前...