m0_67146053的博客

首先我们将简要介绍论文的背景，我们之前往往通过人类反馈强化学习(RLHF: reinforcement learning from human feedback)对无监督的大模型进行微调以对齐人类偏好，该方法通常分为三个阶段，有监督微调(SFT: supervised fine-tuning)，利用人类偏好生成数据集与奖励模型的建模，以及强化学习优化。而本文提出了直接偏好优化(DPO。

本篇文章中我们将详细比较torch.nn中两个损失函数类NLLLoss与CrossEntropyLoss，首先我们将介绍负对数似然和交叉熵，其次我们再介绍在Pytorch中两个类具体的执行计算方式。

本文中是笔者针对CS224N assignment1给出的个人解答。本次作业主要是初步探究词向量，词向量通常被用作下游 NLP 任务（如问题解答、文本生成、机器翻译等）的基本组成部分，本次作业中我们将探索两种类型的词向量：从共现矩阵中得出的词向量和通过 GloVe 得出的词向量。

我们使用AG_NEWS数据集实现一个简单的文本分类模型

刚换过电脑，今天想重新装一下pytorch的CPU版本，也遇到了诸多问题，这里分享一下本人的安装过程。首先默认大家已经安装了anaconda，打开anaconda prompt后，输入如下代码，可获得当前。安装完成后 ，输入python，然后输入import torch，返回下一行证明安装完成。其中enviname是新环境名称，showname是jupterbook中kernel的名称，自己定。创建虚拟环境，当然环境名称和python版本自己决定，遇到y/n都选y。然后激活并进入环境。

法国学习数学物理的网站

vscode的个人配置以及使用