- 博客(6)
- 收藏
- 关注
RSS订阅原创 暑期LM：L1-0 书生大模型全链路开源体系
虽然其他来源的数据量较小，但平均文档长度较长，内容质量较高。设计启发式过滤规则，清理数据中的低质量内容，如解析错误、格式错误和非自然语言文本，使用局部敏感哈希（LSH）方法进行模糊去重，采用域名封锁、关键词封锁、色情内容分类器和毒性分类器进行过滤。为了减少数据集中易难样本的不平衡影响，引入了难度衰减系数到排序损失函数中，并加入了对奖励分布的对数障碍惩罚，从而提高模型的鲁棒性和一致性。通过三轮在线RLHF的优化，COOL RLHF显著提高了模型在主观对话评估中的性能，增强了模型的可靠性和对人类偏好的适应性。
2024-08-07 16:08:18
235
原创 暑期LM: L0-1python基础
选择debugger时选择python debuger。选择debug config时选择remote attach就行，随后会让我们选择debug server的地址，因为我们是在本地debug，所以全都保持默认直接回车就可以了，也就是我们的server地址为localhost:5678。
2024-08-06 22:09:38
259
原创 暑期LM：L0-0端口映射
要理解端口映射所要解决的问题，首先要明确三个“电脑”：本地个人PC a，远程开发服务器 b，以及外网存储资源的服务器c当我们在b上运行web_demo程序时，可能会遇到ui加载不全的问题，这就是因为b访问c出现了代理问题，为了解决这个问题，我们将b中的端口进行映射，映射到本地的主机a，通过a来访问c上述命令的作用是：a通过b唯一暴露在外的40893端口进行ssh通信，告知b进行端口映射的隧道搭建，任何发送到a主机7860端口的流量，都会被ssh隧道转发到b主机127.0.0.1:7860端口处。
2024-07-29 22:27:09
200
原创 寒假学习笔记 2022.1.27
1.浅拷贝与深拷贝（未解决）如果没有自定义复制构造函数，则系统会创建默认的复制构造函数，但系统创建的默认复制构造函数只会执行“浅拷贝”，即将被拷贝对象的数据成员的值一一赋值给新创建的对象，若该类的数据成员中有指针成员，则会使得新的对象的指针所指向的地址与被拷贝对象的指针所指向的地址相同，delete该指针时则会导致两次重复delete而出错。即，如果类中有指针成员，则必须自定义复制构造函数。2.C++primer 中构造函数的冒号和小括号 （成员初始化列表）class Example {
2022-01-27 12:02:47
766
原创 关于搜索式的学习
关于搜索式的学习在刚入门计算机编程时，往往出现以下情况：我们看到一个专有名词：“GUN”，我不知道它的意思。现在在百度、知乎、维基上进行查找。GUN（0）：Unix（1）系统被发明之后，大家用的很爽。但是后来开始收费和商业闭源了。一个叫 RMS 的大叔觉得很不爽，于是发起 GNU计划，模仿 Unix的界面和使用方式，从头做一个开源（1）的版本。然后他自己做了编辑器（1）Emacs 和编译器GCC（1）。GNU 是一个计划或者叫运动。在这个旗帜下成立了 FSF(1-)，起草了 GPL(...
2021-11-13 20:18:43
1181
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人