- 博客(41)
- 收藏
- 关注
RSS订阅原创 LLM学习笔记-6
去除标点等，不得不使用正则表达式，其实这个东西也挺重要的，当面试官询问时候，我们不能说不会，而是说能用，而且会查表，简单能看得懂。在训练大模型前，数据预处理是一项不得不做的事情。主要就是清理数据，去除噪声，把数据格式化等等。下面是一个txt文件，用来清理数据的示例，我们可以命名为the-verdict.txt。接着处理标点符号，如句号、问号等。
2024-04-29 00:13:26
752
原创 LLM学习笔记-4
# 从Hugging Face加载预训练权重1. 因为每次训练都要有资源消耗 (GPU算力，还有时间成本），所以说及时保存模型是非常重要的。2. 教大家如何去下载Hugging Face的模型进行生成文本
2024-04-25 00:39:38
377
原创 LLM学习笔记-3
1）在机器学习中，"温度缩放"通常指的是一种技术，用于调整神经网络输出的概率分布。这个技术通常在 softmax 函数的输出上进行操作。2）在 softmax 函数中，神经网络会输出一个概率分布，表示每个类别的预测概率。温度缩放通过引入一个称为"温度"的参数来调整这些概率值。增大温度会使得概率分布更加平滑，降低温度会使得概率分布更加尖锐。3）但是也不是说，温度越高越好，较高的温度可以使得概率分布更加平滑，从而降低模型的过度自信，有助于减少模型的过拟合，提高模型的泛化能力。
2024-04-22 23:13:02
425
原创 LLM学习笔记-2
假设我们有一个inputs张量，包含了2个训练样本（行）的标记ID。，以下改图，进行阐释了此词汇表的产生。在数学优化中，最大化概率分数的对数比分数值本身更容易，这里介绍一个回归损失函数。，并不是特别理想，在本节中，会用数据进行训练，使得模型更加的好；这次效果比上一节的效果好了很多。其中10.7722称为交叉熵损失。训练阶段(代码整理完后更新)在上节的笔记中，因为。
2024-04-21 01:04:26
408
原创 LLM学习笔记-1
在LLM中，除了ReLU之外，还使用了其他类型的激活函数；GELU（Gaussian Error Linear Unit）：其精确版本定义为。是标准高斯分布的累积分布函数。
2024-04-18 00:43:22
364
原创 F (1164) : B DS二叉排序树_有效的二叉排序树
数组形式的二叉树表示方法与题目：DS二叉树_伪层序遍历构建二叉树 相同，输入-1表示空结点。代码如下,难点在于两个，一个是非递归层次遍历建树，第二个是判断为有效的二叉排序树。每一行输出当前二叉树是否为二叉排序树，若是，则输出true，否则输出false。第二行起，每一行首先输入n，接着输入n个整数，代表二叉树。给你一个二叉树，判断其是否是一个有效的二叉排序树。1. 结点的左子树只包含小于当前结点的数。2. 结点的右子树只包含大于当前结点的数。第一行输入t，表示有t个二叉树。以此类推共输入t个二叉树。
2023-12-26 23:31:08
546
原创 HCL设备启动失败——已经解决
摸索了一个多小时，终于搞定了，首先HCL这款软件是需要安装Oracle VM Visual Box的，小伙伴们安装的时候记得点击安装Visual Box；顺便附上打开win10在BIOS开启Intel VT-x的文章（这是必须要打开的）最后看到一篇博客，说是因为Hyper-V设置为auto的原因；安装完后显示设备不能启动，然后我根据这个。逐一排查原因，发现还是行不通；管理员模式打开命令行，
2023-11-17 21:21:56
4249
3
原创 申请软著，自动创建docx，每页50行代码
准备：将上面1.py文件放在工作目录下面，点击运行1.py即可生成1.docx。举个粒子：（如果有些文件不能打开，在小黑框会显示出来，还有一定要按Enter才能保存）申请软件著作的时候需要copy代码到文档里面，这种重复无聊的工作遇上了我，便变成一堆python代码······当然没有python环境也没关系，我已经准备好了程序，下载后和1.py一样使用。
2023-01-12 00:42:30
1232
1
原创 downloading Olivetti faces from urllib.error.HTTPError: HTTP Error 403: Forbidden
downloading Olivetti faces from https://ndownloader.figshare.com/files/5976027 urllib.error.HTTPError: HTTP Error 403: Forbidden，fetch_olivetti_faces数据集下载不了
2023-01-11 14:29:50
1811
9
原创 excel绘制直方图 用histogram 进行频数统计成绩出现的次数
excel绘制直方图 用histogram 进行频数统计成绩出现的次数 可供练习数据如下： 大功告成！
2022-10-27 23:34:58
1448
原创 make : The term ‘make‘ is not recognized as the name of a cmdlet, function, script file, or operable
make : The term ‘make‘ is not recognized as the name of a cmdlet, function, script file, or operable program. Check thespelling of the name, or if a path was included, verify that the path is correct and try again.'make' is not recognized as an interna
2022-10-07 00:38:06
2970
1
原创 数据库操作cmd命令
命令格式：mysql -h 远程数据库ip地址 -P 端口号 -uroot -p+‘密码’ 数据库名称 备份的路径。命令格式：mysql -uroot -p+‘密码’ 数据库名字
2022-09-19 16:37:38
467
转载 /usr/bin/gzip: 1: ELF: not found/usr/bin/gzip: 3: : not found/usr/bin/gzip: 4: Syntax error:
/usr/bin/gzip: 1: ELF: not found/usr/bin/gzip: 3: : not found/usr/bin/gzip: 4: Syntax error: "(" unexpectedtar: Child returned status 2tar: Error is not recoverable: exiting now看贴Ubuntu 22.04LTS 使用code.打不开vscode(vscode内Remote-WSL连不上Ubuntu22）已解决（usr/bi
2022-07-02 12:58:59
2661
原创 Ubuntu 22.04LTS 使用code.打不开vscode(vscode内Remote-WSL连不上Ubuntu22）已解决（usr/bin/gzip: 1: ELF: not found/us
/usr/bin/gzip: 1: ELF: not found/usr/bin/gzip: 3: : not found/usr/bin/gzip: 4: Syntax error: "(" unexpectedtar: Child returned status 2tar: Error is not recoverable: exiting nowtar is unable to read /home/rwlinux/.vscode-server/bin/c3511e6c69bb39013c
2022-05-21 00:51:12
6989
20
原创 1.67版本vscode括号着色（Bracket Pair Colorizer）取消
因为之前看惯了vscode没有颜色的括号，现在看那些花花绿绿的括号有点不适应，如何取消呢？搜索设置editor.bracketPairColorization.enabled然后取消勾选即可!
2022-05-06 11:06:26
2196
3
原创 光学仿真（python菲涅尔公式）
import matplotlib.pyplot as pltfrom matplotlib.ticker import FuncFormatter#数学公式包""" np.pinp.cos(此处输入的是弧度制)np.sqrt()np.sin()平方是**"""import numpy as np"""def 函数名字(输入参数) return """#公式def fresnel(theta, n1, n2): theta = theta*...
2022-03-20 14:15:26
3898
6
原创 vscode调试go
vscode-go/debugging.md at master · golang/vscode-go (github.com)记录一下因为自己在Ubuntu上始终调试不了go，用回了windows下的go，一下子就可以了
2022-02-02 19:39:41
604
原创 ubuntu历险记(vscode+golang配置图文详解，解决vscode缺插件报红问题)（二）
上一节，我们讲了Windows下 装好Ubuntu这个子系统这一节我们来恢复我们的golang语言工作环境，编译器选择vscode在D盘创建一个新的文件夹go（用来存放go的安装包）在官下载go语言包Downloads - The Go Programming Language下载到D:\go,然后解压这个文件到当前文件夹，就会出现一个go的文件夹打开你的Ubuntu20.04LTS，输入下面指令，将go复制到 ubuntu 下的/usr/localsudo c.
2022-01-21 16:35:20
1816
原创 Ubuntu踩坑记（附 Ubuntu20.04LST 重装图文教程）
看到c盘不够了，本想着把Ubuntu移动到D盘上没想到，（用了github上的某LxRunOfflxxx）移动失败，导致文件不完整，导致Ubuntu打不开了，心里咯噔一下，掉进低谷；抱着一点点希望去问某大神，给的答案是“重装把”，哭！好吧，那就重装把呜呜。先把linux的home目录下的重要的资源拷贝一份放到D盘；然后点击卸载ubuntu，就可以删掉全部得文件了（如果是从官网上下载的Ubuntu，不能直接删掉其所在的文件！！！！）接下是重新安装（还是安装微软里面的Ubuntu20.04LTS
2022-01-21 14:35:50
951
原创 数值计算期末突袭
1.看视频补全知识数值分析速成_哔哩哔哩_bilibili2.细枝末节2.1高斯求积公式华北理工大学：数值计算方法23高斯求积公式_哔哩哔哩_bilibili2.2傅里叶变换2.3拉格朗日插值的编程
2022-01-14 00:29:29
189
原创 c++复习心得体会
封装、继承、多态三大特点是c++的三大特性。那么，实现封装使用的是private，实现继承在java中是extends，在C语言中是使用 : +权限+ 基类名， 实现多态，JAVA中就是 用重载和重写来体现的，在C++中多态也是用重载和重写实现的， 而virtual 关键字就是其中最重要的。作为虚函数，C++中的虚函数的作用主要是实现了多态的机制。关于多态，简而言之就是用父类型别的指针指向其子类的实例，然后通过父类的指针调用实际子类的成员函数。这种技术可以让父类的指针有“多种形态”，这是一种泛型技术..
2022-01-02 19:36:57
512
原创 C++运算符重载（2）
自己敲的代码，如果有错误，小心点pen ,所有运算符重载的代码都放在主体代码里面便可跑起来一元运算符重载主体代码#include<iostream>using namespace std;class point { int x,y,z; public: point (int X=0,int Y=0,int Z=0){x=X;y=Y;z=Z;} void show(){ cout<<"x="<<x<
2021-12-03 23:40:56
739
原创 前端三件套之——html(1)
html骨架，css美起来，js动起来黑马程序员web前端开发入门教程，零基础html5+css3+前端项目视频教程_哔哩哔哩_bilibili插入图片1.src="该目录下的图片名" alt="不显示图片时才显示的文字" title="悬停文字"<!DOCTYPE html><html lang="en"><head> <meta charset="UTF-8"> <meta http-equiv="X...
2021-11-24 17:32:53
416
原创 Gin框架学习
之前安装好了go环境后，要在上面安装gin框架，以便进行web开发但是有个问题就是当我输入下面指令时：go get github.com/gin-gonic/gin因为墙的原因，下载不了了。。。那就找方法把，找到了几种方法：方法一（安装在了/pkg/mod里面了，所以这种方法后续操作很难，我放弃了）启用 Go Modules 功能go env -w GO111MODULE-on配置 GOPROXY 环境变量go env -w GOPROXY=https:/..
2021-11-19 13:20:57
363
原创 mysql学习篇
想试一下安装数据库，没想到搞了一个下午（看了好多篇博客，百度各种出现bug的原因，还去b站大学找视频看，终于在自己的Ubuntu下成功安装了mysql）真实场景赶紧试一下效果吧！sudo susudo mysql -u root -pSHOW DATABASES;代码错误会显示以下信息，多检查几遍就好了ERROR 1064 (42000): You have an error in your SQL syntax; check t...
2021-11-13 22:02:08
1001
原创 判断矩形是否重叠(复合类+友元)
判断矩形是否重叠(复合类+友元)题目描述用CPoint表示点，用两个CPoint对象表示矩形类CRect的对角线两点。分别实现CPoint类和CRect类，并在主函数用输入的坐标定义4个CPoint类对象，每2个CPoint对象再构造1个CRect对象，然后写个友元函数，判断2个矩形是否重叠。输入判断次数矩形1的对角线顶点坐标x1, y1, x2, y2矩形2的对角线顶点坐标x1, y1, x2, y2…输出是否重叠示例输入31 5 2 91 3 2 4
2021-11-06 22:29:53
676
1
原创 期中考模拟题
T1：判断矩形是否重叠(复合类+友元)#include <iostream>using namespace std;#include <iomanip> class CPoint{ public: CPoint(){ } CPoint(int a,int b){ x1=a; y1=b; } void set(int a,int b){ x1=a; y1=b; }// private: int x1; int y1; }
2021-11-04 15:24:12
143
原创 问题 E: 向量5（友元类）
题目描述在向量CVector类的代码上，定义n阶矩阵类CMatrix，包含私有数据成员M存储矩阵数据，n存储矩阵阶数。将CMatrix定义为CVector的友元类。为CMatrix添加成员函数：CVector Multi(const CVector &V1)，计算n阶矩阵与n维向量V1的乘积。为CMatrix添加成员函数，判定矩阵与向量V1是否可计算乘积。为CMatrix添加需要的构造函数、析构函数和其它成员函数。主函数输入数据，测试矩阵与向量的乘积。//动态创.
2021-10-31 14:19:55
961
原创 问题 B: 向量2（友元及拷贝构造）
#include<iostream>using namespace std;//学会输入数组，类内有数组：地址等于地址 //如何搞类里面的数组的调取b1.a[i]class CVector{ public: CVector(){ n=5; data=new int [5]; for(int i=0;i<5;i++){ *(data+i)=i; } } CV...
2021-10-30 23:19:14
957
原创 问题A：向量1（类和对象）
#include<iostream>using namespace std;class CVector{private: int *data; int n;public: CVector(){ n = 5; data = new int[5]; data[0] = 0;data[1] = 1;data[2] = 2;data[3] = 3;data[4] = 4;//这里需要动态指针是因为在它之前主函数没有定义动态指针 } CVector(int _n,int...
2021-10-30 22:41:02
359
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人