- 博客(50)
- 资源 (7)
- 收藏
- 关注
RSS订阅
原创 如何利用Parsec+Zerotier+moon实现远程电脑云电脑、云办公、云游戏
RD Client 没法串流，向日葵带宽受限，同时也没办法打游戏。那么可不可以自己实现一台云电脑来实现云游戏呢？答案当然是可以的了，下面文章将进行介绍Parsec 这是我目前使用的终极远程桌面方式了，我之前写过通过，以及利用，感兴趣的朋友可以看一看。 使用Parsec 的话，个人所知主要有以下几种方式，这里主要介绍的是第五种方式，但每一种方式如何设置，通过这篇博客，都进行说明了。写这篇博客的目的也是为了日后自己更换环境可以快速进行配置。用记号说明以下，这样看的比较清晰。
2022-12-11 20:18:13
16841
63
原创 如何利用内腾讯云实现内网穿透，搭配微软远程桌面（博客较难）
利用微软自带的远程桌面进行访问，但无奈没有固定的公网地址，在我的上一篇文章中介绍了利用ipv6地址进行访问，但不可避免的是，在很多场所没有办法进入路由器的后台，因此，便需要一个相对稳妥的方式，那便是frp内网穿透。
2022-10-23 13:22:49
2204
4
原创 【论文笔记】The Power of Scale for Parameter-Effificient Prompt Tuning
与 GPT-3 使用的离散文本提示不同，软提示是通过反向传播学习的，并且可以调整以合并来自任意数量的标记示例的信号。该方法是在T5上面进行实验的，随着模型大小的增加，该方法与全量微调的差距越来越小。作者的方法可以看作是 Li 和 Liang (2021) 最近提出的“prefix-tuning”的简化，我们提供了与这种方法和其他类似方法的比较。最后，我们表明，使用软提示调节冻结模型可为域转移带来稳健性优势，并实现高效的“提示集成”。
2024-06-21 11:00:00
624
原创 【论文笔记】Prefix-Tuning: Optimizing Continuous Prompts for Generation
微调会修改所有语言模型参数，因此需要为每个任务存储完整副本。作者提出了前缀调整，这是自然语言生成任务微调的一种轻量级替代方案，它保持语言模型参数不变，而是优化**一系列连续的特定于任务的向量，称之为前缀。**灵感来源于prompt，在两个任务上使用prefix-tuning：在GPT-2上table-totext generation，在BART上面总结。
2024-06-21 08:30:00
1193
1
原创 【论文笔记】BitFit: Simple Parameter-efficient Fine-tuning for Transformer-based Masked Language-models
BitFIt只对模型的bias进行微调。在小规模-中等规模的训练数据上，BitFit的性能与全量微调的性能相当，甚至有可能超过，在大规模训练数据上，与其他fine-tuning方法也差不多。作者提出，fine-tuning是在模型训练中的知识暴露而不是在新领域学习新领域任务。
2024-06-20 13:47:41
307
原创 拉普拉斯矩阵对称归一化理解，通过一个简单的例子进行说明
对称归一化的拉普拉斯矩阵的优点是能够避免不同节点度数差异较大造成的计算不平衡问题，从而提高了算法的稳定性和收敛速度。对称归一化的拉普拉斯矩阵是通过将标准的拉普拉斯矩阵进行归一化得到的。在对称归一化的拉普拉斯矩阵中，每个非零节点都被除以该节点的度数的平方根，从而使得每个节点的度数对它的邻居节点的贡献相同。对于一个有向图，有两种常用的拉普拉斯矩阵：对称归一化拉普拉斯矩阵和非对称拉普拉斯矩阵。是度数矩阵的平方根的逆矩阵。最终可以实现近似的归一化，但是可以保证是一个对称矩阵。是标准的拉普拉斯矩阵，
2024-06-20 13:31:44
671
原创 【论文笔记】Parameter-Effificient Transfer Learning for NLP
克服微调训练不高效的问题，增加一些adapter模块，思想就是固定原始的网络中的参数，针对任务增加一些可以训练的参数，新任务无需重新访问以前的任务，产生高度的参数共享。与完全微调相比，仅仅增加了3.6%的参数，就接近了SOTA的结果。
2024-06-20 13:29:58
1272
1
原创 【论文笔记】LoRA LOW-RANK ADAPTATION OF LARGE LANGUAGE MODELS
随着模型越来越大，全量微调变得越来越不可行。作者提出了低秩适配器（LoRA），它冻结了预训练的模型权重，并将可训练的秩分解矩阵注入到 Transformer 架构的每一层中，大大减少了下游任务的可训练参数的数量。在GPT-3 175B使用Adam上，与全量微调相比，LoRA减少了10，000倍参数量，减少了3倍GPU内存消耗。🧐与Adapter相比，没有额外的推理延迟下面是对语言建模问题的简要描述，特别是在给定特定任务提示的情况下条件概率的最大化。
2024-06-20 13:24:35
1889
原创 【Python教程】4-字符串、列表、字典、元组与集合操作
在整理自己的笔记的时候发现了当年学习python时候整理的笔记，稍微整理一下，分享出来，方便记录和查看吧。个人觉得如果想简单了解一名语言或者技术，最简单的方式就是通过菜鸟教程去学习一下。今后会从python开始重新更新，然后更新深度学习的一些框架，一些代码，从CV到NLP都会有相应的讲解，包括大模型训练以及部署。先画个饼，有时间开始慢慢更新。2024年6月10日更新【Python教程】5-字符串、列表、字典、元组与集合操作。
2024-06-10 20:23:02
972
原创 【Python教程】3-控制流、循环结构与简单字符串操作
在整理自己的笔记的时候发现了当年学习python时候整理的笔记，稍微整理一下，分享出来，方便记录和查看吧。个人觉得如果想简单了解一名语言或者技术，最简单的方式就是通过菜鸟教程去学习一下。今后会从python开始重新更新，然后更新深度学习的一些框架，一些代码，从CV到NLP都会有相应的讲解，包括大模型训练以及部署。先画个饼，有时间开始慢慢更新。2024年6月10日更新【Python教程】3-控制流、循环结构与简单字符串操作。
2024-06-10 15:21:37
399
原创 【Python教程】2-函数、逻辑运算与条件判断
help()可以调出函数的说明文档函数可以通过语句返回结果。如果没有语句，函数默认返回。1.5 参数类型Python 函数的参数可以是任何类型，包括数字、字符串、列表、字典等，还可以设置默认值。2、逻辑运算符逻辑运算符包括, , 。它们通常用于条件语句中，来组合多个条件。2.2 运算符优先级在 Python 中，逻辑运算符的优先级为： > > 。如果有疑惑，可以使用括号来明确优先级。3、判断3.1 if3.2 if-else3.3 if-elif-else3.4 嵌套判断可以
2024-06-09 21:40:11
394
1
原创 【Python教程】1-注释、变量、标识符与基本操作
在整理自己的笔记的时候发现了当年学习python时候整理的笔记，稍微整理一下，分享出来，方便记录和查看吧。个人觉得如果想简单了解一名语言或者技术，最简单的方式就是通过菜鸟教程去学习一下。今后会从python开始重新更新，然后更新深度学习的一些框架，一些代码，从CV到NLP都会有相应的讲解，包括大模型训练以及部署。先画个饼，有时间开始慢慢更新。int，float，string，bool，List，Tuple(元组)，Dictionary(字典)字符串可以单引号，双引号，三个单引号，三个双引号。
2024-06-08 18:55:59
337
1
原创 【经验分享】不同内网服务器之间利用webdav互传文件
最近，我在处理两台服务器间的文件传输问题时遇到了不少难题。这两台服务器并不处于同一内网环境，导致无法通过SFTP进行文件传输。由于这些服务器属于局域网，并且我没有权限修改网络配置，这使得文件传输变得格外头疼，尤其是当文件体积较大时。为了解决这个问题，我曾尝试通过租用一个云服务器来架设一个中转站。我使用专用客户端连接到服务器B的内网，通过sock5或http协议连接到我的中转服务器。
2024-06-07 14:10:14
470
原创 【经验分享】Linux-命令之创建用户并赋予sudo权限
很久之前就萌生一个想法，将自己常用的Linux命令写成博客，方便他人学习也方便自己日后查看。由于种种原因一直没有开始，2024年5月15日开始记录，日后将会创建一个合集，方便查找。在Linux系统中，管理用户和权限是系统管理的重要部分。以下步骤将指导如何创建新用户、修改密码，并将其加入sudo权限组。
2024-05-15 12:29:56
828
原创 【经验分享】Linux-命令之SFTP使用指南
有时候两个服务器之间传文件真的很麻烦，虽然常用termius软件中，它自带sftp功能，但是他居然需要通过本地进行中转一下，带宽又多了一层限制。因此直接在两个服务器上直接使用sftp更方便，本贴方便查找命令。SFTP（Secure File Transfer Protocol）是一种常用的安全文件传输协议，它利用SSH协议提供加密的文件访问、文件传输和文件管理功能。
2024-05-13 14:53:30
1091
原创 【bug记录】清除僵尸进程，释放GPU显存
在进行深度学习或其他需要GPU支持的任务时，我们有时会发现虽然没有可见的进程在执行，但GPU资源却意外地被占用。这种情况往往会阻碍我们的工作进度，因为新的任务无法启动。如果你遇到了这种状况，不要担心，这里有一些方法可以帮助你解决这个问题。
2024-05-09 12:45:41
1340
原创 【论文笔记】Gemma: Open Models Based on Gemini Research and Technology
日期: March 5, 2024平台: CSDN, 知乎状态: Writing谷歌最近放出的Gemma模型【模型名字来源于拉丁文gemma，意为宝石】采用的是与先前Gemini相同的架构。这次谷歌开源了两个规模的模型，分别是2B和7B的版本。【对于个人电脑来说，2B真的要容易运行的多】。在18个基于文本的任务上，有11项胜过其他开源的模型。
2024-03-05 15:37:10
1494
原创 【论文笔记】Knowledge Is Flat: A Seq2Seq Generative Framework for Various Knowledge Graph Completion
以往的研究通常将 KGC 模型与特定的图结构紧密结合，这不可避免地会导致两个缺点特定结构的 KGC 模型互不兼容现有 KGC 方法无法适应新兴 KG。提出了KG-S2S。
2023-12-25 22:53:46
993
4
原创 【经验分享】gemini-pro和gemini-pro-vision使用体验
Gemini已经对开发者开放了Gemini Pro的使用权限，目前对大家都是免费的，每分钟限制60条，至少这比起CloseAI的每个账户5刀限速1min3条要香的多，目前已于第一时间进行了体验一句话总结，google很大方，但感觉模型的回答有些不尽人意。
2023-12-14 22:05:01
1369
1
原创 【论文笔记】Gemini: A Family of Highly Capable Multimodal Models——细看Gemini
【一句话总结，对标GPT4，模型还是transformer的docoder部分，提出三个不同版本的Gemini模型，Ultra的最牛逼，Nano的可以用在手机上。谷歌提出了一个新系列多模态模型——Gemini家族模型，包括Ultra，Pro，Nano（1.5B Nano-1，3.25BNano-2）三种尺寸（模型由大到小）。在图像、音频、视频和文本理解方面都表现出现，Gemini Ultra在32个benchmarks实现了30个sota。在MMLU中甚至达到了人类专家的性能。
2023-12-10 22:59:33
1620
1
原创 【经验分享】DDNS配置--使用DDNS-GO
DDNS（Dynamic Domain Name Server，动态域名服务）是将用户的动态IP地址映射到一个固定的域名解析服务上，用户每次连接网络的时候客户端程序就会通过信息传递把该主机的动态IP地址传送给位于服务商主机上的服务器程序，服务器程序负责提供DNS服务并实现动态域名解析。DNS的作用大家都理解，可以使用域名来访问IP地址，但是我们很多人的家中都没有静态的DNS地址，有些人家中有动态的IP地址；
2023-12-02 15:18:34
6674
8
原创 【经验分享】Ubuntu如何设置swap交换
我的Linux小鸡内存只有512兆，经常爆内存，导致很多应用没有办法一直正常运行，可以通过设置swap来缓解一下，虽然和内存的速度无法媲美，但是能一定程度缓解一下问题。
2023-11-21 13:02:45
1222
原创 【经验分享】CSDN中Markdown使用图片的一些trick：居中，调节尺寸
【代码】【bug记录】CSDN中Markdown使用图片的一些trick：居中，调节尺寸。
2023-09-01 20:22:05
91
原创 【bug记录】RuntimeError: CUDA error: device-side assert triggered
我个人使用pytorch lightning时，报错RuntimeError: CUDA error: device-side assert triggered。对不上，但是在gpu上运行是不会提示错误的。可以清晰的看到自己的错误啦！，就可以看到问题出在了哪里。
2023-08-28 15:40:38
281
原创 【bug记录】finalshell无法打开，不显示主界面
我常用的两个ssh软件一个是，另一个就是，termius主要是再多客户端同步账号比较方便，在手机上连接服务器也比较容易。个人觉得finalshell是一个非常好用的软件，可以看到系统的一些状态，也可以非常方便的上传和下载东西，更为重要的是界面比较好看，最近换了电脑，发现finalshell莫名的打不开了，这让我很匪夷所思，具体现象就是只显示帮助窗口，但是并不显示finalshell的主界面，怎么也切换不出来，如下所示。
2023-08-23 15:12:16
3184
3
原创 [论文笔记]INDIGO: GNN-Based Inductive Knowledge Graph Completion Using Pair-Wise Encoding
经典方法：给出kG在向量空间的表示，用预定义的打分函数补全图谱。inductive : 归纳式，从特殊到一半，在训练的时候只用到了训练集的数据transductive:直推式，在训练的时候用到了训练集和测试集的数据，但是不知道测试集的标签，每当有新的数据进来的时候，都需要重新进行训练。相当于是给了一些测试数据的情况下，结合已有的训练数据，看能不能推广到测试数据上。预测的三元组可以直接在GNN的最后一层读出来，无需额外的组件活打分函数。Attention：文中提到的意思正好与上述想法。
2023-04-11 16:47:53
442
2
原创 [论文笔记]Rethinking Graph Convolutional Networks in Knowledge Graph Completion
许多基于GCN的KGC模型增加了额外的计算复杂度，但效果并未提高。通过实验观察到，GCN中的图结构建模对KGC模型的性能没有显着影响，这与普遍看法相反。相反，实体表示的转换提供了性能改进。
2023-04-03 20:53:41
329
1
原创 OneDrive 大文件如何同步上传，利用mklink创建软连接
OneDrive在登陆的时候后提示你绑定存贮位置，不可避免的是，我们需要同步的文件不可能只在这个文件夹中，那我们如何将文件同步呢？以下介绍两种办法。
2023-02-27 20:27:39
2652
原创 Linux如何挂载exFAT格式移动硬盘
在Linux系统上创建一个目录作为挂载点。在这个命令中，“/dev/sdb1”应替换为您的硬盘设备和分区号。确认您的Linux系统上已经安装了exFAT驱动程序和工具。将exFAT格式的硬盘插入到Linux系统中。确保硬盘已连接并被系统检测到。如果您的系统中没有exFAT驱动程序和工具，您需要先安装它们。如果您的硬盘有多个分区，您可以根据需要将挂载点指向不同的分区。如果该命令返回了硬盘的信息，则表示挂载成功。
2023-02-18 22:21:06
9941
原创 傅里叶变换在图神经网络中的应用
需要注意的是，在实际应用中，由于计算效率等因素的限制，通常不会使用完整的傅里叶变换和傅里叶逆变换，而是采用基于Chebyshev多项式或Krylov子空间的快速傅里叶变换等方法来进行频域卷积运算，以提高计算效率。是在频域中的卷积核，通常是一组可学习的参数。对于基于拉普拉斯矩阵的谱分解的GNN，如GCN，可以利用傅里叶变换将拉普拉斯矩阵的特征向量表示为频域信号，然后通过频域卷积操作对节点特征进行卷积。在频域中，卷积操作可以表示为简单的点乘操作，因此可以将节点特征在频域中进行卷积操作，得到新的频域特征表示。
2023-02-16 00:18:50
697
原创 远程桌面、云办公与云游戏的多种解决方案（由简入深）
试想一下这个场景，你可以躺在床上，抱着平板或手机玩着PC上面的游戏，也许你会说屏幕太小，那我们可以换一个场景。假设你有一台性能足够强的台式机，但你出门在外，亦或是上学、出差，想处理家里电脑的文件怎么办？这时候远程电脑的作用就不言而喻了。当然通过一个智能插座控制电脑的远程开关机就更为方便了。远程连接电脑其实有很多种解决方案，对于普通用户最友好的方案还是向日葵，ToDesk软件，只需要注册安装就可以满足绝大部分用户的需求。
2023-02-10 16:30:51
1408
原创 GitHub图床的搭建和使用（简洁版）
简单记录一下如何使用GIthub作为图床。GIthub如何注册，PicGo怎么安装这种问题，以及如何使用Typora的问题，我就不在这里写了，感兴趣的可以看我之前的两篇博客。
2023-02-10 15:29:56
299
原创 【LeetCode刷题记录】单链表难点总结及Python代码实现
不时记录一下自己刷题的想法，以免后续遗忘，所有的代码都是用Python写的，因为日后需要，尽量所有代码都用Python写了，单链表的应该没有特别大的难度的东西了，有几道题写了测试的代码，应该都能看出来哈，没有加图解，对找环不清楚的，可以去看看知乎。
2022-11-23 22:03:52
342
原创 Typora+PicGO+gitee实现图床解决Typora图片不显示的问题
Typora+PicGO+gitee实现图床解决Typora图片不显示的问题
2022-04-03 16:56:16
2300
18
原创 高级语言+数据结构整理
c语言关键字有37个，c语言标识符以字母开头，下划线算字母ASCII a 97 A 35 toupper(int c) tolower(int c)输出格式 %8.1f 8指的是所占宽度，1指的是小数点后的位数数组声明的最外层一维可以不指定本维元素个数C语言字符串结束标志是\0（ASCII码是0）#define语句没有分号strcmp是按照字典顺序比较两个字符串strcpy是将一个字符串赋值给另一个字符数组（一个字符串变量）运算符优先级从右往左结合..
2022-04-03 10:15:38
918
原创 LeetCode189-轮转数组-java
189.轮转数组189.1题目描述给你一个数组，将数组中的元素向右轮转 k 个位置，其中 k 是非负数。示例 1:输入: nums = [1,2,3,4,5,6,7], k = 3输出: [5,6,7,1,2,3,4]解释:向右轮转 1 步: [7,1,2,3,4,5,6]向右轮转 2 步: [6,7,1,2,3,4,5]向右轮转 3 步: [5,6,7,1,2,3,4]示例 2:输入：nums = [-1,-100,3,99], k = 2输出：[3,99,-1,-100]解释
2022-02-15 20:14:43
191
PicGo-Setup-2.3.0-x64
2022-04-03
JavaWeb实现简易教务管理系统-servlet-jsp-MVC
2021-07-03
吉林大学计算机图形学实验代码.zip
2021-03-24
吉林大学微机系统期末复习.pdf
2021-03-09
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人