- 博客(33)
- 问答 (1)
- 收藏
- 关注
RSS订阅原创 Lamma2 踩坑记录
这里在tokenizer添加了一个pad_token，相比于原始的len(tokenizer)会➕1，并且将model的token_embeddings的大小增加1。我们在下载Lamma2模型的权重时，填写申请表格一出现 'China' 网页就没了，是不是不让中国用户使用lamma2了啊？这里使用的LlamaForCausalLM时Transformers写的一个用于文本生成的模型。这里的convert_llama_weights_to_hf.py脚本需要在。，在其基础上修改模型结构即可，常用的模型还是。
2024-04-18 11:30:46
836
原创 pytorch机器学习显存不足问题解决
问题描述：进行模型推理时，监控GPU和显存使用率，发现每一次推理，显存都会上升，监控不到显存下降，高并发进行推理时，显存不足退出。在每次推理结束后都都手动释放显存，可以监控到显存释放，问题解决。
2023-09-20 14:19:34
621
原创 深度学习与神经网络阅读笔记（持续更新）
文本分类将一个序列的最后一个时刻的隐藏状态hth_tht作为序列的特征表示，输入到分类器gg(.)g中.其中g⋅g(⋅)g⋅可以是简单的线性分类器（比如Logistic回归）或复杂的分类器（比如多层前馈神经网络)除了将最后时刻的状态作为整个序列的表示之外，我们还可以对整个序列的所有状态进行平均，并用这个平均状态来作为整个序列的表示，即。
2023-07-02 00:13:00
498
原创 Transformer你也想学习吗
Transformer算法通过自注意力机制和位置编码实现了对序列的全局建模能力。自注意力机制允许模型直接建立序列中不同位置之间的关联，并通过注意力权重来捕捉全局依赖关系。位置编码则引入了序列的位置信息，使模型能够感知和利用序列中的顺序信息。这种结构的堆叠和多头注意力机制进一步增强了模型的表示能力，使得Transformer在自然语言处理和计算机视觉等领域取得了重要的突破。
2023-06-13 14:56:15
514
原创 （搬运）SSH上传与下载
此时会要求用户输入服务器端用户的密码，成功输入密码后会连接到服务器。但是之后每次上传和下载操作后都会需要用户输入密码，为了实现免密登录，可以按如下进行操作。在~/.ssh目录下会生成 id_rsa（私钥）和 id_rsa.pub（公钥）。这里测试用的服务器地址为：192.168.235.22用户为：root上面这条命令是写到服务器上的ssh目录下的authorized_keys文件中去。在服务器上运行下列命令可以看到刚才写入的公钥内容。客户端通过ssh连接远程服务器，就可以免密登录了。
2023-04-25 09:58:37
1713
原创 无线定位与导航
本文将导航与无线定位结合在一起进行阐述，重点讲解无线定位技术在现代导航系统中的应用，其中我将从导航系统的发展和分类讲起，并着重就最新的无线定位技术如何在导航系统发挥重要作用进行阐述。
2023-02-08 23:15:10
1262
原创 DES加密算法解析
一个更严格的定义是严格雪崩效应准则SAC(Strict Avalanche Criterion)，参见文献[WEBS86]，即对于所有的i和，它要求若S 盒的输入的任意一位i发生变化，输出的任意位i发生变化的可能性为 1/2(参见附录S 中关于S 盒的讨论)尽管 SAC是对S盒而言的，作为个标准它同样适用于整个F函数。其中该系统的密钥位是已知的。函数F给 Feistel密码注入了混淆的成分，F 的明显标准是非线性，任何形式的分析就会越困难，越难将F近似表示为某些线性等式，F的非线性度就越高。
2023-02-08 23:09:05
5453
原创 Vue 父子组件动态数据，路由params监控，数组操作
在调用面包屑的子组件中，由于在面包屑中渲染数组，所以，直接给data赋值时不会再视图层有变化的，需要使用vue对数组的方法，这里使用splice。于组件的嵌套，需要在在外层组件监控router.$params的参数变化，使用深度监控。并将监控到的变量变化传递给子组件，这里使用ref调用子组件函数传参，使用面包屑时，要显示路由params的参数，面包屑的值为一个数组。
2022-09-04 14:23:23
769
原创 javaweb快速入门
使用maven、mybatis、servlet、tomcat、axois、html/css/javascript、vue、element快速构建javaweb项目
2022-08-05 20:40:16
293
原创 django学习
python django创建APIpython manage.py startapp api创建api文件夹在views文件中写apipython manage.py runserver 8088 创建服务器端口并运行urls.py文件views.py查询数据库 使用pymysql库import pymysqlfrom django.http import HttpResponseimport jsonfrom django.shortcuts import render# Cr
2022-04-16 17:09:15
693
原创 mySQL workbench基本操作及常见报错解决方案
一路next安装好mySQL后(不使用zip的软件包，配置有点麻烦，直接下载这个MSI安装包在windows64上可用运行，确保自己有vs2019及以前版本)，打开workbench此时会默认安装access32位的驱动，当要使用Microsoft access driver时，需要确保安装了Access 64bit利用mySQL workbench的Migration Wizard导入Access数据库：现在开始导入数据库点击database选择Migration Wizard然后一路
2022-04-01 00:13:59
6687
转载 Flex布局教程：语法篇（转载阮一峰）
网页布局（layout）是 CSS 的一个重点应用。布局的传统解决方案，基于盒状模型，依赖 display 属性 + position属性 + float属性。它对于那些特殊布局非常不方便，比如，垂直居中就不容易实现。2009年，W3C 提出了一种新的方案----Flex 布局，可以简便、完整、响应式地实现各种页面布局。目前，它已经得到了所有浏览器的支持，这意味着，现在就能很安全地使用这项功能。Flex 布局将成为未来布局的首选方案。本文介绍它的语法，下一篇文章给出常见布局的 Flex 写法。网
2022-03-20 09:29:10
7010
1
原创 概率论与随机过程难题整理复习
教材《概率论与随机过程》北邮出版社第一章概率论的基本概念考点：概念的公理化定义条件概率：全概率公式，贝叶斯公式事件的独立性（伯努利模型）1、某人将n封写好的信随机装入n个写好相应地址的信封中，问没有一封信装对地址的概率是多少？解：使用容斥定理（错排问题）P(A)=n!−(n1)(n−1)!+(n2)(n−2)!+⋯+(−1)n(nn)(−1)(n−n)!n!P(A)=\frac{n!-\begin{pmatrix}n\\1\end{pmatrix}(n-1)!+\begin{p.
2022-03-14 11:26:36
2651
原创 c++ 做题差缺笔记（持续更新）
c++ 做题差缺笔记（持续更新）函数名称功能构造函数产生或复制字符串析构函数销毁字符串=，assign赋以新值Swap交换两个字符串的内容+ =，append( )，push_back()添加字符insert ()插入字符erase()删除字符clear ()移除全部字符resize ()改变字符数量replace()替换字符+串联字符串==，！ =，<，<=，>，>=，c
2022-03-10 17:01:08
247
对于软件工程课程方向分流的选择
2022-07-07
TA创建的收藏夹 TA关注的收藏夹
TA关注的人