- 博客(33)
- 问答 (3)
- 收藏
- 关注
RSS订阅原创 LMDeploy 量化部署实践
使用结合W4A16量化与kv cache量化的internlm2_5-1_8b-chat模型封装本地API并与大模型进行一次对话。使用LMDeploy部署原版的1.8b大模型，占用显存20.6G，大模型可以正常对话。结合W4A16量化与kv cache量化，全部结合使用，占用了11.4G的显存。
2024-09-28 03:02:24
264
原创 InternVL 微调实践
参考教程部署：https://github.com/InternLM/Tutorial/blob/camp3/docs/L2/InternVL/joke_readme.md。follow 教学文档和视频使用QLoRA进行微调模型，复现微调效果，并能成功讲出梗图.合并权重&&模型转换。
2024-09-28 02:51:21
228
原创 茴香豆：企业级知识问答工具实践
在 InternStudio 中利用 Internlm2-7b 搭建标准版茴香豆知识助手，并使用 Gradio 界面完成 2 轮问答。知识库可根据根据自己工作、学习或感兴趣的内容调整，如金融、医疗、法律、音乐、动漫等。注意BCEmbedding版本不是0.15，是BCEmbedding==0.1.5。知识库创建成功后会有一系列小测试，检验问题拒答和响应效果。3、使用 Gradio 界面完成 2 轮问答。
2024-09-28 02:10:39
421
原创 MindSearch 部署到Github Codespace 和 Hugging Face Space
和原有的CPU版本相比区别是把internstudio换成了github codespace。教程是https://github.com/InternLM/Tutorial/blob/camp3/docs/L2/MindSearch/readme_github.md。
2024-09-27 23:49:58
163
原创 Lagent 自定义你的 Agent 智能体
1、根据教材部署环境。2、启动Lagent Web Demo 和LMDeploy api_server，注意，Lagent Web Demo的model要填实际的model name。3、制作新的插件magicmaker和weatherquery'dongman', # 动漫'guofeng', # 国风'xieshi', # 写实'youhua', # 油画'manghe', # 盲盒else:else:@tool_apiArgs:Returns:"""try:}),
2024-09-27 10:39:08
358
原创 OpenCompass 评测 InternLM-1.8B 实践
1、按照教材安装环境。使用 OpenCompass 评测 internlm2-chat-1.8b 模型在 ceval 数据集上的性能，记录复现过程。2、使用命令行配置参数法进行评测，在10%的A100设备上运行，大概用时1.5h。
2024-09-26 20:43:48
195
原创 XTuner 微调个人小助手认知任务
通过在微调数据集中加入8000条表明身份的数据，让微调后的模型能够完完全全认识到你的身份。3、训练完后，对lora模型做格式转换和模型合并到基座模型，最后得到微调后的模型。1、根据教材安装好环境之后，测试微调前的模型。4、测试微调后的模型，微调成功。
2024-09-26 20:33:54
195
原创 8G 显存玩转书生大模型 Demo
使用 Cli Demo 完成 InternLM2-Chat-1.8B 模型的部署，并生成 300 字小故事。参考了这个教程https://github.com/InternLM/Tutorial/blob/camp3/docs/L1/Demo/readme.md。
2024-09-25 11:18:00
272
原创 书生·浦语大模型全链路开源开放体系-笔记
推理能力领先与社区开源模型相比，InternLM2的性能提升了20%，这表明模型在处理复杂推理任务时更加高效和准确。支持100万字上下文该模型能够理解和精确处理长达100万字的文本，这在开源模型中处于领先地位。这种能力对于处理长篇文章、学术论文和大型文档至关重要。自主规划和搜索完成复杂任务AI模型通过信息搜索和整合，能够撰写专业回答，针对复杂问题提供解决方案。这种自主规划和搜索的能力使得处理效率提升了60倍。模型能力飞升当前模型数据过滤智能评估：模型能够智能评估和过滤数据，以提高训练质量。
2024-09-25 10:04:41
583
原创 Python 关卡-python前置基础
学习链接：https://github.com/InternLM/Tutorial/blob/camp3/docs/L0/Python/readme.md。
2024-09-24 16:02:54
282
原创 Linux+InternStudio 关卡
根据https://github.com/InternLM/Tutorial/tree/camp3/docs/L0/Linux的教程做。6、成功在本地访问http://127.0.0.1:7860。3、创建然后运行hello_world.py。
2024-09-24 13:40:49
172
原创 leetcode2.两数相加 234. 回文链表 [python acm模式]
动画：https://leetcode.cn/problems/add-two-numbers/solutions/2327008/dong-hua-jian-ji-xie-fa-cong-di-gui-dao-oe0di/将和的个位数作为新链表的当前位，十位数（如果有）作为下一位的进位。对于每一位，我们加上两个数字的对应位（如果存在）和上一位的进位。移动到下一位继续计算，直到所有位都处理完毕且没有剩余进位。计算出的和可能大于 9，所以我们需要处理进位。从最低位（链表头部）开始，逐位相加。
2024-07-04 17:58:30
182
原创 卡码网12. 打印数字图形
此异常通常在使用 Scanner 类的 next()、nextInt() 等方法读取输入时，如果输入的数据少于预期或者已经到达输入流的末尾，但仍尝试读取更多数据时，就会发生。值得注意的是，输入流如果是sc.hasNextLine())，是会报错的sc.hasNextLine())，异常: Exception in thread “main” java.util.NoSuchElementException。但是sc.hasNextLine())改成sc.hasNext()，就不会。
2024-06-04 20:50:34
311
原创 Java开发报错合集
分析：403可能是s设置了Spring Security，但是没加Spring Security。而且报错明显是跨域。解决方法：代码加上 @CrossOrigin(origins = “*”)
2024-05-30 00:45:19
144
原创 【day40】62.不同路径，63. 不同路径 II，343. 整数拆分
递推公式和62.不同路径一样，dp[i][j] = dp[i - 1][j] + dp[i][j - 1]。但这里需要注意一点，因为有了障碍，(i, j)如果就是障碍的话应该就保持初始状态（初始状态为0）。dp[i][j] ：表示从（0 ，0）出发，到(i, j) 有dp[i][j]条不同的路径。走到（i，j）有多少种路径等于从左边的路径数目+上面的路径数目，因为再走一格就到（i，j）有障碍的话，其实就是标记对应的dp table（dp数组）保持初始值(0)就可以了。
2024-04-22 21:41:03
286
原创 【第32天】122.买卖股票的最佳时机 II，55. 跳跃游戏，45.跳跃游戏II
这道题目关键点在于：不用拘泥于每次究竟跳几步，而是看覆盖范围，覆盖范围内一定是可以跳过来的，不用管是怎么跳的。局部最优，利润分解为每天为单位的维度，只收集正利润。比如输入: [7,1,5,3,6,4]每天利润是：-6，4，-2，3，-2。所获得的最大利润就是7。
2024-04-22 18:23:44
159
原创 第12天|239. 滑动窗口最大值 347.前 K 个高频元素 （一刷至少需要理解思路）
这是使用单调队列的经典题目。此时我们需要一个队列，这个队列呢，放进去窗口里的元素，然后随着窗口的移动，队列也一进一出，每次移动之后，队列告诉我们里面的最大值是什么。时间复杂度: O(n)空间复杂度: O(k)
2024-04-19 23:04:11
134
原创 【第11天】20. 有效的括号1047. 删除字符串中的所有相邻重复项1047. 删除字符串中的所有相邻重复项
要知道栈为什么适合做这种类似于爱消除的操作，因为栈帮助我们记录了 遍历数组当前元素时候，前一个元素是什么。例子abbaca，然后bb消除，aa消除，剩下ca。
2024-04-19 20:25:23
211
原创 代码随想录算法训练营第10天 |232.用栈实现队列，225. 用队列实现栈
大家可以先看视频，了解一下模拟的过程，然后写代码会轻松很多。题目链接/文章讲解/视频讲解：https://programmercarl.com/0232.%E7%94%A8%E6%A0%88%E5%AE%9E%E7%8E%B0%E9%98%9F%E5%88%97.html先了解stack的方法有什么：boolean empty()：判断栈是否为空，如果栈为空则返回 true，否则返回 false。E peek()：查看栈顶元素，但不弹出。返回栈顶元素。E pop()：弹出栈顶元素并返回。
2024-04-14 11:31:17
389
原创 代码随想录算法训练营第三天 | 203.移除链表元素 、 707.设计链表、 206.反转链表
动图看https://programmercarl.com/0707.%E8%AE%BE%E8%AE%A1%E9%93%BE%E8%A1%A8.html#%E5%85%B6%E4%BB%96%E8%AF%AD%E8%A8%80%E7%89%88%E6%9C%AC。题目链接/文章讲解/视频讲解：：https://programmercarl.com/0203.%E7%A7%BB%E9%99%A4%E9%93%BE%E8%A1%A8%E5%85%83%E7%B4%A0.html。在链表的最前面插入一个节点。
2024-04-07 00:25:29
325
原创 代码随想录算法训练营第八天 | 344.反转字符串 、541. 反转字符串II、 151.翻转字符串里的单词
题目链接/文章讲解：https://programmercarl.com/kama54.%E6%9B%BF%E6%8D%A2%E6%95%B0%E5%AD%97.html。建议： 本题是字符串基础题目，就是考察 reverse 函数的实现，同时也明确一下 平时刷题什么时候用 库函数，什么时候 不用库函数。使用split库函数，分隔单词，然后定义一个新的string字符串，最后再把单词倒序相加。建议：本题又进阶了，自己先去独立做一做，然后在看题解，对代码技巧会有很深的体会。好难，不懂，到时候复盘。
2024-03-29 22:37:44
304
原创 代码随想录算法训练营第七天| 454.四数相加II 、383. 赎金信 、 15. 三数之和 、 18. 四数之和 。
四数之和的双指针解法是两层for循环nums[k] + nums[i]为确定值，依然是循环内有left和right下标作为双指针，找出nums[k] + nums[i] + nums[left] + nums[right] == target的情况，三数之和的时间复杂度是O(n。建议：本题虽然和 两数之和 很像，也能用哈希法，但用哈希法会很麻烦，双指针法才是正解，可以先看视频理解一下 双指针法的思路，文章中讲解的，没问题 哈希法很麻烦。遍历大A和大B数组，统计两个数组元素之和，和出现的次数，放到map中。
2024-03-29 18:54:42
288
原创 代码随想录算法训练营第六天| 242.有效的字母异位词 、349. 两个数组的交集 、 202. 快乐数 、 1. 两数之和 。
什么时候想到用哈希法，当我们遇到了要快速判断一个元素是否出现集合里的时候，就要考虑哈希法。这句话很重要，大家在做哈希表题目都要思考这句话。
2024-03-28 22:07:54
134
原创 代码随想录算法训练营第二天| 977.有序数组的平方 、 209.长度最小的子数组、 59.螺旋矩阵II
题目建议： 本题关键在于理解滑动窗口，这个滑动窗口看文字讲解 还挺难理解的，建议大家先看视频讲解。题目建议： 本题关键还是在转圈的逻辑，在二分搜索中提到的区间定义，在这里又用上了。209.长度最小的子数组。
2024-03-26 19:18:32
80
原创 【无标题】
https://www.programmercarl.com/0704.%E4%BA%8C%E5%88%86%E6%9F%A5%E6%89%BE.htmlhttps://www.programmercarl.com/0027.%E7%A7%BB%E9%99%A4%E5%85%83%E7%B4%A0.html
2024-03-20 23:54:09
187
原创 安装fastdfs5.11报错fatal.error：asm/socket.h：no such file or directory
安装fastdfs5.11报错fatal.error：asm/socket.h：no such file or directory安装原生fastdfs，执行./make.sh的时候报错，说没有这个文件。看网上资料，查该系统centos7.6的内核版本查看Linux内核版本命令 uname -a得知是Linux service 3.10.0-957.el7.x86_64去别的centos7.6和相同内核版本的服务器看，发现安装成功。用指令查到它有这个文件find / -name sock
2021-02-05 17:02:36
2243
原创 centos7开机自动启动firefox并打开指定网站
参考：https://www.csdn.net/gather_20/MtzaEg2sNTQ2NTEtYmxvZwO0O0OO0O0O.html1、配置firefox开机自启动cp /usr/share/applications/firefox.desktop ~/.config/autostart/注意：如果没有~/.config/autostart目录，需手工建立mkdir ~/.config/autostart2、授权chmod +x ~/.config/autostart/firefox
2020-09-30 15:44:34
2345
原创 linux | 把文本的逗号替换成空格
参考https://www.pianshen.com/article/922352013/%s 在整个文件范围查找并替换/ 分隔符/g 全局替换输入 ：%s/,/ /g就可以用空格‘ ’换掉‘，’
2020-09-23 17:43:12
4478
原创 centos7离线安装mysql5.7
centos7离线安装mysql5.7参考文章：https://www.cnblogs.com/yy3b2007com/p/10497787.html1、去官网下载安装包官网下载地址：https://dev.mysql.com/downloads/mysql/5.7.html#downloads版本：mysql-5.7.20-linux-glibc2.12-x86_64.tar2、卸载CentOS7系统自带mariadb# 查看系统自带的Mariadbrpm -qa|grep mariadb
2020-07-16 17:50:18
215
1
空空如也
cephfs创建pvc失败
2023-02-15
grafana无法添加数据源
2021-12-06
linux 根据文件特定内容去重
2020-11-18
手动执行py文件成功，crontab执行却报错
2020-10-12
TA创建的收藏夹 TA关注的收藏夹
TA关注的人