- 博客(9)
- 资源 (5)
- 收藏
- 关注
RSS订阅原创 用bat脚本启动Langchain本地知识库
书接上回，使用 langchain 和 通义千问-1_8B-Chat-Int4 搭建了本地知识库，但每次打开时都要先用 conda 设置虚拟环境，感觉有点麻烦，直接写个 bat 脚本不就方便很多。点击脚本直接就运行了。
2024-03-17 22:40:17
121
1
原创 langchain+通义千问-1_8B-Chat-Int4搭建本地知识库
主要是修改模型的路径和使用哪个模型，运行LLM模型使用显卡。LLM模型最开始我使用没有量化的1.8B版本，4G的3050显卡报OOM，显存带不起来，所以换成了int4量化版本，推理最低仅需不到2GB显存，生成2048 tokens仅需3GB显存占用。然后下载需要的 LLM 与 Embedding 模型，LLM模型我用的是通义千问-1_8B-Chat-Int4（书接上回，在本地运行了通义千问-1_8B-Chat，又想用通义千问+langchain搭建本地知识库。本地知识库还有点问题，待解决。
2024-03-17 13:38:55
1289
1
原创 通义千问-1_8B-Chat本地安装
下载模型文件可以在魔搭社区下载，也可以在huggingface下载。模型文件比较大，下载需要安装Git LFS（全称为Git Large File Storage，Git大文件存储）。在运行demo之前需要确保python环境已经安装了所需要的三方库，在Qwen文件夹下有两个txt文件，是运行demo所需要的三方库。新建一个文件夹放千问的模型文件，我是在Qwen文件夹下新建的models文件夹，下载的模型文件放在这里。打开Qwen的demo文件cli_demo.py，修改里面的默认路径为下载模型的路径。
2024-03-13 22:34:59
628
1
原创 Kotlin笔记1
Kotlin声明变量只有两个关键字：val（value，声明不可变的变量）和var（variable，声明可变的变量），Kotlin的类型推导机制可以自动推导变量的类型，也可以显式声明变量类型。Java中声明变量使用string、int、double等，是否可变加final。Kotlin没有基本数据类型，全部使用对象数据类型，Int、String等首字母全部大写。Kotlin定义函数的关键字是 fun（function的简写），fun后面是函数名。下面是一个相同功能函数的两种写法。
2023-07-03 23:15:37
48
1
原创 MIE散射计算程序（米散射计算程序）
本人写的计算米散射（MIE散射）的程序，一个是MATLAB程序，一个是用python写的打包好的软件，计算的内容是相同的。
2022-10-10 17:38:30
4235
30
原创 华为4.20机试第一题（java）
员工参加考试，判断题X10（每个2分），单选题X10（每个4分），多选题X5（每个八分）。只能顺序作答，答对得分，答错不得分。答错三道，中止考试。输入考试结果分数，输出答题可能情况个数public class score { public static void main(String[] args){ Scanner inputData = new Scanner(System.in); System.out.println("请输入分数"); .
2022-04-26 10:44:02
575
经典米散射（MIE散射）的MATLAB程序，计算散射系数、吸收系数、消光系数、后向散射系数、不对称因子。
2022-05-19
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人