- 博客(27)
- 收藏
- 关注
RSS订阅原创 qwen2:7b本地化部署：Ollama更新、设置、api调用qwen2服务
本篇介绍了如何使用Ollama本地化部署qwen2:7b，以及进行Ollama的参数设置以及使用api调用qwen2的api服务的方法。
2024-08-26 00:33:01
4322
原创 Ubuntu22.04本地部署qwen模型、jupyterlab开发环境、LoRA微调全流程-续
接着上一篇，在Ubuntu22.04本地部署qwen模型，准备数据，进行LoRA微调。
2024-05-18 16:25:44
1023
2
原创 Ubuntu22.04本地部署qwen模型、jupyterlab开发环境、LoRA微调全流程
这段时间在自己的Win11系统上部署了chatGLM以及Qwen模型，进行对话、推理以及工具调用都没有问题，但是在尝试进行微调的时候发现好像并不能成功，因此花费了很大的力气，又分别在ubuntu桌面版、windows子系统WSL2 Ubuntu上部署了Qwen模型，并尝试进行LoRA的微调实践。由于过程比较多，步骤较为繁琐，我可能会分几个部分进行叙述。首先介绍一下我的两个环境（平民玩家，勿喷）：一台笔记本安装的Ubuntu22.04桌面版：显卡是1070M 8G。
2024-05-18 15:31:40
2268
原创 Qwen学习笔记3：Qwen模型调用外部API实现模型增强（openai的形式）
本文进一步记录了千问模型的函数调用功能使用方法，大家可以一起学习交流~
2024-05-15 19:11:37
4052
1
原创 Qwen学习笔记2：Qwen模型基于ReAct原理实现function calling
本文继续记录了Qwen模型的function calling功能的实践代码。
2024-05-15 18:26:51
3405
4
原创 Qwen学习笔记1：Qwen模型使用ReAct原理实现function calling，增强模型能力
本文记录使用Qwen模型基于ReAct原理实现的函数调用功能，并附带记录一些代码。
2024-05-15 17:30:39
3430
原创 千问模型flash-attention加速框架的部署
本文记录了windows系统安装flash-attention，以加速通义千问模型的推理速度，降低显存占用的安装部署过程
2024-05-14 16:47:36
834
2
原创 chatGLM3-6b与FastGPT互联测试
简单介绍了将chatGLM2升级为chatGLM3之后，再次连接FastGPT进行知识库链接的操作过程，给大家进行参考。
2024-05-09 13:52:46
246
1
原创 本地部署chatGLM3-6b教程
之前一直用的chatGLM2，将FastGPT本地化跑通后，现在试试将chatGLM2升级为chatGLM3。升级就比较顺利了，过程如下，该过程参考了哔哩哔哩网站的一个视频。
2024-05-09 12:54:21
2051
1
原创 FastGPT连接oneapi报错：Connection error.后续：真正的原因
FastGPT连接oneapi报错：Connection error.后续
2024-05-07 15:16:36
1027
2
原创 FastGPT连接oneapi报错：Connection error.
FastGPT连接oneapi报错：Connection error解决办法。
2024-05-06 18:21:07
1325
2
原创 使用NextChat搭建本地ChatGTP应用，调用本地chatGLM2-6B模型
本文记录了使用NextChat，调用本地chatGLM2-6B模型
2024-04-30 16:12:00
1492
3
原创 采用API的方式调用本地chatGLM2-6B，postman方式访问接口，openai格式调用接口
本文记录了采用api的方式访问本地chatGLM2-6B的方法
2024-04-30 11:05:08
1130
1
原创 harbor服务器配置完成，网页能访问，使用docker login登录失败，提示：unauthorized: authentication required
服务器登录harbor失败
2022-08-30 09:36:09
6039
1
原创 虚拟机安装麒麟操作系统网络设置
麒麟操作系统安装在虚拟机上，设置网络时，发现一些问题，现在解决了，记录一下。1、虚拟机安装麒麟操作系统后，选择网络设置，没有连接选项，无法连接到主机网络。(截图忘保存了）这是由于安装麒麟系统时，未选择正确的linux版本，我们选择“CentOS 8”，重新安装，即可看到网络设置中，可以连接到主机的网络。2、主机与虚拟机麒麟系统无法ping通，可以参照以下步骤进行设置。（1）设置虚拟机IP点击右下角网络图标，右键，选择“编辑连接”选择已连接的网络，点击设置.
2022-04-18 17:50:03
27190
原创 虚拟机麒麟系统V10安装VMware Tools
虚拟机安装好麒麟系统后，无法设置到合适的分辨率，窗口无法随着虚拟机窗口的大小改变而改变，可以通过安装VMware tools解决。然而网上大部分的解决办法是通过虚拟机设置：->虚拟机（M）->安装VMware tools，这在应用于麒麟系统时不可取。因为“安装VMware tools”是灰色状态的，不可选。通过网上找到一个教程如下：虚拟机版本：VMwareworkstation16.2.3麒麟系统版本：Kylin-Server-10-SP2-x86-Release-Build09
2022-04-18 17:12:00
14116
1
原创 如何在公司内网机上安装.net framework 3.5(错误：0X8024402C DISM失败解决方案)
网上查找N种方法，都无法成功安装，直到看到这篇博客，感谢博主大大：原文链接：https://blog.csdn.net/knkn123/article/details/108456661
2021-07-15 16:29:04
5330
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人