- 博客(3)
- 收藏
- 关注
RSS订阅原创 FastGPT本地知识库部署-Ubuntu22.04
1、fastgpt也支持windows部署，安装docker也比较简单，但是整个知识库向量化和对话响应速度比如Linux快；前提也是需要安装好显卡驱动和CUDA程序；2、docker安装Linux环境有点麻烦，可能主要是对Linux系统操作不熟悉吧，在线安装通常无法访问，我是下载离线安装包手动安装的；3、配置文件 docker-compose.yml、config.json的下载和配置，GitHub在国内访问太稳定，在线下载老是提示失败，后面也是提前下载好再手动修改配置的；
2024-09-29 15:15:44
734
原创 Linux实现每天定时关机-Ubuntu22.04
来执行脚本，需要将脚本所在的目录添加到PATH环境变量中。如下，然后按”esc“，输入”wq!使用文本编辑器创建一个新的文件。为能在任何位置通过键入。看是否和你设置是一样；
2024-09-29 10:19:54
400
原创 ollama本地部署教程
这里可以看到已经可以聊天了，当然这样的节目不是很方便，所有可以部署一些，像OPEN WebUI，可以直接用浏览器访问的页面，或者部署本地知识库像Fastgpt、Dify、Ragflow、MaxKB也基本都是社区开源的，后面再单独整理部署文档。8B代表8千亿参数大小，一般电脑配置（i5-12代、8G显存、40G)即可运行；70B代表70千亿参数，需要i9-13代、80G显存，100G配置；这里运行报错了，是因为我修改了默认配置，需要在运行前面添加主机信息。点击“Download”选择自己需要下载的模型。
2024-09-27 17:06:09
413
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人