前言
本文将在 google 实验室中使用 Langchain-Chatchat 搭建一个知识库,还可以进行聊天等功能。 由于是在 google 实验室上面跑代码,所以本地电脑什么配置都无所谓!
效果图
运行起来后可以上传各种文档文件到知识库。
Langchain-Chatchat 是什么?
github github.com/chatchat-sp…
一种利用 langchain 思想实现的基于本地知识库的问答应用,目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。
google 实验室基本使用手法
笔记本环境中默认已经安装了 nodejs
、python
等环境。
新建文档
- 打开地址 drive.google.com/drive/my-dr… (需fq)
- 在 colab notebooks 目录下新增笔记文件即可
基本语法
- 在代码前面加上 “
!
” 符号就是可执行的命令语句 - %cd 用于切换将当前环境的目录
开始啦
1、仓库拉取
!git clone https://github.com/chatchat-space/Langchain-Chatchat.git
2、切换环境目录
repo_dir = "/content/Langchain-Chatchat"
%cd $repo_dir
3、修改配置文件
google 实验室使用默认的模型 chatglm3-6b
跑不起来,换一个小一点的模型就行, 我这里用 Qwen-1_8B-Chat
a. 打开文件 Langchain-Chatchat/configs/model_config.py.example
第 22 行改为:
LLM_MODELS = ["Qwen-1_8B-Chat", "zhipu-api", "openai-api"]
b. 打开文件 Langchain-Chatchat/configs/server_config.py.example
第 9 行改为:
OPEN_CROSS_DOMAIN = True
b. 打开文件 Langchain-Chatchat/configs/server_config.py.example
第 17 行下面追加:
"share": True
依赖安装
# 安装全部依赖
!pip install -r requirements.txt
!pip install -r requirements_api.txt
!pip install -r requirements_webui.txt
模型下载
!rm -r Qwen-1_8B-Chat
!git clone https://huggingface.co/Qwen/Qwen-1_8B-Chat
!rm -r bge-large-zh
!git clone https://huggingface.co/BAAI/bge-large-zh
初始化知识库和配置文件
# 删除多余的知识库文件
# 删除后自己将文件上传到 /content/Langchain-Chatchat/knowledge_base/samples/content/ 目录即可
!rm -R /content/Langchain-Chatchat/knowledge_base/samples/content/
!mkdir /content/Langchain-Chatchat/knowledge_base/samples/content/
内网穿透插件安装
由于google实验室不提供公网ip,所以是没有办法直接访问我们运行的服务的,这时候用内网穿透即可
!npm install -g localtunnel
获取服务器 ipv4 地址
在访问内网穿透插件提供的地址时需要填入才可以进行访问页面
!curl ipv4.icanhazip.com
启动
!python ./startup.py -a & lt --port 8501
访问这个地址即可
最后
完整笔记: colab.research.google.com/drive/1TDYS…
那么,如何系统的去学习大模型LLM?
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
作为一名热心肠的互联网老兵,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。
但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
所有资料 ⚡️ ,朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》,扫码获取~
篇幅有限,部分资料如下:
👉LLM大模型学习指南+路线汇总👈
💥大模型入门要点,扫盲必看!
💥既然要系统的学习大模型,那么学习路线是必不可少的,这份路线能帮助你快速梳理知识,形成自己的体系。
路线图很大就不一一展示了 (文末领取)
👉大模型入门实战训练👈
💥光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
👉国内企业大模型落地应用案例👈
💥两本《中国大模型落地应用案例集》 收录了近两年151个优秀的大模型落地应用案例,这些案例覆盖了金融、医疗、教育、交通、制造等众多领域,无论是对于大模型技术的研究者,还是对于希望了解大模型技术在实际业务中如何应用的业内人士,都具有很高的参考价值。 (文末领取)
👉GitHub海量高星开源项目👈
💥收集整理了海量的开源项目,地址、代码、文档等等全都下载共享给大家一起学习!
👉LLM大模型学习视频👈
💥观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。 (文末领取)
👉640份大模型行业报告(持续更新)👈
💥包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
👉获取方式:
这份完整版的大模型 LLM 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】
😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓