零基础入门AI：两步快速本地部署ChatGPT的平替 - 小羊驼 Vicuna

大耳朵爱学习

于 2024-07-31 20:07:54 发布

阅读量727

点赞数 24

文章标签： chatgpt 人工智能 AI大模型语言模型零基础入门 AI chatGPT

本文链接：https://blog.csdn.net/2401_85379281/article/details/140831445

版权

前言

ChatGPT 引发了大家对大语言模型的热情，但是其封闭的生态也带来了诸多限制。所幸Meta是越来越开放，自LLaMA发布以来，围绕它微调和开发的模型越来越多，逐渐形成了羊驼系列大模型，2023年9月Meta又发布了LLaMA 2，最高支持16K上下文输入，同时修改了授权协议，允许商用，进一步大大降低了这类开源大模型的研究、应用门槛。

羊驼系列大模型中，尤其以UC伯克利大学的研究人员联合其它几家研究机构共同推出的小羊驼（Vicuna）最为出色，仅用少量的数据微调（费用约为300美元），就达到了ChatGPT 90%的性能，实在是企业或者个人研究的必备良心平替。本文将梳理在本地部署和使用 Vicuna 的详细教程。

Step 1: 安装 Vicuna 框架 - FastChat

使用pip安装

pip3 install "fschat[model_worker,webui]"

从源码安装

git clone https://github.com/lm-sys/FastChat.git
cd FastChat
pip3 install --upgrade pip  # enable PEP 660 support
pip3 install -e ".[model_worker,webui]"

如果后续有基于Vicuna做进一步定制开发的需求，建议从源码安装。

Step 2: 下载 Vicuna 模型

目前 Vicuna 的最新版是基于LLaMA 2微调的 v1.5，可以使用如下命令运行，如果模型未下载将自动下载。也可从Hugging Face下载模型，然后在命令中再指定模型路径。

Size	Chat Command	Hugging Face Repo
7B	`python3 -m fastchat.serve.cli --model-path lmsys/vicuna-7b-v1.5`	lmsys/vicuna-7b-v1.5
7B-16k	`python3 -m fastchat.serve.cli --model-path lmsys/vicuna-7b-v1.5-16k`	lmsys/vicuna-7b-v1.5-16k
13B	`python3 -m fastchat.serve.cli --model-path lmsys/vicuna-13b-v1.5`	lmsys/vicuna-13b-v1.5
13B-16k	`python3 -m fastchat.serve.cli --model-path lmsys/vicuna-13b-v1.5-16k`	lmsys/vicuna-13b-v1.5-16k
33B	`python3 -m fastchat.serve.cli --model-path lmsys/vicuna-33b-v1.3`	lmsys/vicuna-33b-v1.3

应用场景

微调

UC伯克利大学的研究人员使用4 x A100 (40GB)，在70K的数据上微调，共计花费$300。

我用4块A100-SXM4-80GB，在10条数据上也微调成功了，共计花费不到￥300。

torchrun --nproc_per_node=4 --master_port=20001 fastchat/train/train_mem.py \
    --model_name_or_path meta-llama/Llama-2-7b-hf \
    --data_path data/dummy_conversation.json \
    --bf16 True \
    --output_dir output_vicuna \
    --num_train_epochs 3 \
    --per_device_train_batch_size 2 \
    --per_device_eval_batch_size 2 \
    --gradient_accumulation_steps 16 \
    --evaluation_strategy "no" \
    --save_strategy "steps" \
    --save_steps 1200 \
    --save_total_limit 10 \
    --learning_rate 2e-5 \
    --weight_decay 0. \
    --warmup_ratio 0.03 \
    --lr_scheduler_type "cosine" \
    --logging_steps 1 \
    --fsdp "full_shard auto_wrap" \
    --fsdp_transformer_layer_cls_to_wrap 'LlamaDecoderLayer' \
    --tf32 True \
    --model_max_length 2048 \
    --gradient_checkpointing True \
    --lazy_preprocess True

命令行聊天

如果已经下载完成，如下命令将从指定路径加载后运行命令行聊天，是最方便的体验方式。

$ CUDA_VISIBLE_DEVICES=1 python -m fastchat.serve.cli --model-path models/vicuna-7b-v1.5/
Loading checkpoint shards: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 2/2 [00:08<00:00,  4.40s/it]
USER: Who are you?
ASSISTANT: I am Vicuna, a language model trained by researchers from Large Model Systems Organization (LMSYS).

网页版聊天

要使用网页版聊天，需要运行三个模块：

Controller：python -m fastchat.serve.controller
Worker：python -m fastchat.serve.model_worker --model-path models/vicuna-13b
WEB服务器：python -m fastchat.serve.gradio_web_server

最后的运行效果如下：

RESTful API Server

要运行 RESTful API server，需要运行三个模块：

Controller：python -m fastchat.serve.controller
Worker：python -m fastchat.serve.model_worker --model-path models/vicuna-13b
WEB服务器：python -m fastchat.serve.openai_api_server --host 0.0.0.0 --port 8000

要调用API有两种方式：

OpenAI SDK

这种调用方式需要先安装openai库：pip install --upgrade openai

import openai

openai.api_key = "EMPTY"
openai.base_url = "http://localhost:8000/v1/"

model = "vicuna-7b-v1.5"
prompt = "Once upon a time"

# create a completion
completion = openai.completions.create(model=model, prompt=prompt, max_tokens=64)
# print the completion
print(prompt + completion.choices[0].text)

# create a chat completion
completion = openai.chat.completions.create(
  model=model,
  messages=[{"role": "user", "content": "Hello! What is your name?"}]
)
# print the completion
print(completion.choices[0].message.content)

HTTP

这种调用方式可以用requests库，以下仅用curl演示：

curl http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "vicuna-7b-v1.5",
    "messages": [{"role": "user", "content": "Hello! What is your name?"}]
  }'

词嵌入

获取词嵌入的API接口：

curl http://localhost:8000/v1/embeddings \
  -H "Content-Type: application/json" \
  -d '{
    "model": "vicuna-7b-v1.5",
    "input": "Hello world!"
  }'

关于使用词嵌入的使用场景，官方提供了一些基础案例如下：

计算文本相似度：test_sentence_similarity.py
文本分类：test_classification.py
搜索相关文本：test_semantic_search.py

Vicuna + LangChain 实现本地知识库问答系统

官方举例：

from langchain.chat_models import ChatOpenAI
from langchain.document_loaders import TextLoader
from langchain.embeddings import OpenAIEmbeddings
from langchain.indexes import VectorstoreIndexCreator

embedding = OpenAIEmbeddings(model="text-embedding-ada-002")
loader = TextLoader("state_of_the_union.txt")
index = VectorstoreIndexCreator(embedding=embedding).from_loaders([loader])
llm = ChatOpenAI(model="gpt-3.5-turbo")

questions = [
    "Who is the speaker",
    "What did the president say about Ketanji Brown Jackson",
    "What are the threats to America",
    "Who are mentioned in the speech",
    "Who is the vice president",
    "How many projects were announced",
]

for query in questions:
    print("Query:", query)
    print("Answer:", index.query(query, llm=llm))

LangChain支持加载多种格式（HTML、CSV、JSON、MARKDOWN、PDF）的本地知识库，所以可以根据实际场景，调整以上示例中的loader，即可实现一个简单的本地知识库问答系统。

第三方框架

Ollama + Vicuna

Ollama 是一个可以在本地部署和管理开源大语言模型的框架，由于它极大的简化了开源大语言模型的安装和配置细节，一经推出就广受好评，目前已在github上获得了46k star。

如果小伙伴们觉得 Vicuna 官方提供的框架使用不便，也可以用第三方框架Ollama来调用Vicuna模型，如下命令即可一键下载并运行Vicuna模型：ollama run vicuna

text-generation-webui + Vicuna

如果小伙伴们觉得 Vicuna 自带的 WEB GUI 太简陋，也可以使用第三方的WEB GUI框架 text-generation-webui，然后加载 Vicuna 模型即可。

读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
在这里插入图片描述

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

在这里插入图片描述

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。
在这里插入图片描述

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
在这里插入图片描述

大耳朵爱学习

关注

24
点赞
踩
26

收藏

觉得还不错? 一键收藏
0
评论
零基础入门AI：两步快速本地部署ChatGPT的平替 - 小羊驼 Vicuna

ChatGPT 引发了大家对大语言模型的热情，但是其封闭的生态也带来了诸多限制。所幸Meta是越来越开放，自LLaMA发布以来，围绕它微调和开发的模型越来越多，逐渐形成了羊驼系列大模型，2023年9月Meta又发布了LLaMA 2，最高支持16K上下文输入，同时修改了授权协议，允许商用，进一步大大降低了这类开源大模型的研究、应用门槛。羊驼系列大模型中，尤其以UC伯克利大学的研究人员联合其它几家研究机构共同推出的小羊驼（
复制链接

扫一扫