AI大模型-如何利用开源模型节约成本？

1.电商QA系统开源模型

我们都见到过这样的场景，电商在线客服，你问什么时候发货，使用哪些快递发货等等，它就会很标准的回答出来，大部分都不是人工回答而是机器后台回答，我们今天就来用开源AI模型实现下此场景。

1.1 准备工作

1.首先需要安装sentence-transformers，我们需要它下面的paraphrase-multilingual-mpnet-base-v2多语言模型，它比较好的支持中文。pip install sentence-transformers

2.需要安装openAI包，好多开源模型依赖此包或用到此包 pip install openai

3.需要安装faiss，主要将文本信息转换索引加快搜索的。pip install faiss-gpu

4.安装llama_index，这个功能很多了，加载文件夹下的文档，解析文档，转换向量索引等

5.安装langchain：这里主要是将模型转换为向量

此文件夹下的文件目录：/data/faq/        文件为：ecommerce_faq.txt

文件内容如下：

Q: 如何注册新帐户？
A: 点击网站右上角的“注册”按钮，然后按照提示填写相关信息并设置密码。完成后，您将收到一封验证电子邮件。点击邮件中的链接以激活您的帐户。

Q: 忘记密码怎么办？
A: 点击登录页面的“忘记密码”链接，输入您的电子邮件地址。我们将向您发送一封包含重置密码链接的邮件。请点击链接并按照提示操作。

Q: 如何更改帐户信息？
A: 登录您的帐户，然后点击“我的帐户”以更改个人信息、收货地址等。

Q: 如何下订单？
A: 浏览商品并将想要购买的商品加入购物车。当您准备结算时，点击购物车图标，然后选择送货地址、付款方式和物流方式。确认订单详情后，点击“提交订单”。

Q: 支持哪些支付方式？
A: 我们支持支付宝、微信支付、银联在线支付、信用卡支付等多种支付方式。

Q: 如何查看订单状态？
A: 登录您的帐户，点击“我的订单”，在此页面上，您可以查看所有订单及其当前状态。

Q: 如何取消订单？
A: 在订单发货前，您可以登录帐户，进入“我的订单”页面取消订单。如果订单已发货，您需要联系客服协助处理。

Q: 如何申请退款？
A: 登录帐户，进入“我的订单”页面，选择要退款的订单并点击“申请退款”。请按照页面提示填写退款理由和退款金额。提交申请后，我们将在1-3个工作日内处理您的请求。

Q: 退货政策是什么？
A: 自收到商品之日起7天内，如产品未使用、包装完好，您可以申请退货。某些特殊商品可能不支持退货，请在购买前查看商品详情页面的退货政策。

Q: 退款会退回到哪里？
A: 退款将原路退回至您的支付帐户。

Q: 支持哪些省份配送？
A: 我们支持全国大部分省份的配送，包括北京、上海、天津、重庆、河北、山西、辽宁、吉林、黑龙江、江苏、浙江、安徽、福建、江西、山东、河南、湖北、湖南、广东、海南、四川、贵州、云南、陕西、甘肃、青海、台湾、内蒙古、广西、西藏、宁夏和新疆

Q: 物流时效是多久？
A: 一般情况下，大部分城市的订单在2-3个工作日内送达，偏远地区可能需要5-7个工作日。具体送货时间可能因订单商品、配送地址和物流公司而异。

Q: 如何查询物流信息？
A: 在订单发货后，您可以在“我的订单”页面查看物流单号。点击相应订单的“查看物流”按钮，输入物流单号查询物流详情。

Q: 提供哪些快递公司的服务？
A: 我们与顺丰速运、圆通速递、申通快递、韵达快递、中通快递、百世快递等多家知名快递公司合作。

Q: 如何更改收货地址？
A: 在订单发货前，您可以登录帐户，进入“我的订单”页面，选择要修改的订单并点击“修改地址”。如果订单已发货，您需要联系客服协助处理。

Q: 如何查询发票信息？
A: 登录您的帐户，进入“我的发票”页面。在此页面上，您可以查看已开具的发票及其详细信息。

Q: 如何申请开具发票？
A: 在提交订单时，您可以选择需要发票，并填写相关发票信息。您还可以在订单完成后登录帐户，进入“我的发票”页面，点击“申请发票”按钮并填写发票信息。

Q: 提供哪些类型的发票？
A: 我们提供普通发票和增值税专用发票。具体发票类型请参考订单页面或联系客服咨询。

Q: 为什么我的订单被取消？
A: 订单可能因库存不足、支付异常、用户要求等原因被取消。如有疑问，请联系客服咨询。

Q: 如何参加促销活动？
A: 关注我们的官方网站和社交媒体账号，我们会定期发布优惠券、折扣码和特价商品信息。您还可以在购物车页面直接查看适用于您订单的优惠活动。

Q: 如何使用优惠券？
A: 在购物车页面，输入优惠券代码后，点击“应用”。优惠券折扣将自动应用于您的订单。

Q: 优惠券有使用限制吗？
A: 优惠券可能有最低消费要求、有效期限制或特定商品范围。使用前请查看优惠券详情。

1.2 实现代码

此代码在!pip install sentence-transformers则是在colab在线执行器运行，你也可以在别的Python执行器里执行，就可以将!pip...更改。

# sentence-transformers Python库，是一个用于将文本句子转换为向量表示
!pip install sentence-transformers
!pip install openai
!pip install faiss-gpu
!pip install llama_index==0.5.27
!pip install langchain
import openai, os
import faiss
from llama_index import SimpleDirectoryReader,LangchainEmbedding,GPTFaissIndex,ServiceContext
# langchain功能的向量化
from langchain.embeddings.huggingface import HuggingFaceEmbeddings
# langchain功能的文本切分
from langchain.text_splitter import CharacterTextSplitter
from llama_index.node_parser import SimpleNodeParser

os.environ["OPENAI_API_KEY"] = "your openAI key"
openai.api_key = os.environ.get("OPENAI_API_KEY")

# 中文文本分割，将大块分成小块，每一块100字符
# chunk_overlap自动合并小的文本片段的时候，可以接受多大程度的重叠，默认200，
# 在这里比chunk_size所以设置的小点防止出错。
text_splitter=CharacterTextSplitter(separator="\n\n",chunk_size=100,chunk_overlap=20)
parser=SimpleNodeParser(text_splitter&