项目名称:AI-AGENT夏季训练营 — RAG智能对话机器人
报告日期:2024年8月18日
项目负责人:
"RAG智能对话机器人带你游遍全球:揭秘世界各地的旅游奇闻与美景"
项目概述:
应用场景:
- 旅游信息查询和推荐
通过与智能对话机器人的交互,用户可以查询各地的旅游景点、美食、住宿等信息,并获得个性化的旅游建议和路线规划。 - 异国文化介绍
机器人可以向用户介绍世界各地的风土人情、历史文化等,让用户在虚拟旅行中了解不同国家和地区的独特魅力。 - 旅行问题解答
用户可以向机器人咨询签证、交通、天气等旅行相关的问题,获得及时准确的解答。 - 旅行体验分享
用户可以与机器人分享自己的旅行见闻和感受,机器人也可以根据用户的反馈优化旅游信息和推荐。 - 虚拟旅行体验
通过机器人提供的丰富多样的旅游内容和沉浸式交互,用户可以在家中体验身临其境的虚拟旅行。
项目亮点:
- 全球旅游体验:该项目可以为用户提供全球范围内的旅游体验,让用户了解世界各地的独特景观和文化。
- 奇闻趣事分享:项目会分享各地的有趣旅游故事和见闻,让用户在了解景点的同时,也能了解当地的独特文化。
- 智能对话交互:RAG智能对话机器人可以与用户进行自然语言交互,为用户提供个性化的旅游建议和信息。
- 沉浸式体验:通过智能对话和多媒体内容,项目可以为用户营造身临其境的沉浸式旅游体验。
- 便捷性:用户无需离开家就可以通过该项目获取全球旅游信息,大大提高了旅游的便利性。
技术方案与实施步骤:
在选择项目的技术方案时,模型的选择是至关重要的一步。针对项目的实际需求,通常需要考虑大模型与RAG(Retrieval-Augmented Generation)模型的结合,以实现最佳效果。以下是详细的技术方案描述,包括大模型的选择理由与RAG模型的优势分析。
A:大模型选择
选择理由- phi-3-small-128k-instruct可能与RAG现有的技术栈和基础设施高度兼容,这意味着更少的定制工作和更快的部署时间。
- 成本效益:phi-3-small-128k-instruct可能提供了一个成本效益高的解决方案,与RAG的预算和成本管理目标相符。
- 性能:如果phi-3-small-128k-instruct提供了RAG所需的性能水平,无论是计算能力、数据处理速度还是其他关键性能指标,这可能会是选择它的一个重要因素。
B:数据的构建
数据处理:
- 预处理 (Preprocessing): 对原始数据进行清理、格式化、分词、停用词过滤等操作,以便模型更好地理解和处理。
- 向量化 (Vectorization): 将文本数据转化为数值向量,方便进行相似度计算和检索。常用的向量化方法包括 TF-IDF、Word2Vec、BERT 等。
- 索引 (Indexing): 对处理后的数据建立索引,以便快速检索相关信息。
C:功能整合
多模态功能整合的架构设计这次使用了以下两种形态:
文本编码:使用预训练的语言模型(如BERT、GPT等)将文本转换为嵌入向量。
图像编码:使用预训练的视觉模型(如ResNet、Vision Transformer等)将图像转换为特征向量。
D:实施步骤:
1 创建Python环境
首先需要安装Miniconda:
在打开的终端中按照下面的步骤执行,配置环境:
创建python 3.8虚拟环境
conda create --name ai_endpoint python=3.8
#这里是3.8及以上版本就行
进入虚拟环境
conda activate ai_endpoint
这是langchai和NIM结合的工具库
pip install langchain-nvidia-ai-endpoints
安装Jupyter Lab
pip install jupyterlab
安装langchain_core
pip install langchain_core
安装langchain
pip install langchain
安装matplotlib
pip install matplotlib
安装Numpy
pip install numpy
安装faiss, 这里如果没有GPU可以安装CPU版本
pip install faiss-cpu==1.7.2
安装OPENAI库
pip install opena
pip install gradio -i http://mirrors.aliyun.com/pypi/simple --trusted-host mirrors.aliyun.com
pip install langchain-community -i http://mirrors.aliyun.com/pypi/simple --trusted-host mirrors.aliyun.com
完成了全部安装库就完成环境配置。
要申请API KEY
全新用户注册NIM获取API KEY:
一台安装好Chrome或Edge浏览器的电脑
申请NVIDIA NIM API KEY密钥,注册申请流程如下:
1进入网址https://build.nvidia.com/explore/discover
点击右上角login
任意点选模型图标,进入模型交互界面后会在右侧看到代码API,然后找到Get API KEY鼠标点击选择生成API KEY并保存好:
E:代码实现
得出以下结果