2301_77286822的博客

上海人工智能实验室科学家团队正式发布了大模型开源开放评测体系 “司南” (OpenCompass2.0)，用于为大语言模型、多模态模型等提供一站式评测服务。

假如我们想要用 XTuner 这款简单易上手的微调工具包来对模型进行微调的话，那我们最最最先开始的第一步必然就是安装XTuner！安装基础的工具是一切的前提，只有安装了 XTuner 在我们本地后我们才能够去思考说具体怎么操作。：那在完成了安装后，我们下一步就需要去明确我们自己的微调目标了。我们想要利用微调做一些什么事情呢，那我为了做到这个事情我有哪些硬件的资源和数据呢？假如我们有对于一件事情相关的数据集，并且我们还有足够的算力资源，那当然微调就是一件水到渠成的事情。就像 OpenAI 不就是如此吗？

Lagent 是一个轻量级开源智能体框架，旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。Arxiv 搜索Bing 地图Google 学术搜索Google 搜索交互式 IPython 解释器IPython 解释器PPTPython 解释器在本节中，我们将基于 Lagent 自定义一个工具。Lagent 中关于工具部分的介绍文档位于动作 — Lagent。继承 BaseAction 类实现简单工具的 run 方法；

LMdeploy实践笔记2000 years later:当出现“ALL DONE”的log日志信息时，就代表项目的conda环境配置完毕：激活lmdeploy环境：下载lmdeploy包和相关依赖：2、模型下载：这里使用软连接的方式，从InterStudio拉取已经下载好的模型，也可以从魔塔社区或者OpenXLAB(国内)、HuggingFace(国外)直接下载：我这里拉取的是InternLM2-1.8B模型，更多模型可以通过一下命令自由选择：

来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。RAG（Retrieval Augmented Generation）技术，通过检索与用户输入相关的信息片段，并结合。

这一篇笔记和之前第一期的介绍内容基本一致，需要的读者老爷，可以先看。InternLM2 的基础模型具备以下的技术特点。，这里我们重点介绍InternLM2大模型。

零基础搭建 RAG、多模态和智能体应用，深入了解大模型微调、部署、评测全流程。营员招募：2024 年 3 月 15 日至 2024 年 3 月 24 日。课程培训：2024 年 3 月 26 日至 2024 年 4 月 12 日。实践项目：2024 年 4 月 13 日至 2024 年 4 月 25 日。[速来报名] 书生·浦语大模型实战营第二期内容全面升级。[4] 杰出项目官方流量支持&更高级别赛事推荐机会。正式开营：2024 年 3 月 25 日。课程结营：2024 年 4 月 26 日。