轻松玩转书生·浦语大模型趣味Demo

#本博客是参加上海人工智能实验室OPENMMLAB大模型实战营活动而作

一、大模型以及InternLM模型介绍

        大模型：人工智能领域参数数量巨大、拥有庞大计算能力和参数规模的模型

        特点：

        利用大量数据进行训练

        拥有数十亿甚至千亿个参数

        模型在各种任务中展现出惊人的性能

2. Intern-LM-CHAT-7B

        InternLM-7B用于70亿参数的基础模型和一个为实际场景量身定制的对话模型，该模型具有以下特点：

        1.利用数万亿的高质量token进行训练，建立了一个强大的知识库

        2.支持8k token的上下文窗口长度，使得输入序列成长并赠长了推理能力

3. Lagent 智能体工具

Lagent是一个轻量级、开源的基于大语言模型的智能体框架，用户可以快速的将大语言模型转变为多种类型的智能体，并提供了一些典型工具为大语言模型赋能。架构如图所示：

4. 浦语·灵笔图文创作理解

        浦语·灵笔是基于书生·浦语大模型研发的视觉-语言大模型，提供出色的图文理解和创作能力，具有多项优势：

        1. 为用户打造图文并茂的专属文章

        2.设计了高效的训练策略，为模型注入海量的多模态概念和知识数据，赋予强大的图文理解和对话能力

二、 通用环境配置

首先是pip和conda的换源操作：

三、 开发机配置以及ssh连接

由于服务器通常只暴露了用于安全远程登录的 SSH（Secure Shell）端口，如果需要访问服务器上运行的其他服务（如 web 应用）的特定端口，需要一种特殊的设置。我们可以通过使用SSH隧道的方法，将服务器上的这些特定端口映射到本地计算机的端口。这样做的步骤如下：

首先我们需要配置一下本地的 SSH Key ，我们这里以 Windows 为例。

步骤①：在本地机器上打开 Power Shell 终端。在终端中，运行以下命令来生成 SSH 密钥对：

ssh-keygen -t rsa

步骤②： 您将被提示选择密钥文件的保存位置，默认情况下是在 ~/.ssh/ 目录中。按 Enter 键接受默认值或输入自定义路径。

步骤③：公钥默认存储在 ~/.ssh/id_rsa.pub，可以通过系统自带的 cat 工具查看文件内容：

cat ~\.ssh\id_rsa.pub

 步骤④：将公钥复制到剪贴板中，然后回到 InternStudio 控制台，点击配置 SSH Key。如下图所示：

步骤⑤：将刚刚复制的公钥添加进入即可:

步骤⑥：在本地终端输入以下指令 .6006 是在服务器中打开的端口，而 33090 是根据开发机的端口进行更改。如下图所示:
 

四、 课后作业（基础）

具体完成方式见：

https://github.com/InternLM/tutorial/blob/main/helloworld/hello_world.md#52-%E9%85%8D%E7%BD%AE%E6%9C%AC%E5%9C%B0%E7%AB%AF%E5%8F%A3https://github.com/InternLM/tutorial/blob/main/helloworld/hello_world.md#52-%E9%85%8D%E7%BD%AE%E6%9C%AC%E5%9C%B0%E7%AB%AF%E5%8F%A3轻松玩转书生·浦语大模型趣味Demo_哔哩哔哩_bilibilihttps://www.bilibili.com/video/BV1Ci4y1z72H/?spm_id_from=333.1007.top_right_bar_window_history.content.click 

1. 使用 InternLM-Chat-7B 模型生成 300 字的小故事（需截图）

2.       熟悉 hugging face 下载功能，使用 huggingface_hub python 包，下载 InternLM-7B 的 config.json 文件到本地（需截图下载过程）

五、 课后作业（进阶）（未完成）

1.  完成浦语·灵笔的图文理解及创作部署（需截图）

2.  完成 Lagent 工具调用 Demo 创作部署（需截图）