#本博客是参加上海人工智能实验室OPENMMLAB大模型实战营活动而作
一、大模型以及InternLM模型介绍
大模型:人工智能领域参数数量巨大、拥有庞大计算能力和参数规模的模型
特点:
利用大量数据进行训练
拥有数十亿甚至千亿个参数
模型在各种任务中展现出惊人的性能
2. Intern-LM-CHAT-7B
InternLM-7B用于70亿参数的基础模型和一个为实际场景量身定制的对话模型,该模型具有以下特点:
1.利用数万亿的高质量token进行训练,建立了一个强大的知识库
2.支持8k token的上下文窗口长度,使得输入序列成长并赠长了推理能力
3. Lagent 智能体工具
Lagent是一个轻量级、开源的基于大语言模型的智能体框架,用户可以快速的将大语言模型转变为多种类型的智能体,并提供了一些典型工具为大语言模型赋能。架构如图所示:
4. 浦语·灵笔图文创作理解
浦语·灵笔是基于书生·浦语大模型研发的视觉-语言大模型,提供出色的图文理解和创作能力,具有多项优势:
1. 为用户打造图文并茂的专属文章
2.设计了高效的训练策略,为模型注入海量的多模态概念和知识数据,赋予强大的图文理解和对话能力
二、 通用环境配置
首先是pip和conda的换源操作:
三、 开发机配置以及ssh连接
由于服务器通常只暴露了用于安全远程登录的 SSH(Secure Shell)端口,如果需要访问服务器上运行的其他服务(如 web 应用)的特定端口,需要一种特殊的设置。我们可以通过使用SSH隧道的方法,将服务器上的这些特定端口映射到本地计算机的端口。这样做的步骤如下:
首先我们需要配置一下本地的 SSH Key ,我们这里以 Windows 为例。
步骤①:在本地机器上打开 Power Shell 终端。在终端中,运行以下命令来生成 SSH 密钥对:
ssh-keygen -t rsa
步骤②: 您将被提示选择密钥文件的保存位置,默认情况下是在 ~/.ssh/ 目录中。按 Enter 键接受默认值或输入自定义路径。
步骤③:公钥默认存储在 ~/.ssh/id_rsa.pub,可以通过系统自带的 cat 工具查看文件内容:
cat ~\.ssh\id_rsa.pub
步骤④:将公钥复制到剪贴板中,然后回到 InternStudio 控制台,点击配置 SSH Key。如下图所示:
步骤⑤:将刚刚复制的公钥添加进入即可:
步骤⑥:在本地终端输入以下指令 .6006 是在服务器中打开的端口,而 33090 是根据开发机的端口进行更改。如下图所示:
四、 课后作业(基础)
具体完成方式见:
https://github.com/InternLM/tutorial/blob/main/helloworld/hello_world.md#52-%E9%85%8D%E7%BD%AE%E6%9C%AC%E5%9C%B0%E7%AB%AF%E5%8F%A3https://github.com/InternLM/tutorial/blob/main/helloworld/hello_world.md#52-%E9%85%8D%E7%BD%AE%E6%9C%AC%E5%9C%B0%E7%AB%AF%E5%8F%A3轻松玩转书生·浦语大模型趣味Demo_哔哩哔哩_bilibilihttps://www.bilibili.com/video/BV1Ci4y1z72H/?spm_id_from=333.1007.top_right_bar_window_history.content.click
1. 使用 InternLM-Chat-7B 模型生成 300 字的小故事(需截图)
2. 熟悉 hugging face 下载功能,使用 huggingface_hub python 包,下载 InternLM-7B 的 config.json 文件到本地(需截图下载过程)
五、 课后作业(进阶)(未完成)
1. 完成浦语·灵笔的图文理解及创作部署(需截图)
2. 完成 Lagent 工具调用 Demo 创作部署(需截图)