书生大模型__base

已于 2024-08-15 09:04:40 修改
阅读量248 收藏 5
点赞数 6
文章标签： 人工智能 python
于 2024-07-23 14:11:39 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40591773/article/details/140634763
版权

全链路开源开放体系

大模型成为发展通用人工智能的重要途径

  • 专用模型（对于特定任务，一个模型解决一个问题） 2006-2021
  • image.png
  • 通用大模型 一个模型对饮多个任务，多个模态
  • image.png
书生大模型开源历程
  • 1.0 历程

image.png

  • 2.0 历程

image.png

  • interm2怎么实现的
    • 第二代的loss是分布的更低
    • 语料的增长，任务性能在增长

image.png

  • 内置模型计算能力
  • 数据分析能力，上传表格
  • 模型到应用
    • 智能客服
    • 个人助手
    • 行业应用

全链条开源开放体系总览

image.png

书生 万卷1.0

image.png

预训练

image.png

微调

image.pngimage.png

测评 进行轮换测试，只有答对所有问题的情况下才被认为是正确的

image.png

部署

image.png

8G 显存玩转书生大模型 Demo

模型下载

image.png

模型生成小故事

image.png

浦语提示词工程实践

13.8 和13.11 哪个更大
在这里插入图片描述

RAG实验

在这里插入图片描述

XTuner 微调

在这里插入图片描述

司南测评

在这里插入图片描述

中藏剑
关注
【 书生·浦语大模型实战营】学习笔记（一）：全链路开源体系介绍
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
03-31 1795
本文为实战营第一次课程笔记，主要分为两个部分，第一部分从书生·浦语大模型发展、分类、组成进行详细介绍，方便大家理解。第二部分为对 InternLM2技术报告解读，后续系列会继续更新，欢迎大家交流！
书生大模型全链路开源体系
weixin_46836850的博客
07-25 1668
2023年6月7日InternLM千亿参数语言大模型发布。2023年7月6日，InternLM千亿参数大模型全面升级，支持8K语境、26种语言，并全面开源，免费商用。2023年8月14日，书生万卷1.0多模态预训练语料库开源发布。2023年8月21日，升级版对话模型InternLM-Chat-7B v1.1发布，同时开源智能体框架Lagent，支持从语言模型到智能体升级转换。2023年8月28日，InternLM千亿参数模型参数量升级到123B。
大模型部署_书生浦语大模型 _作业3 RAG
cfy2401926342的博客
05-30 935
RAG（Retrieval Augmented Generation）技术，通过检索与用户输入相关的信息片段，并结合来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。RAG 能够让基础模型实现非参数知识更新，无需训练就可以掌握新领域的知识。
InternStudio 平台进阶使用 | 书生大模型
最新发布
qq_45931691的博客
11-07 485
有时我们会遇到想将整个虚拟环境保存到制定目录来共享，比如在局域网内，或者在 InternStudio 的团队开发机间共享。此时我们可以把 conda 的虚拟环境创建到指定目录下。这个文件夹里包含了整个虚拟环境，所以理论上将他直接拷贝到任意一台安装了 conda 的机器上都能直接激活使用，这也是在内网机器上做环境配置的一种效率较高的解决方案。想要激活保存在制定目录下的conda虚拟环境也十分简单，直接将环境名替换成所在文件夹就行。参数制定环境所在的文件夹即可，比如我们想在。路径下创建刚刚我们创建过得。
书生·浦语大模型实战营
sorrowyn的博客
05-11 1966
Lagent 是一个轻量级、开源的基于大语言模型的智能体（agent）框架，支持用户快速地将一个大语言模型转变为多种类型的智能体，并提供了一些典型工具为大语言模型赋能。它的整个框架图如下:流式输出：提供 stream_chat 接口作流式输出，本地就能演示酷炫的流式 Demo。接口统一，设计全面升级，提升拓展性，包括：Model : 不论是 OpenAI API, Transformers 还是推理加速框架 LMDeploy 一网打尽，模型切换可以游刃有余；
【书生大模型实战营第三期 | 进阶岛第3关-LMDeploy 量化部署进阶实践】
imath60的博客
08-14 340
通过本次学习，我深刻体会到了在AI领域，模型的部署并非易事。LMDeploy作为一个强大的部署工具，它的量化技术和API封装功能极大地提升了模型部署的效率和性能。特别是权重量化，它不仅减少了模型的存储需求，还显著降低了推理时的显存占用，使得在资源受限的环境下部署大型模型成为可能。此外，Function call功能的引入，使得模型能够更加智能地处理复杂的任务，提高了交互的灵活性和准确性。总而言之，这次学习不仅增进了我的技术知识，也为我日后在AI领域的研究和实践打下了坚实的基础。
《书生大模型实战营第3期》基础岛 第1关 ：书生大模型全链路开源体系
shiter编写程序的艺术
08-04 979
卓越的推理性能：在数学推理方面取得了同量级模型最优精度，超越了 Llama3 和 Gemma2-9B。有效支持百万字超长上下文：模型在 1 百万字长输入中几乎完美地实现长文“大海捞针”，而且在 LongBench 等长文任务中的表现也达到开源模型中的领先水平。可以通过LMDeploy尝试百万字超长上下文推理。更多内容和文档对话 demo 请查看这里。工具调用能力整体升级：InternLM2.5 支持从上百个网页搜集有效信息进行分析推理，相关实现将于近期开源到Lagent。
书生大模型全链路开源开放体系
qq_69411792的博客
07-25 602
其实从本世纪初到2022年期间，研究会集中在专用模型上面，简单来说就是利用模型解决某个领域的特定任务，并且涉及领域面广泛，比如：围棋比赛、AlphaFold、语音识别、图像分类等等，最近几年的趋势大家慢慢会往通用模型去发展了，也就是说从”一对一“到”一个模型对多种任务多种模态“的转变,比如：ChatGPT从文本到文本的所有任务通过一个模型去解决多种任务，GPT-4V解决多种跨模态的任务等等，在这种趋势下，通用大模型成为了大家追逐的热点，并且相信这是通往通用人工智能的一条关键途径。
大模型部署_书生浦语大模型 _作业7 OpenCompass ：是骡子是马，拉出来溜溜
cfy2401926342的博客
06-08 777
上海人工智能实验室科学家团队正式发布了大模型开源开放评测体系 “司南” (OpenCompass2.0)，用于为大语言模型、多模态模型等提供一站式评测服务。开源可复现：提供公平、公开、可复现的大模型评测方案全面的能力维度：五大维度设计，提供 70+ 个数据集约 40 万题的的模型评测方案，全面评估模型能力丰富的模型支持：已支持 20+ HuggingFace 及 API 模型分布式高效评测：一行命令实现任务分割和分布式评测，数小时即可完成千亿模型全量评测。
轻松玩转书生·浦语大模型
KJuncle的博客
05-29 522
待程序运行的同时，对端口环境配置本地 PowerShell。中输入环境配置命令（配置时间很久，大概等了30多分钟，需要些耐心）打开cli_demo.py 文件，复制如下内容进去。打开 Intern Stdio 界面，点击。镜像，然后在资源配置中，使用。的选项，然后立即创建开发机器。等待模型加载完成，即可进行对话。保存文件后在终端运行该文件。继续输入指令，用于启动。在终端中运行如下指令。
【 书生·浦语大模型实战营】学习笔记（七）：大模型评测实战
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
05-03 1141
本篇笔记内容主要为【 书生·浦语大模型实战营】学习笔记（七）：大模型评测实战 ，主要对OpenCompass 大模型评测部分详细介绍，欢迎大家交流学习！
【 书生·浦语大模型实战营】学习笔记（五）：LMDeploy 量化部署
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-19 927
本篇笔记内容主要分为模型部署理论进行介绍。从量化、剪枝、知识蒸馏方面引入。主要对LMDeploy框架支持的模型、安装过程、base|chat对话|Lite量化等进行介绍，欢迎大家交流学习！
【 书生·浦语大模型实战营】学习笔记（三）：“茴香豆” 搭建你的RAG 智能助理
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-12 1144
本篇笔记内容主要分为RAG理论介绍和“茴香豆” RAG 智能助理实战。前半部分对RAG流程、向量数据库、优化等展开介绍，后半部分实战任务分为以web页面及Internlm框架进行茴香豆实战，欢迎大家交流学习！
【 书生·浦语大模型实战营】学习笔记（二）：轻松玩转书生·浦语大模型趣味Demo
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-05 1249
本文为实战营第二次课程笔记，主要分为两个部分，第一部分部署 InternLM2-Chat-1.8B 模型进行智能对话。第二部分为完成 Lagent 工具调用 数据分析 Demo 部署，后续系列会继续更新，欢迎大家交流！
探讨Facebook的AI研究：未来社交平台的技术前瞻
LokiSan的博客
10-29 1822
在数字时代，社交媒体已成为人们日常生活的重要组成部分。作为全球最大的社交网络之一，Facebook不断致力于人工智能（AI）的研究与应用，以提升用户体验、增强平台功能并推动技术创新。本文将探讨Facebook在AI领域的研究方向及其对未来社交平台的潜在影响。
自助餐剩余食品识别图像分割系统：教学内容全覆盖
sgcsdn99的博客
11-04 1352
数据集信息展示在本研究中，我们使用的数据集名为“9_5_Merged”，该数据集专门用于训练改进YOLOv8-seg的自助餐剩余食品识别图像分割系统。该数据集包含71个类别，涵盖了丰富多样的食品种类，旨在提高模型对不同类型剩余食品的识别和分割能力。通过对这些类别的细致划分，我们希望能够实现更高精度的图像分割，进而优化自助餐剩余食品的管理和利用。
UOS AI 1.6 版本升级，如何实现精准搜索，效率翻倍？
vickynesss的博客
11-01 834
通过直接接入互联网的实时数据流，搜索结果变得多样化，不仅限于文字总结，还包括思维导图、事件与人物的综合概述，以及图片、视频、音频等多种形式，显著提高了回答的准确性和全面性。全局搜索全新搭载端侧大模型：支持离线自然语言搜索，无论身在何处，即使没有网络，只需通过快捷键“Shift+space(空格键）”唤醒全局搜索，都能轻松找到所需文件。：对于日常积累的海量截图，只需借助全局搜索功能，简要描述图片内的文字信息，便能迅速锁定并检索到所需图片。：重要信息直接添加到知识库，方便日后查阅，让全局搜索成为你的第二大脑。
如何在 AI 时代打造你的核心竞争力？
玉树芝兰
11-01 808
（注：本文为小报童精选文章。已订阅小报童或加入知识星球「玉树芝兰」用户请勿重复付费）焦虑在《AI 研究已摘得诺奖桂冠，普通科研工作者将何去何从？》一文中我谈过自己对目前 AI 技术浪潮对大众影响的体会——未来已来，只是分布不均。很多人在还没有意识到 AI 带来的变革潜能时，觉得与自己无关，日子该怎么过怎么过，倒也轻松。而一旦突然意识到 AI 的重要性，就会变得焦虑万分。这种焦虑，就是挣扎与思考在外...
AI代币是什么？AI与Web3结合的未来方向在哪里？
BlockOne11的博客
10-30 1618
近两年随着人工智能的崛起，AI已经渗透到制造业、电商、广告、医药等各个行业，加密货币领域也不例外，人工智能与区块链的融合，让我们看到了独特的数字资产 — AI加密代币。它的流行始于2022年底，随着OpenAI智能聊天机器人ChatGPT的火爆，许多人意识到，人工智能不再只是出现在电影里面，更多的应用已经照进现实，AI已经作为一种高效的生产力应用到实际的产业中。人工智能狂热也影响了机构巨头。例如，谷歌宣布将着手开发自己的人工智能聊天机器人 Bard。
书生·浦语大模型 黑屏
06-13
如果你是在问关于某个特定领域的大模型，比如人工智能研究中的一个模型，通常这类模型是由大型科技公司或研究机构开发的，如阿里云的通义千问或谷歌的BERT等。如果这是个虚构的名字，那可能是一个文学作品或者游戏中...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值