书生大模型第五期：L1G3

最新推荐文章于 2025-11-18 16:31:16 发布
原创 最新推荐文章于 2025-11-18 16:31:16 发布 · 280 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能

1.创造对应的环境，下载LmDepoly对应的相关依赖

2.进行进去项目目录，粘贴脚本，启动本地推理

3.运行结果

4.指定TurboMind为推理引擎，进行推理

5.运行结果

6.运行大模型离线部署代码

7.运行结果

8.视觉模型离线部署

9.运行代码

10.进行多图推理

11.得到结果

12.下载量化的相关依赖

13.量化internlm2-chat-7b模型

14.量化结果

15.量化InternVL3-1B模型

16.量化结果

17.粘贴脚本，进行Key-Value(KV) Cache 量化

书生大模型第五期-L1G2-OpenCompass 评测书生大模型实践
nuowenyadelunwen的博客
07-09 1906
OpenCompass 是一个开源的、专为大语言模型（LLM）设计的评测平台。它支持广泛的模型和数据集，提供了一整套从评测、分析到报告的工具链。全面的评测能力: 支持多种评测任务，如自然语言理解、生成、推理、知识等。可复现性: 标准化的评测流程和配置，确保评测结果的公平性和可复现性。高效率: 支持分布式评测，能够利用多卡、多机资源并行处理任务，大幅提升评测效率。易于扩展: 用户可以方便地添加自定义的模型、数据集和评测指标。配置 (Configuration): 定义需要评测的模型和数据集。
书生大模型cmp5-L1G3-LMDeploy 部署LLM
nuowenyadelunwen的博客
07-18 637
LMDeploy 是一个为大语言模型（LLMs）设计的、高效且用户友好的部署工具箱。它的功能全面，覆盖了从模型量化、本地推理到API服务部署的整个流程。
书生大模型第五期：L1G4
qq_75269600的博客
08-04 231
本文介绍了使用Xtuner和PyTorch进行模型训练与部署的完整流程。首先配置PyTorch环境并安装Xtuner依赖，验证安装成功后创建项目文件链接。随后编写训练脚本启动模型训练，完成训练后将PTH格式转换为HuggingFace格式，并合并adapter与基础模型。最后将训练好的模型上传至魔搭社区并完成提交。整个过程涵盖了从环境搭建、模型训练到最终部署的关键步骤，为深度学习项目提供了标准化的实施指南。
书生大模型第五期：LG1
qq_75269600的博客
08-04 214
本文介绍了书生API项目开发的完整流程：首先需要搭建开发环境，然后从书生官网获取API密钥。接着创建项目目录，复制运行核心脚本获取模型输出结果。从GitHub克隆项目代码后，安装项目依赖并启动服务。最后通过网页界面填写API密钥，完成API接入。整个过程涵盖了环境配置、代码获取、依赖安装到最终部署的关键步骤，为开发者提供了清晰的实施指南。
书生大模型第五期:Lo2
qq_75269600的博客
07-11 129
书生大模型第五期-L1G2-OpenCompass 评测书生大模型实践过程记录
m0_73681364的博客
05-31 1139
本文介绍了使用OpenCompass评测书生大模型InternLM3-8B在C-Eval数据集上的实践过程。主要包括环境配置（Cuda12.2-conda镜像和Python环境搭建）、数据集准备（本地下载OpenCompass核心数据集），以及两种评测方式：命令行运行（修改模型路径后直接评测）和配置脚本运行。评测过程需注意transformers版本兼容性和显存问题，最终结果保存在outputs目录中。
书生大模型第五期-API 之 Browser-Use 实
nuowenyadelunwen的博客
07-04 1076
书生·浦语 API 是上海人工智能实验室推出的核心产品之一，旨在为开发者提供便捷、高效的大模型调用能力。其依托 InternLM 系列模型及工具链生态，支持文本交互、多模态处理及智能体开发。本文档将作为一份实践指南，记录如何调用 API 完成基本任务，并探索 Browser-Use 等智能体工具。官方文档本文档从基础的环境配置开始，详细介绍了如何使用 InternLM API（兼容 OpenAI SDK）进行纯文本和图文多模态对话。
书生大模型第五期实战营
m0_73681364的博客
04-17 184
第五期的实操过程会在这个专栏进行持续更新，感兴趣的可以关注一下，希望大家能帮忙点个链接助力一下☺️
第五期书生大模型实战营报名啦
qq_60666264的博客
04-13 486
书生·浦语是上海人工智能实验室大模型品牌，期待和广大的社区开发者一起建设开放、繁荣、健康的大模型开源社区！本知识库已上线飞书社区，欢迎大家来玩。
书生大模型第四期 | L1G1000 书生大模型全链路开源体系
qq_43367952的博客
11-01 242
拥有更强的综合推理能力，支持对长文本上下文的理解。2、书生浦语2.5概览。
书生大模型cmp5-L1G3-LMDeploy 部署LLM 之采样
nuowenyadelunwen的博客
07-17 791
设模型的原始输出 logits（未归一化的预测值）为 $$z={z_1,z_2,...,z_v}$$, 词汇表大小为 $$v$$ ，温度参数为 $$\tau$$$$\tau$$控制分布的尖锐程度,$$\tau$$接近0，概率分布趋向于贪婪选择（仅最高概率的 token 概率接近 1，其余接近 0）动态地根据当前词的概率分布情况，选择一组最可能、最合理的候选词集合，排除长尾的低概率词。非常灵活，能自适应概率分布的形状。让高概率词的概率更高，低概率词的概率更低，概率分布变得更“尖锐”（接近 one-hot）。
书生大模型第四期—基础第五关：Xtuner 微调
NULLL123的博客
10-06 2161
环境安装：我们想要用简单易上手的微调工具包 XTuner 来对模型进行微调的话，第一步是安装 XTuner ！安装基础的工具是一切的前提，只有安装了 XTuner 我们才能够去执行后续的操作。前期准备：在完成 XTuner 的安装后，我们下一步就需要去明确我们自己的微调目标了。我们想要利用微调做一些什么事情呢，然后为了实现这个目标，我们需要准备相关的硬件资源和数据。启动微调：在确定了自己的微调目标后，我们就可以在 XTuner 的配置库中找到合适的配置文件并进行对应的修改。修改完成后即可一键启动训练！训练好
书生大模型第四期笔记:Prompt/RAG/XTuner微调/Agent/LMDeploy量化部署...
m0_53632564的博客
11-07 1627
远程连接的好处就是，如果你使用的是远程办公，你可以通过SSH远程连接开发机，这样就可以在本地进行开发。是一种网络技术，它可以将外网中的任意端口映射到内网中的相应端口，实现内网与外网之间的通信。这条命令会通过开发机 SSH 通道将开发机内的 {开发机_PORT} 转发到您本地机器的 (本地机器_PORT}，这个过程可能会要求你输入 SSH 链接的密码。组成，为建立安全的 SSH 通道，双方需要先建立 TCP 连接，然后协商使用的版本号和各类算法，并生成相同的。，我们使用本地连接访问，解决这个代理问题。
工业互联网中的AI与大数据：推动智能化决策的力量
2509_93699011的博客
11-16 678
摘要： 工业互联网通过融合大数据、人工智能（AI）和物联网（IoT）技术，推动制造业智能化升级。大数据实时采集生产设备、质量及供应链数据，优化生产调度与能源管理；AI则通过机器学习实现预测性维护、智能决策和质量检测。二者协同驱动实时分析与自适应优化，应用于智能工厂、供应链及物流管理。未来，边缘计算和数据安全将成为发展重点，AI自学习能力将进一步提升自动化水平，助力制造业高效转型。
参赛项目实战：校园智能助手 Agent 开发全记录，从 0 到 1 打造高效校园生活解决方案
yzx991013的博客
11-16 1018
《校园全能助手智能体开发全记录》摘要：本文详细介绍了基于ChatGLM-6B开发的校园智能助手项目，旨在通过AI技术解决学生校园生活中的痛点需求。该项目整合课程查询、学习辅助、生活服务等模块，采用LangChain框架实现自然语言交互和任务自动调度。开发过程中攻克了多模块协同、数据接口对接等难题，最终实现1.5秒快速响应和88%复杂任务执行成功率。测试阶段覆盖1000+学生，满意度达85分。项目具有场景适配性强、轻量化部署等优势，未来计划扩展多模态交互和跨校适配功能，打造更智能的校园服务体系。
机器学习进阶
最新发布
2509_93941656的博客
11-18 294
1. **监督学习**：通过已标注的训练数据集来训练算法模型，以预测新数据的标签。2. **无监督学习**：在没有标注的数据集上探索数据的内在结构和特征。2. **金融风控**：机器学习在金融领域的应用也日益广泛，包括信用评分、欺诈检测和智能投顾等。3. **自动驾驶**：自动驾驶汽车是机器学习技术的重要应用之一。3. **伦理与安全**：随着机器学习技术的广泛应用，伦理和安全问题也日益凸显。1. **可解释性**：提高算法的可解释性是未来研究的重要方向之一。**一、机器学习的基本算法**
飞桨AI Studio使用d2l进行VOC2012图像分割实验完全指南
m0_54846764的博客
11-18 1271
本文介绍了在飞桨AI Studio平台上使用PaddlePaddle 2.5.2框架和d2l库进行VOC2012图像分割实验的完整流程。主要内容包括：1) 飞桨AI Studio环境配置与d2l库安装；2) VOC2012数据集的获取与预处理方法；3) 全卷积网络(FCN)模型的构建；4) 图像分割评估指标的计算。实验使用VOC2012数据集，包含21个类别，通过FCN模型实现像素级分类。文中详细说明了环境设置、数据准备、模型训练等关键步骤，为计算机视觉领域的图像分割任务提供了实践指南。
触摸未来2025-11-17：字符社会，汉字共识云，【奖罚】
小召的专栏--百汇电脑学校(www.i5school.com)
11-17 1042
它的“智能”是凝固的，缺乏生命最本质的特征——成长。初期，少数常用字（如“的”、“是”）因其高出场率，迅速累积了极高的威望，形成了“权贵阶层”，严重压制了实意字符的发言权，导致生成文本再次陷入空洞。即使初始语义向量中没有“区块链”和“不可篡改”的强关联，经过多次成功的共同议事，它们的向量也会逐渐靠近，形成新的“政治同盟”。· 例如： 在生成“花开”时，如果“花”字符的发言强烈指向了“开”，而最终“开”字符被采纳，并且“花开”被判定为高质量输出，那么“花”字符就被认定为做出了关键贡献。
AI速递 | 直击2025年人工智能+大会：AI下半场开启，得场景者得未来
wyysqy的博客
11-18 533
2025人工智能+大会在京举行，聚焦AI未来十年发展路径。大会以场景驱动×新质引擎"为主题，展示AI在各行各业的落地成效。大会揭示了AI竞争进入场景为王时代的新趋势，网易云商智能客服等场景化应用成为典型案例。
书生大模型L1G1000
03-08
### 书生大模型 L1G1000 技术文档概述 书生大模型全链路开源体系提供了详尽的技术文档，涵盖了从基础架构搭建到具体应用场景实现的各个方面[^3]。该体系由上海人工智能实验室开发，旨在为用户提供全面的支持。 ###...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值