- 博客(6)
- 收藏
- 关注
RSS订阅原创 第六讲——opencompass大模型评测
OpenCompass 大模型评测背景介绍如何评价大语言模型主流大模型评测框架OpenCompass能力框架评测平台评测平台架构评测流水线设计能力对比挑战背景介绍如何评价大语言模型主流大模型评测框架OpenCompass能力框架评测平台评测平台架构评测流水线设计能力对比挑战
2024-01-24 23:47:53
453
原创 第五讲——LMDeploy 大模型量化部署实践
LMDeploy 大模型量化部署实践大模型部署背景LMDeploy简介优秀的推理性能核心功能——量化核心功能——推理引擎TurboMind核心功能——推理服务api server大模型部署背景LMDeploy简介优秀的推理性能核心功能——量化核心功能——推理引擎TurboMind核心功能——推理服务api server
2024-01-24 23:38:39
443
原创 第四讲——XTuner 大模型单卡低成本微调实战
XTuner 大模型单卡低成本微调实战Finetune简介两种微调模式指令跟随微调增量预训练微调LoRA介绍XTuner介绍8GB显存玩转LLMFinetune简介两种微调模式指令跟随微调增量预训练微调LoRA介绍XTuner介绍8GB显存玩转LLM
2024-01-24 22:12:01
445
原创 第三讲——基于InternLM和LangChain搭建知识库
基于 InternLM 和 LangChain 搭建你的知识库大模型开发范式LLM具有其局限性两种流程的优缺点RAG方法流程图LangChain简介基于LangChain搭建RAG应用流程图构建向量数据库构建三部曲搭建知识库助手接入InternLM构建检索问答链RAG方案优化建议Web Demo部署大模型开发范式LLM具有其局限性两种流程的优缺点RAG方法流程图LangChain简介基于LangChain搭建RAG应用流程图构建向量数据库构建三部曲搭建知识库助手接入I
2024-01-24 21:56:17
462
原创 书生·浦语大模型Demo
书生·浦语大模型DemoInternLM-7B智能对话InternLM模型介绍Demo展示Lagent工具调用解答简单数学题Lagent介绍Demo展示浦语·灵笔图文创作理解InternLM-XComposer-7B介绍Demo展示InternLM-7B智能对话InternLM模型介绍Demo展示Lagent工具调用解答简单数学题Lagent介绍Demo展示浦语·灵笔图文创作理解InternLM-XComposer-7B介绍Demo展示
2024-01-24 21:02:42
454
原创 书生·浦语大模型实战营第一讲笔记
随着大模型的飞速发展，其逐步已成为人工智能发展的重要途径。模型的功能也由针对特定任务的专用模型转向针对多任务多模态的通用模型。目前的全链条开源开放体系分为数据、预训练、微调、部署、评测以及应用这六大主要模块。InternLM自6月发布后，迄今为止已将开源工具链全部升级。数据量2TB，包含文字、图片、视频等多种模态。高度可扩展，并对模型性能进行优化，加速训练。提出了轻量级智能体框架Lagent。适配多种生态、多种算法、多种硬件。针对大模型有多种部署方案。对Agent的调用与设计。
2024-01-05 20:16:13
388
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人