大模型超详细解读汇总

已于 2024-09-04 16:40:34 修改
阅读量170 收藏
点赞数 3
分类专栏： 计算机视觉 文章标签： 语言模型
于 2024-09-04 16:20:10 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zyq880625/article/details/141897054
版权

大模型

文章目录

前言

https://zhuanlan.zhihu.com/p/625926419
https://zhuanlan.zhihu.com/p/626163710

DriveVLM 端到端大模型

https://zhuanlan.zhihu.com/p/704715146

工头阿乐
关注
专栏目录
Unet已死，Transformer当立！详细解读基于DiT的开源视频生成大模型EasyAnimate
沉迷单车的追风少年
06-21 1682
最近阿里云PIA团队开源了基于Diffusion Transformer结构的视频生成模型EasyAnimate，并且提出了专门针对视频的slice VAE，对于目前基于Unet结构的视频生成最好如SVD形成了降维打击，不论是生成质量、生成时长上都是遥遥领先。这篇博客详细解读一下EasyAnimate的技术报告《EasyAnimate: A High-Performance Long Video Generation Method based on Transformer Architecture》
大模型系列之解读MoE
我相信......
05-05 1482
Mixtral 8x7B 的推出， 使我们开始更多地关注 基于MoE 的大模型架构， 那么，什么是MoE呢？1. MoE溯源MoE的概念起源于 1991 年的论文 Adaptive Mixture of Local Experts（https://www.cs.toronto.edu/~hinton/absps/jjnh91.pdf）。这个概念与集成学习方法相似，旨在为由多个单独网络组成的系统并建...
全网详细解读AI大模型技术原理！！
lvaolan的博客
08-13 1271
大语言模型作为一个被验证可行的方向，其“大”体现在训练数据集广，模型参数和层数大，计算量大，其价值体现在通用性上，并且有更好的泛化能力。这些模型通常由深度神经网络构建而成，拥有数十亿甚至数千亿个参数。大模型的设计目的是为了提高模型的表达能力和预测性能，能够处理更加复杂的任务和数据。大模型在各种领域都有广泛的应用，包括自然语言处理、计算机视觉、语音识别和推荐系统等。大模型通过训练海量数据来学习复杂的模式和特征，具有更强大的泛化能力，可以对未见过的数据做出准确的预测。
6篇大模型微调数据选择、数据构造、数据过滤技巧论文汇总解读
AI蜗牛车
08-31 863
对于sft数据选择、数据构造、数据过滤等的总结。
大模型最新名单以及功能汇总！AI和大模型关系！
SpeedAdmin官方博客
05-22 2696
共有117个GenAI完成了备案，包括文心一言、通义千问、kimi、智谱清言、云雀、abab、日日新、星火、盘古以及最新的滴滴出行大模型等。 下面是完整清单列表和我整理的每个大模型的简介，方便大家查询了解。 具体内容如下 1、百度-文心一言 作为科技大厂中首个发布的生成式AI产品，百度“文心一言”于2023年3月16日开启邀测。同年10月，百度发布文心一言最新迭代产品——文心一言4.0。11月1日，百度上
国内外大模型免费访问入口汇总
日常学习与专研的记录
04-26 2827
本文主要介绍国内外的大模型免费访问入口，包含 gpt-3、gpt-4、Claude-3、Gemini、通义千问、文心一言、Kimi、海螺、讯飞星火、百川大模型、智谱AI大模型、盘古NLP大模型等。
大语言模型-NLP模型汇总
yuetan的博客
10-04 2109
NLP
开源大模型发展汇总
Po Rui的专栏
07-14 1422
经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 虽然规模不及千亿模型，但大大降低了推理成本，提升了效率，并且已经能生成相当符合人类偏好的回答。MOSS 是一个支持中英双语和多种插件的开源对话语言模型， moss-moon 系列模型具有 160 亿参数，在 FP16 精度下可在单张 A100/A800 或两张 3090 显卡运行，在 INT4/8 精度下可在单张 3090 显卡运行。自训练模型的初衷起源于，上面3个问题。
【大模型系列——解读RAG】
lhx17673139267的博客
07-05 3303
RAG即检索增强生成，为 LLM 提供了从某些数据源检索到的信息，并基于此修正生成的答案。RAG 基本上是 Search + LLM 提示，可以通过大模型回答查询，并将搜索算法所找到的信息作为大模型的上下文。查询和检索到的上下文都会被注入到发送到 LLM 的提示语中。嵌入式搜索引擎可以通过 Faiss 来实现，向量搜索领域成为了RAG的一个助力。像pinecone 这样的向量数据库可以构建开源搜索索引，为输入文本增加了额外的存储空间，还增加了一些其他工具。关于向量数据库，可以参考解读向量数据库。
通俗解读大模型微调(Fine Tuning)
lvaolan123456的博客
07-03 1320
开始之前，为了方便大家理解，我们先对大模型做一个直观的抽象。输入序列 X = [x1, x2, …, xm]， 输出序列Y = [y1, y2, …, yn]，X和Y之间的关系是：Y = WX。我们所说的“大模型”这个词：“大”是指用于训练模型的参数非常多，多达千亿、万亿；而“模型”指的就是上述公式中的矩阵W。在这里，矩阵W就是通过机器学习，得出的用来将X序列，转换成Y序列的权重参数组成的矩阵。这里为了方便理解，做了大量的简化。在实际的模型中，会有多个用于不同目的的权重参数矩阵，也还有一些其它参数。
详细解读开源版Sora视频生成模型Latte
沉迷单车的追风少年
03-24 1161
OpenAI的视频生成模型Sora一经发布就广受全世界的瞩目，上海人工智能实验室最近推出了一个基于Diffusion Transformer的结构的模型Latte，堪称最接近Sora原理的视频生成模型。这篇博客就详细解读Latte，并从中窥探Sora的神秘面纱。
大模型知识点汇总——分布式训练
TigerZ*的博客
03-25 1103
本篇在宏观上介绍AIGC、LLM 训练过程中的模型加速相关概念和技术，不做数学推导和过于细节介绍，旨在快速有一个宏观认知，不拘泥在细节上。涉及：混合精度训练、数据并行、张量并行、流水线并行、模型并行、3D并行、混合并行、ZeRO 1、ZeRO 2、ZeRO 3、ZeRO-offload、Megatron、DeepSpeed、PFlash Attention、nvlink、nvswitch、Infiniband。
开源医疗大模型汇总
qq_53600538的博客
07-04 718
该项目开源了生活空间健康大模型。结合当前开源的中文医疗问答数据集（MedDialog-CN、IMCS-V2、CHIP-MDCFNPC、MedDG、cMedQA2、Chinese-medical-dialogue-data），分析其中的单轮/多轮特性以及医生问询特性，结合自建的生活空间健康对话大数据，构建了千万级别规模的扁鹊健康大数据BianQueCorpus，基于扁鹊健康大数据BianQueCorpus，选择ChatGLM-6B作为初始化模型，经过全量参数的指令微调训练得到BianQue。
绿色柔性导电水凝胶的构建及其在运动健康监测中的应用
11-11
绿色柔性导电水凝胶的构建及其在运动健康监测中的应用
com.harmonyos4.exception.GpsUnavailableException解决方案(亲测可用).md
11-11
鸿蒙开发中碰到的报错，问题已解决，写个文档记录一下这个问题及解决方案
21124412马俊东 LSTM模型 (1).ipynb
11-11
21124412马俊东 LSTM模型 (1).ipynb
python+基于LDA的情感分析项目+自然语言处理
最新发布
11-11
python+基于LDA的情感分析项目+自然语言处理
AGV调度模型设计《AGV小车负责完成集装箱从各自起点岸桥送到指定终点场桥》+项目源码+文档说明
11-11
<项目介绍> - 模型最终需求 所有任务完成的总时间；每个小车从开始任务到它最后一个任务的时间；每个小车完成多少个任务；每个小车充电的时间；每个小车等待充电的 时间；每个小车行走的距离 任务： 码头的工作区域内，AGV小车负责完成集装箱从各自起点岸桥送到指定终点场桥。 对应关系： 一个集装箱任务对应一个起点岸桥和一个终点场桥。 - 不懂运行，下载完可以私聊问，可远程教学 1、该资源内项目代码都经过测试运行成功，功能ok的情况下才上传的，请放心下载使用！ 2、本项目适合计算机相关专业(如计科、人工智能、通信工程、自动化、电子信息等)的在校学生、老师或者企业员工下载学习，也适合小白学习进阶，当然也可作为毕设项目、课程设计、作业、项目初期立项演示等。 3、如果基础还行，也可在此代码基础上进行修改，以实现其他功能，也可用于毕设、课设、作业等。 下载后请首先打开README.md文件（如有），仅供学习参考, 切勿用于商业用途。 --------
qt5.9.5-imx6
11-11
qt5.9.5-imx6
AI大模型技术应用实战指南及解决方案汇总
- LLMBook.pdf: 可能是一本电子书或文档的PDF格式，详细描述了大语言模型的理论、技术和应用。 - LLMbook-re.png: 很可能是电子书或文档的封面图片。 - List.png: 这可能是电子书或文档中的内容目录，或者是资源列表...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值