零基础大模型学习路线图（持续更新）

最新推荐文章于 2024-05-17 18:09:22 发布
最新推荐文章于 2024-05-17 18:09:22 发布
阅读量398 收藏
点赞数 7
分类专栏： 大模型 文章标签： 学习 AIGC
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43756420/article/details/137788985
版权

零基础大模型学习路线（持续更新）

文章目录

基础篇

  1. python基础
  2. linux基础
  3. pandas/numpy的基本使用

深度学习篇

  1. 机器学习基础
    线性回归
    逻辑回归
    支持向量机
    聚类等
  2. 深度学习基础
    CNN
    RNN
    LSTM
    GAN
    Transformer
    BERT等
  3. 框架基础
    pytorch基本使用
    langchain基本使用 等

大模型基础篇

ChatGPT
LLaMA等

多模态基础篇

大模型实践篇

大模型优化篇

hugging face篇

dear_xia
关注
  • 7
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
大模型入门学习笔记.zip
09-16
大模型入门学习笔记.zip 大模型入门学习（主要基于DataWhale组织的学习任务） ## Task 01 梳理了语言模型的进化史。 ## Task 02 这一节主要是讲述大模型的能力，通过一些任务来探索，这里我整理了prompt的范式，包括一个范例，另外整理了langchain介绍，包括一些langchain示例。 ## Task 03 这一部分主要整理了ChatGPT的原理，包括ChatGPT训练的三个阶段，目前这部分仅是简单叙述，接下来会对具体的技术细节进行总结。 ## Task 04 这一部分主要梳理了GPT的进化史，从GPT-1到GPT-3，从数据、模型、训练方式有了一个大致的了解。 ## Task 05 这一部分整理了ChatGPT从零开始的训练流程，主要包括预训练、指令微调、奖励模型三个阶段。
2024-03-26 AIGC-大模型学习路线
技术之路
03-26 1644
熟悉主流LLM（Llama, ChatGLM, Qwen）的技术架构和技术细节；有实际应用RAG、PEFT和SFT的项目经验 较强的NLP基础，熟悉BERT、T5、Transformer和GPT的实现和差异，能快速掌握业界进展，有对话系统相关研发经验 掌握TensorRT-LLM、vLLM等主流推理加速框架，熟悉模型量化、FlashAttention等推理加速技术方案，对分布式训练DeepSpeed框架有实战经验 熟悉Pytorch，具备扎实的深度学习和机器学习基础，对C/C++、Cuda、计算机系统有一定
大模型学习路线
qq_51175703的博客
03-18 1008
大模型学习路线
『保姆级』大模型教程来了（从入门到实战）
2301_76168381的博客
04-01 1091
在大模型的构建之下，AI自动化交互，将会决定世界的未来，谁的大模型更强大，将决定在遥远的未来的话语权，同时，大模型会成为AI基础设施。AI大模型，正在构建的颠覆力，为了更好的入局AI大模型，🔻 针对ChatGLM大模型，介绍ChatGLM模型微调。🔻 大模型的定义和特点，如预训练、微调、指令学习等。🔻 05 精读大模型-3论文、Instruct论文。🔻 04 GLM-130B训练营——论文泛读。🔻 05 GLM-130B训练营——论文精读。🔻 08 Alpaca训练营——论文精读。
python 零基础学习篇web前端开发基础css基础10 盒子模型 .mp4
04-21
python 零基础学习篇
从零开始学习大模型-第一章-大模型是什么
2301_76168381的博客
04-01 897
这些深度学习模型通过在广泛的数据集上进行训练，掌握了丰富的数据表示和多样的模式识别，从而在文本生成、语言理解、图像识别等任务上取得了卓越的成就。：在某些情况下，可能需要冻结预训练模型的某些层，尤其是接近输入层的部分，这样可以减少模型需要调整的参数数量，降低过拟合的风险，并减少计算资源的消耗。通过不断学习和实践，保持自己的知识和技能的更新，以适应不断变化的技术环境。：大模型拥有从数十亿到数万亿不等的参数，这种规模的参数赋予了模型强大的表达和学习能力，使其能够精确地适应复杂的数据模式和任务需求。
AI大模型技术实践路线图
09-20
近日，智源社区联合了将近百位清华、北大、微软等机构的研究学者，推出了大模型技术实践路线图《A Roadmap for Big Model》，从大模型基础资源、大模型构建、大模型关键技术与大模型应用探索4个层面出发，对15个具体...
大语言模型的主要技术路线
08-14
大语言模型的主要技术路线
python 零基础学习篇python课程django框架django模型11 更新数据 .mp4
04-21
python 零基础学习篇
自然语言处理大模型学习路径规划
02-06
学习路径 总结和学习路径 Python 基础 数学基础 机器学习算法 神经网络基础 经网络与多层感知器 卷积神经网络基础 循环神经网络 Transformer Bert 6 . GPT 7 . ... Pytorch 入门 NLP 基础知识 LLM 书籍推荐
ChatGPT大模型学习笔记.rar
10-20
GPT的本质是把transformer的解码器拿出来，然后在没有标号的大量文本数据训练一个语言模型，来获得一个预训练模型，然后再用它在子任务上作微调。 - 在transformer出现后，GPT 把transformer的解码器拿出来成为了GPT这个模型。 - 之后BERT把transformer的编码器拿出来做成了BERT这个模型，BERT的基础模型对标的是GPT，在可学习参数规模基本一样的情况下，效果比GPT更好。BERT的large模型甚至比它的基础模型更好。 - 在之后又出现了GPT2和GPT3，技术路线基本不变（具体指依旧使用transformer的解码器），可学习参数和样本规模越变越大，效果也越来越好。 - GPT2的特点是适合做zero-shot，指的是模型在没有进行显式训练的情况下，能够对之前从未见过的类别或任务进行推理和泛化。传统上，模型只能在训练数据中出现过的类别上进行准确预测，而zero-shot学习推动了模型在未见示例的情况下进行预测的能力。 - GPT3的特点是是在后续子任务的训练上权重是不会改变的。主要原因是因为GPT3的可学习参数规模达到了千亿级别，在这个
大模型学习资料：LLM大语言模型的学习路径和各种最佳实践
12-19
大模型学习资料：大语言模型的学习路径和各种最佳实践，包含大模型推荐、大语言模型原理解读、没有训练大模型的条件应该如何训练、大模型相关的论文列表、大模型相关的论文解读，非常全的资料和学习路线，目前大模型的资料不多，这可能是比较齐的一份。
FME学习之旅---day27
最新发布
summer_corner的博客
05-17 203
我们付出一些成本，时间的或者其他，最终总能收获一些什么。
使用多实例学习进行乳腺癌组织病理学图像分类和定位
qq_47896523的博客
05-16 1109
乳腺癌是女性最主要的死亡原因，病理学家根据病理切片中观察到的各种视觉特征（例如细胞核的形态特征、细胞核的微观和宏观结构等）做出决定。计算机辅助诊断（CAD）系统可以帮助病理学家自动做出决策。卷积神经网络是最广泛使用的深度学习框架，用于学习图像类别之间的复杂判别特征。多年来，VGG16 [3] 和 ResNet18 [4] 等各种 CNN 架构在海量 ImageNet 数据集上产生了出色的结果。CNN 被用于医学图像以产生最先进的结果。为图像中存在的所有类别提供了定位信息。
WEB转Flutter基础学习笔记（内含vue和flutter对比）
小易不止于搬砖的博客
05-17 687
笔者是一名web前端，记录在转栈flutter时的学习笔记，内涵和vue的对比，能够辅助前端同学更容易理解flutter
Page对象的学习
2301_77523055的博客
05-14 1009
ASP.NET允许开发者创建自定义控件和用户控件来扩展页面的功能。自定义控件是从现有的ASP.NET控件派生出来的新控件，而用户控件则是将多个控件组合成一个可重用的单元。这些控件可以像其他ASP.NET控件一样在页面上使用，并通过Page对象进行交互。Page_Init主要用于在控件加载之前进行初始化设置和添加事件处理程序。Page_Load主要用于处理页面回发和加载数据，以及执行其他需要在页面加载时完成的逻辑。由于Page_Init在Page_Load之前触发，因此在Page_Init。
学习kong官方文档
好好学习日记
05-17 279
当然，我会用更简洁的方式重新解释这两个概念：Helm和Kubectl是Kubernetes生态系统中常用的两个工具，它们各自有不同的用途：
推荐系统学习笔记（一）
weixin_44880995的博客
05-15 152
同类策略（精排中的两种模型）天然互斥，并且（两条召回通道）效果会相互影响，避免干扰。反转：有的指标立刻影响，有的需要长期观测-------尽快推全也可以长期观测。10%作为holdout桶，实验使用剩余的90%，做diff（需要归一化）不同策略（添加召回通道，优化粗排模型）通常不会干扰，可以作为正交的两层。保留10%，完全不受实验影响，可以考察整个部门对业务指标的贡献。同层互斥----避免一个用户被两个实验影响。不同层正交----每层独立随机分配用户。推全：新层，与其他层正交，90%用户。
深度学习 基础大模型
01-05
深度学习中的基础大模型是指具有大规模参数数量和复杂结构的深度神经网络模型。这些模型通常由多个层次的神经网络组成，每个层次都包含大量的神经元和连接。基础大模型在深度学习中扮演着重要的角色，因为它们能够处理更复杂的任务和更大规模的数据集。 基础大模型的发展是深度学习系统方向的一个重要研究方向。研究人员致力于开发新的深度学习框架，以实现更高效、更稳定的训练和推理过程。其中一个例子是引用中提到的流水线并行方式，该方式可以在较少的显存情况下训练更大的模型。这种方法可以提高模型的训练速度和效率，同时减少对计算资源的需求。 总之，深度学习中的基础大模型是指具有大规模参数数量和复杂结构的深度神经网络模型。研究人员通过深度学习系统方向的研究，致力于开发新的框架和方法，以实现更高效、更稳定的训练和推理过程。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值