Andrej karpathy讲gpt 2-2

最新推荐文章于 2024-08-19 16:09:06 发布
最新推荐文章于 2024-08-19 16:09:06 发布
阅读量277 收藏 8
点赞数 4
分类专栏： 算法学习 文章标签： 学习 python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_41974053/article/details/140766375
版权

c6dd1be41b2c422bbf42f3f3233c21de.png

c62beb2150cd44adb63f6dc74a05d6dd.png 

e27d2a78c2844d3899060927aed984b7.png 

c2fcb6e8e7ea4c2eab77a587938ef00d.png 

 

zjnlswd
关注
  • 4
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
从头搭建GPT(Andrej Karpathy) 笔记
蓝羽飞鸟的博客
03-27 538
搭建gpt的过程，大牛讲解
[GPT]Andrej Karpathy微软Build大会GPT演讲(上)--GPT如何训练
摩登都市天空---专栏
12-08 1289
OpenAI的创始人之一，大神Andrej Karpthy刚在微软Build 2023开发者大会上做了专题演讲：State of GPT（GPT的现状）。他详细介绍了如何从GPT基础模型一直训练出ChatGPT这样的助手模型（assistant model）。作者不曾在其他公开视频里看过类似的内容，这或许是OpenAI官方第一次详细阐述其大模型内部原理和RLHF训练细节。难能可贵的是，Andrej不仅深入了细节， 还高屋建瓴的抽象了大模型实现中的诸多概念，牛人的洞察就是不一样。
Andrej karpathy讲gpt 2
nn的博客
07-23 389
[GPT]Andrej Karpathy微软Build大会GPT演讲(下)--该如何使用GPT助手
摩登都市天空---专栏
12-10 1236
Andrej通过将提示工程中的技术和模型学习了什么结合起来，我觉得很好的解释了为什么那些提示工程是有效的。我印象最深刻的就是说模型只是一个标记模拟器，为了让他模拟的结果是我们想要的东西，得需要通过你的前文来限制一些内容使得他如果要完成这个文档补全，就需要按照你的说明来。我觉得这个甚至可以作为提示工程的核心guideline。
【LLM入门】Let‘s reproduce GPT-2 (124M) | 从零复现GPT2（Section 1） | Andrej Karpathy
py今天刷题了吗
08-16 819
使用hugging face 的transformer库，pytorch【学习代码，参考hugging face，非常多模型！用jupyter调试，然后再把code搬到py文件中！openai的gpt2 是 tensorflow写的。465,246次观看 2024年6月10日。forward 顺便返回 loss。随机初始化的 损失，
经典神经网络(13)GPT-1、GPT-2原理及nanoGPT源码分析(GPT-2)
qq_44665283的博客
06-27 1112
经典神经网络(13)GPT-1、GPT-2原理及nanoGPT源码分析(GPT-2)
代号「韭菜」？GPT-4o mini 入局大模型价格战，百万 tokens 只要一块钱！GPT-3.5 正式告别江湖...
AI科技大本营
07-19 4669
从今天起，GPT-3.5 退出了历史舞台。
学习人工智能-3条Python命令，从零开始搭建GPT，minGPT by Andrej karpathy
Ankie资深技术项目经理
03-10 1224
3条Python命令，从零开始搭建GPT，minGPT by Andrej karpathy。如果你不是深度学习领域的专业人士，只是想感受一下它的魔力并初步尝试，那么最快速的入门方式就是在莎士比亚的作品上训练一个字符级别的GPT模型。首先，我们需要将其下载为一个单独（1MB）的文件，并将原始文本转换为一串大的整数流。生成结果 by CPU。生成结果 by GPU。
LLM基础课: 跟着大神 Andrej Karpathy 学习 Byte Pair Encoding
thomas20的博客
03-31 1670
探索Tokenization的神秘世界：了解它如何塑造大型语言模型的理解力，特别是在处理多样化语言时的挑战与策略，揭示了为何LLM处理非英语文本时会遇到困难，以及如何优化这一过程。
从零创建一个最简单的GPT，minGPT by Andrej karpathy
03-08
而minGPT是Andrej Karpathy基于PyTorch实现的一个简化版GPT，旨在帮助开发者和学习者更好地理解GPT的工作原理。在这个项目中，我们将深入探讨如何从零开始构建一个最简单的GPT模型，即minGPT。 首先，我们需要了解...
纯 C 语言训练 LLM GPT-2 框架开源代码
08-05
Andrej Karpathy 推出了一个名为 llm.c 的项目，旨在用纯 C 语言训练 LLM，这种方法的主要优势在于它显著减少了依赖库的体积——不再需要 245MB 的 PyTorch 和 107MB 的 cPython，这样可以使得模型训练过程更为轻量...
BN与LRN,RGAN
nn的博客
07-05 977
LRN:https://blog.csdn.net/hjimce/article/details/50866313局部相应归一化BN:http://www.cnblogs.com/houkai/p/6553186.htmlbatch normalize:https://arxiv.org/abs/1502.03167--------------------------------RGAN:ga...
图像去噪算法分析
nn的博客
05-20 722
1、n2n noise2noise 我暂时理解的意思是 这个模型训练的时候还是需要干净的图像的 使用干净的图像加噪声作为输入图像，输出图像也是加了噪声的图像 然后相当于训练编码器和解码器 程序可以参考的链接： https://blog.csdn.net/weixin_36474809/article/details/86600925?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-2
Dalle2学习
nn的博客
05-21 497
Dalle2 mini有GitHub库并且有网页可以直接测试。
Gpt2-7结束
最新发布
nn的博客
08-19 416
重要的人工智能会议
nn的博客
07-11 403
ICLR International Conference on Learning Representations
CLIP论文学习
nn的博客
05-23 383
学习来自B站bryanyzhu。
ViLT学习
nn的博客
05-23 333
多模态里程碑式的文章，总结了四种多模态方法，根据文字和图像特征特征抽取方式不通。文章的贡献主要是速度提高了，使用了数据增强，文本的mask。学习自b站朱老师的论文讲解。
Andrej Karpathy在CS231n论文中，主题是什么？
02-07
我不了解你所提到的CS231n论文的细节，但是我知道Andrej Karpathy是一位著名的计算机科学家，擅长深度学习和计算机视觉领域。他曾在著名的论文"The Unreasonable Effectiveness of Recurrent Neural Networks"中提出...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值