【LLM学习之路】9月11日 第一天

最新推荐文章于 2024-10-16 18:47:39 发布
最新推荐文章于 2024-10-16 18:47:39 发布
阅读量154 收藏
点赞数 2
文章标签： 学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u014448315/article/details/142151875
版权

【LLM学习之路】9月11日 第一天

安装pytorch

重要的两个函数

pytorch相当于一个工具箱

需要两个函数：

dir() 函数提供打开操作，看到里面有什么东西

help() 说明书

对Python文件、控制台、jupyter之间进行对比

python文件的块是所有行的代码，有点是通用且传播方便，适用于大型项目，缺点是需要从头运行

控制台是每一个为一个块，按行执行，缺点是阅读性不好，好处是可以看到每一个变量的属性

jupyer可以以任意行为块，利于代码阅读及修改

控制台和jupyer如果有代码出问题不会影响前面的代码块

想进大厂的Leo
关注
LLM大模型中文开源数据集集锦（三）
素质云笔记
05-16 4139
头两篇在写【】和【然后笔者自己也测试了一把ChatGLM的P-Tuning V2在【】感觉。
【LLM学习之路】9月22日 第九天 自然语言处理
u014448315的博客
09-23 959
直接看Transformer第一章 自然语言处理只要看的足够多，未必需要理解语言。
LLM学习教程
机器人涮火锅的博客
07-26 637
LLM 正在逐步改变人们的生活，而对于开发者，如何基于 LLM 提供的 API 快速、便捷地开发一些具备更强能力、集成LLM 的应用，来便捷地实现一些更新颖、更实用的能力，是一个急需学习的重要能力。随着 LLM 的发展，其大致可以分为两种类型，后续称为基础 LLM和指令微调（Instruction Tuned） LLM。基础LLM是基于文本训练数据，训练出预测下一个单词能力的模型。其通常通过在互联网和其他 来源的大量数据上训练，来确定紧接着出现的最可能的词。
LLM之Agent初探
2301_82275412的博客
08-05 913
1、tool description 非常重要，没有写好description，agent无法理解在什么情况下应该调用该tool2、输入参数的 description 非常重要，想要LLM生成给定格式的输入参数，可以给一些few shot样例3、agent本质还是prompt工程，极大程度上依赖于LLM的参数量。小模型无法理解prompt，无法生成给定格式的输入参数，导致tool函数不能被正常调用读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用。
LLM大模型综述
zh515858237的专栏
01-10 2万+
LLM其实就是large language model，大语言模型。如果对“最终任务”进一步进行分类，又大致可以分为两大不同类型的任务：自然语言理解类任务和自然语言生成类任务。如果排除掉“中间任务”的话，典型的自然语言理解类任务包括文本分类、句子关系判断、情感倾向判断等，这种任务本质上都是分类任务，就是说输入一个句子（文章），或者两个句子，模型参考所有输入内容，最后给出属于哪个类别的判断。自然语言生成也包含很多NLP研究子方向，比如聊天机器人、机器翻译、文本摘要、问答系统等。
基于LangChain+LLM的本地知识库问答：从企业单文档问答到批量文档问答
热门推荐
结构之法 算法之道
07-05 10万+
本文则侧重讲解 1 什么是LangChain及langchain的整体组成架构 2 解读langchain-ChatGLM项目的关键源码，不只是把它当做一个工具使用，因为对工具的原理更了解，则对工具的使用更顺畅 3 langchain-ChatGLM项目的升级版langchain-chatchat
【LLM大模型】指令微调、peft高效参数微调
发现问题，并解决问题，批判性思维
05-07 1万+
LLaMA 是 Meta AI 发布的包含 7B、13B、33B 和 65B 四种参数规模的基础语言模型集合，LLaMA-13B 仅以 1/10 规模的参数在多数的 benchmarks 上性能优于 GPT-3(175B)，LLaMA-65B 与业内最好的模型 Chinchilla-70B 和 PaLM-540B 比较也具有竞争力。通过使用与 ChatGLM（chatglm.cn）相同的技术，ChatGLM-6B 初具中文问答和对话功能，并支持在单张 2080Ti 上进行推理使用。
通俗易懂的LLM（上篇）
qq_39439006的博客
06-06 1万+
2022年年底OpenAI发布ChatGPT，将LLM（Large Language Model）带向了一个新的高度，而2023年OpenAI继续放出大招：更强大的GPT-4问世，引爆了整个互联网圈。在这个大模型时代，作为一名NLPer，持续吸收着层出不穷的新技术，确实有些吃不消。俗话说，好记性不如烂笔头，在此记录下LLM相关技术及进展。顺便说一句，你可以说它不全面，但不能说它不通俗易懂。GPT系列模型详解【LLM系列-01】Language Models are Few-Shot Learners。
在 LLM 架构中应用多专家模型
AI + 工程
06-02 984
一、概述 二、LLM 架构领域的专家齐聚一堂 1、模型容量 2、MoE 在降低成本的同时训练更大的模型 3、 MoE 可降低延迟 三、MoE 架构的工作原理是什么？ 四、试验 Mixtral 模型 五、实验结果 1、负载均衡 2、领域专家任务分配 3、专家推荐的最佳令牌 4、按令牌划分的首选专家 六、总结
LLM大模型的演进与发展
2401_82469710的博客
06-29 1127
本文主要是对LLM的想法进行一次全面的梳理和整合。我希望这次的技术沉淀不仅是我个人的梳理和沉淀，也能为刚踏入AI领域的新手以及已在AI行业工作的同行们提供一些参考和帮助。
LLM—各种任务的训练数据集格式
一只大憨憨的博客
09-24 156
LLM各种任务的训练数据集格式。
LLM系列(0)：行业大模型落地服务在全业务场景的应用与探索【大模型智能问答、NL2SQL、文档智能分析智能生成、AI智能体决策等】
丨汀、的博客
04-26 909
行业大模型落地服务：在全业务场景的应用与探索【大模型智能问答、NL2SQL、文档智能分析智能生成、AI智能体决策等】
论文翻译：NeurIPS-2024 Jailbroken: How Does LLM Safety Training Fail?
CSPhD-winston的博客
08-17 1011
为安全和无害性而训练的大型语言模型（LLMs）仍然容易受到对抗性滥用的影响，这一点从早期发布的ChatGPT的“越狱”攻击的普遍性中得到了证明，这些攻击诱发了模型本应避免的不良行为。我们不仅认识到了这个问题，还研究了这些攻击为何会成功以及如何创建它们。目标冲突和泛化不匹配。当模型的能力和安全目标发生冲突时，就会出现目标冲突；而当安全训练未能泛化到能力存在的领域时，就会出现泛化不匹配。
MySQL数据库的详细学习步骤
2401_87352036的博客
10-11 1209
MySQL数据库的详细学习步骤可以归纳为以下几个阶段，每个阶段都包含了特定的学习内容和目标。
【人工智能学习之PaddleOCR快速上手】
Jiagym的博客
10-12 1179
在配置文件中，可以设置组建模型、优化器、损失函数、模型前后处理的参数，PaddleOCR从配置文件中读取到这些参数，进而组建出完整的训练流程，完成模型训练，在需要对模型进行优化的时，可以通过修改配置文件中的参数完成配置，使用简单且方便修改。而 L2 正则化中，添加正则化项的目的在于减少参数平方的总和。准确检测的标准是检测框与标注框的IOU大于某个阈值，正确识别的检测框中的文本与标注的文本相同。如果缺少带标注的数据，或者不想投入研发成本，建议直接调用开放的API，开放的API覆盖了目前比较常见的一些垂类。
如何用3个月零基础入门网络安全？_网络安全零基础怎么学习
2401_84466224的博客
10-15 729
我们知道计算机最早是在西方发明出来的，很多名词或者代码都是英文的，甚至现有的一些教程最初也是英文原版翻译过来的，而且一个漏洞被发现到翻译成中文一般需要一个星期的时间，在这个时间差上漏洞可能都修补了。”答案是否定的，黑客用的电脑,不需要什么高的配置,只要稳定就行.因为黑客所使用的一些程序,低端CPU也可以很好的运行,而且不占什么内存.还有一个,黑客是在DOS命令下对进行的,所以电脑能使用到最佳状态!观看学习近十年所有0day挖掘的帖，然后搭建环境，去复现漏洞，去思考学习笔者的挖洞思维，培养自己的渗透思维。
论文及其创新点学习cvpr2022 On the Integration of Self-Attention and Convolution
qq_53536373的博客
10-13 395
论文创新点，将注意力机制 和卷积 相结合。
苍穹外卖学习笔记(二十一)
₍˄·͈༝·͈˄*₎◞ ̑̑的博客
10-13 325
取消订单与再来一单
学习笔记——交换——STP（生成树）基本概念
最新发布
灵韵的博客
10-16 650
端口收到一个BPDU报文后，抽取该BPDU报文中累计根路径开销字段的值，加上该端口本身的路径开销即为累计根路径开销。从一个非根桥到达根桥的路径可能有多条，每一条路径都有一个总的开销值，此开销值是该路径上所有接收BPDU端口的端口开销总和(即BPDU的入方向端口)。STP交换机每一个端口都对应一个开销值，这个值表示数据通过端口发送时的开销，这个值与端口带宽有关，带宽越高，开销值越小。根路径开销是根据交换机之间的网段来说的，本地路径的开销也叫端口开销是针对本地的物理链路来说的相关的IETF的规定为。
探索LLM论文：全面学习资源指南
综上所述，awesome-llm-论文学习资源项目为人们提供了宝贵的LLM领域学习资料和工具，对于有志于深入了解和应用大型语言模型的技术人员来说，是一个不可多得的资源库。通过掌握以上知识点，读者可以更好地探索和利用...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值