LLM-学习笔记

已于 2023-07-19 23:34:51 修改
阅读量379 收藏
点赞数
文章标签： 学习 笔记
于 2023-07-12 23:53:44 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u010069760/article/details/131690925
版权
  1. 偷懒视频

两倍加速 囫囵吞枣一番

based LLM （我是聪明宝宝）0and instruction-tuned LLM (让聪明的宝宝青出于蓝而胜于蓝)

拿到你的key 玩一把 

How to Build Your Career in AI

cs25 Stanford CS25: Transformers United

走马观花一下大佬的建议 -Make Every Day Count

cohere  八卦八卦这些大佬， 持续八卦

Langchain  学习一下这个API

angchain-intro

破壁者-燕
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena阅读笔记
AlphaFinance
06-09 370
MT-Bench 和 Chatbot Arena 是两个用于评估 LLM 聊天助手的新基准，分别侧重于多回合对话的质量和真实用户偏好。这两个基准的设计初衷是弥补现有基准在评估聊天助手人类偏好方面的不足，提供更准确和全面的评估方法。MMLU：重点评估模型在多任务、多领域的知识和理解能力。HELM：提供一个多维度的评估框架，全面评估模型的性能和实际应用中的各种表现。这两个基准各有侧重，MMLU 更关注模型的知识广度和准确性，而 HELM 则提供了一个全面的评估框架，涵盖了模型在实际应用中的多方面表现。
【4月组队学习-llm-universe笔记】 0基础小白 RAG应用开发实践笔记
valeriez04的博客
04-18 763
基于Langchain的检索增强生成的应用开发学习笔记——datawhale四月组队学习
学习笔记 | LMDeploy 量化部署 LLM-VLM 实践
DrFlown的博客
04-22 1553
根据InternLM2技术报告提供的模型参数数据，以及KV Cache空间估算方法，以FP16为例，在batch-size为16、输入512 tokens、输出32 tokens的情境下，仅20B模型就会产生10.3GB的缓存。该过程在新版本的LMDeploy中是自动进行的，无需用户操作。​ TurboMind是LMDeploy团队开发的一款关于LLM推理的高效推理引擎，它的主要功能包括：LLaMa 结构模型的支持，continuous batch 推理模式和可扩展的 KV 缓存管理器。
LLM学习笔记-2
大学生的博客
04-21 425
假设我们有一个inputs张量，包含了2个训练样本（行）的标记ID。，以下改图，进行阐释了此词汇表的产生。在数学优化中，最大化概率分数的对数比分数值本身更容易，这里介绍一个回归损失函数。，并不是特别理想，在本节中，会用数据进行训练，使得模型更加的好；这次效果比上一节的效果好了很多。其中10.7722称为交叉熵损失。训练阶段(代码整理完后更新)在上节的笔记中，因为。
LMDeploy 量化部署 LLM-VLM 实践——笔记
YYYYbhjbhkv_的博客
04-22 1099
在人工智能领域，模型部署是实现深度学习算法落地应用的关键步骤。简单来说，模型部署就是将训练好的深度学习模型在特定环境中运行的过程。LMDeploy 由 MMDeploy 和 MMRazor 团队联合开发，是涵盖了 LLM 任务的全套轻量化、部署和服务解决方案。核心功能包括高效推理、可靠量化、便捷服务和有状态推理。高效的推理LMDeploy 开发了 Continuous Batch，Blocked K/V Cache，动态拆分和融合，张量并行，高效的计算 kernel 等重要特性。
LLM学习笔记
xingjiu_08的博客
03-28 639
LLMs大致可分为两类：基础LLM(Base LLM)和指令调优LLM(Instruction-Tuned LLM)。● 基础LLM是通过从互联网和其他渠道获得的大量数据进行预训练，可以根据文本训练数据预测下一个单词的基础模型。● 指令调优LLM是在基础LLM之上进一步训练它，根据用户输入的指令(输入)以及回答(输出)的反馈进行优化，让其尽量遵循这些指令，更加符合具体的场景。
大语言模型（LLM）-学习笔记（7.31/8.1）
2301_81822737的博客
08-08 212
1.定义与特点：处理海量文本，多者可具备数百亿参数，理解语言深度，展现涌现能力2.模型大小与性能关系：于小模型架构相似，但参数量级提升带来解决复杂任务的显著优势3.LLM国内外代表：国外有GPT系列、LLaMA等，国内有文心一言、通义千问等，均表现强大4.LLM应用示例：ChatGPT是LLM的对话应用典范，展现出与人类流畅自然的交互能力5.常见的LLM模型：闭源LLM。
【论文阅读】LLM-to-LM Interpreter for Enhanced Text-Attributed Graph Representation Learning
飞跃大海的猪
01-23 1357
本文是对《LLM-to-LM Interpreter for Enhanced Text-Attributed Graph Representation Learning》阅读笔记，本文关键的思想是，解释作为特征。通过提示语言模型去解释他的预测，我们提取相关先验知识和推理步骤，使这些信息能够被较小的模型处理，类似于人类专家如何使用解释来传达见解。
Datawhale llm学习笔记
jfq1211的博客
04-24 466
以智普为例。
Datawhale X 李宏毅苹果书AI夏令营 学习笔记
m0_61049596的博客
08-31 845
今天，我继续学习了深度学习中的优化算法，并且着重理解了如何利用。等高级优化器来提高模型训练的效率和效果。2024年8月30日。
java重点学习-spring
qq_40453972的博客
09-03 628
AOP称为面向切面编程，用于将那些与业务无关，但却对多个对象产生影响的公共行为和逻辑，抽取并封装为一个可重用的模块，这个模块被命名为“切面”(Aspect)，减少系统中的重复代码，降低了模块间的耦合度，同时提高了系统的可维护性。常见的AOP使用场景记录操作日志、●缓存处理Spring中内置的事务处理什么是AOP面向切面编程，用于将那些与业务无关，但却对多个对象产生影响的公共行为和逻辑，抽取公共模块复用，降低耦合你们项目中有没有使用到AOP。
学习项目1
最新发布
m0_62803606的博客
09-03 1381
这篇文章主要记录你最近入手的无线串口模块的配置情况，这是个很好的习惯，尤其是在你以后需要重复操作或排查问题时，会非常有帮助。- **DL_20无线串口模块**：这是一个常见的无线串口通信模块，通常基于nRF24L01+等无线通信芯片，支持点对点或多点通信，适合短距离的无线数据传输。是的，如果你按照步骤成功配置了两个模块并将它们连接到单机和电脑，当你在上位机软件（如SSCOM）上能稳定地接收到从单片机发送的数据（例如每秒输出的T值），就说明两个无线模块之间的通信已经配置成功。
关于HarmonyOS的学习
m0_72035166的博客
08-30 750
1.flex固定定位的特点：脱离文档流，不会占位置；相对于body定位；不区分元素类型；不会随滚动条的滚动而滚动。2.sticky粘性定位的特点：是在固定定位和相对定位之间的一种定位。如果设置了坐标，满足条件，那么他就是固定定位，反之就是相对定位。3.吸顶效果*{margin: 0;padding: 0;main{4.轮播图结构：opacity，表示透明：取值范围0-1 0.1 0.2... 可以省略0不写；
MySQL基础学习
eugene03的博客
08-29 2286
事务是一组操作的集合，它是一个不可分割的工作单位，事务会把所有操作作为一个整体一起向系统提交或者撤掉操作请求，那么这些操作要么同时成功，要么同时失败。笛卡尔积：两个集合 A集合和B集合的所有组合情况（在多表查询时，需要消除无效的笛卡尔积）对于union 查询，就是把多次查询的结果合并起来，行程一个新的查询结果集。相当于查询表1（左表）的所有数据包含表1和表2交集部分的数据。相当于查询表2（右表）的所有数据包含表1和表2交集部分的数据。自连接查询，可以是内连接查询，也可以是外连接查询。
AI实践与学习8-AI Agent Workflow助力解题和验证答案置信度
xiaosi的博客
08-30 799
之前在试着提高解题正确率，目标100%，发现外部知识不足仅依靠大模型的话比较困难。而试题人工生产成本巨大。本质因为大模型生成内容会有幻觉特点，也就是说解答的试题正确性不太好评判，直接解答试题生产场景不太可控。后面考虑调用OpenAI解题的时候，像xxx那样通过输出置信度来帮助判断答案的正确性 or 其他形式只要能保证LLM生成答案是可靠（程序判断）的。
算法的学习笔记—把数字翻译成字符串
业精于勤，荒于嬉
08-31 909
通过动态规划的方法，我们可以高效地计算出一个数字字符串有多少种不同的翻译方法。这个问题不仅考察了我们对动态规划的理解，还让我们熟悉了如何处理字符串中的边界情况和状态转移。希望通过这个例子的讲解，能够帮助你更好地理解动态规划的应用。😁热门专栏推荐想学习vue的可以看看这个java基础合集数据库合集redis合集nginx合集linux合集手写机制微服务组件spring_尘觉springMVCmybit欢迎大家加入我的社区尘觉社区文章到这里就结束了，如果有什么疑问的地方请指出，诸佬们一起来评论区一起讨论
网络编程学习：TCP/IP协议
kkbbaaii的博客
09-01 1433
网络编程学习：TCP/IP协议
LLM-RAG是什么
07-02
LLM-RAG是“Large Language Model with Retrieval Augmentation”（大型语言模型与检索增强）的缩写。这是一种结合了大型预训练语言模型（如通义千问）和基于检索的方法的技术。在传统的语言模型中，模型完全依赖于...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值