Datawhale llm-universe Task1 大模型简介

最新推荐文章于 2024-07-29 20:15:17 发布
最新推荐文章于 2024-07-29 20:15:17 发布
阅读量189 收藏
点赞数 1
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_46231296/article/details/134374194
版权

intro to LLM

  • 大模型发展路线图
    请添加图片描述
  • 做了个导图简单汇总 开源和闭源大模型
    请添加图片描述

intro to langchain

langchain 架构图

找到了一张很好的图，清晰地说明了langchain的六个核心模块分别是干啥的，以及相互怎么交互
请添加图片描述

相关的链接 Modules | 🦜️🔗 Langchain
下面我依据图来做一个langchain架构的解析
6 个核心模块组成:

  • （Model I/O）：以prompt来处理LLM的输入(模板template等)和输出(调整格式)
  • （Data connection）：从网络or向量数据库中检索文本并分割成小块(LLM处理长度有限)
  • （Chains）：Let LLM process step by step. 如此可以形成流水线，加快效率
  • （Memory）：主要用于维护LLM的短期记忆(其实就是上下文状态)
  • （Agents）：最早应该是起源于论文ReAct，让LLM在文字推理中学会调用一下外部api (感兴趣的可以看之后的文章，toolformer和graph-toolformer等)
  • （Callbacks）：跟踪大模型的状态等，例如其参数verbose就是对应一个回调函数
₍₍Ϡ(੭•̀ω•́)੭✧⃛.
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
动手学大模型应用开发第一章：大模型简介
raulyy7777的博客
04-17 1033
本文内容来自 https://datawhalechina.github.io/llm-universeLarge Language Model ， 简称 LLM，也称大语言模型，是一种旨在理解和生成人类语言的人工智能模型。LLM 通常指包含数百亿（或更多）参数的语言模型，它们在海量的文本数据上进行训练，从而获得对语言深层次的理解。目前，国外的知名 LLM 有 GPT-3.5、GPT-4、PaLM、Claude 和 LLaMA 等，国内的有文心一言、讯飞星火、通义千问、ChatGLM、百川等。
【4月组队学习-llm-universe笔记】 0基础小白 RAG应用开发实践笔记
valeriez04的博客
04-18 724
基于Langchain的检索增强生成的应用开发学习笔记——datawhale四月组队学习
llm-universe学习小记录5--系统评估与优化
Adela0546的博客
04-26 1073
介绍了如何评估LLM应用、评估并优化生成部分、评估并优化检索部分
2024钉钉杯A题思路详解
全栈川川
07-26 1675
2024钉钉杯思路
常见的文心一言的指令
知码客
07-25 1371
文心一言，作为百度研发的预训练语言模型“ERNIE 3.0”的一项功能，能够与人对话互动，回答问题，协助创作，高效便捷地帮助人们获取信息、知识和灵感。
全面解析 SnowNLP：中文文本处理、情感分析
有勇气的牛排博客
07-24 599
SnowNLP 是一个专门用于处理中文文本的 Python库。分词情感分析关键词提取文本分类拼音转换繁体转简体词相似度计算等测试环境：Python3.10.9尚未测出该功能text = "有勇气的牛排写的文章通俗易懂，爱了爱了"文本分类使用的是 SnowNLP 的情感分析模型。
昇思25天学习打卡营第1天|快速入门
07-28 230
昇思大模型平台是一个集算法选型、创意分享、模型实验和大模型在线体验为一体的AI学习与实践社区，而且还内置了AI实验室，它覆盖多领域任务，体验全流程开发，支持用户在线训练和推理可视化，可创建自己的项目空间对待开发者很友好，提供云上开发环境，无需配置环境，既可灵活调试运行代码，每天免费使用8个小时。
AI智能技术驱动安全生产：智慧矿山视频智能监管新篇章
TSINGSEE青犀视频官方技术博客
07-26 699
当识别到有人员未按照要求穿戴安全帽、反光背心/工服时，将立即抓拍，并将告警信息上传到平台。
重塑生态体系 深挖应用场景 萤石诠释AI时代智慧生活新图景
07-25 1244
从“1+4+N”自然进化到“2+5+N”产品生态体系，萤石十年来不断迭代、不断升级，为家居生活带来更智慧的交互、更丰富的场景，萤石的下一个十年值得期待。来自全国各地的萤石合作伙伴、行业从业者及相关媒体，共聚杭州，共同见证拥抱AI的萤石，将如何全新升级，AI加持下的智慧生活又有何不同。用户只需轻轻抬起手腕，即可实现对家中智能设备的远程操控，如智能门锁可视对讲、安全警报的查看以及智能场景的控制等，极大地提升了生活的便捷性与智能化水平。，确保了数据的安全性，为用户提供更快、更便捷、更安全的家庭存储新选择。
安卓手机部署大模型实战
奇舞周刊
07-25 834
本文作者系360奇舞团前端开发工程师前言自ChatGPT发布以来，大语言模型（Large language model, LLM)就成了AI乃至整个计算机科学的话题中心。学术界，工业界围绕大语言模型本身及其应用展开了广泛的讨论，大量的新的实践层出不穷。由于LLM对计算资源的需求极大，有能力部署大语言模型的公司和实验室一般通过搭建集群，然后开放API或者网页demo的方式让用户可以使用模型。在人们纷...
线性代数|机器学习-P26随机梯度下降
scar2016的博客
07-25 1182
122121212。
MOE模式：或将是最好的大模型应用开发路径
AI相关从业分享
07-28 380
MOE（Mixture of Experts，混合专家）是一种机器学习模型架构，旨在通过结合多个专家网络来提高模型的性能和泛化能力。以下是传统模型和大模型中MOE模式的相关介绍及其优势。传统模型中的MOEGate网络：决定输入数据应该被路由到哪一个专家网络。Gate网络可以根据输入数据的特征来动态分配数据。Expert网络：一系列专门的网络，每个网络都是针对特定数据分布进行训练的。Expert网络可以是对特定问题有深入理解的小模型。组合层：将所有Expert网络的输出进行组合，形成最终的预测结果。
【Week-G5】适用于图像翻译的pix2pix模型-Pytorch版本
qq_40724911的博客
07-24 698
本次主要学习Pix2Pix网络，常用于图像翻译，它的核心技术包括三点：（1）基于CGAN的损失函数：通过DropOut在生成模型中引入随机噪声z（2）基于U-Net的生成器：包含编码-解码结构，可以学习浅层到深层的特征（3）基于PatchGAN的判别器：输入图像被划分成块（Patch）
【Python数据增强】图像数据集扩充
阿齐Archie
07-25 1932
该脚本用于图像数据增强，特别是目标检测任务中的图像和标签数据增强。通过应用一系列数据增强技术（如旋转、平移、裁剪、加噪声、改变亮度、cutout、翻转等），生成多样化的图像数据集，以提高目标检测模型的鲁棒性和准确性。
【Python】 基于Q-learning 强化学习的贪吃蛇游戏（源码+论文）【独一无二】
测试开发自动化
07-26 1474
贪吃蛇环境模块：定义了游戏规则、状态空间、动作空间，并实现了环境的重置和步进逻辑。Q-learning 算法代理模块：实现了 Q-learning 算法，用于学习和决策游戏中的动作选择。游戏窗口模块：使用 Tkinter 创建图形界面展示游戏过程，并与环境和 Q-learning 代理进行交互。该设计使得贪吃蛇游戏能够通过强化学习算法进行自动训练，并通过图形界面展示训练过程。👉👉👉 源码获取 关注【测试开发自动化】公众号，回复 “ 强化贪吃蛇 ” 获取，拿来即用。👈👈👈。
＜数据集＞手机识别数据集＜目标检测＞
最新发布
qq_53332949的博客
07-29 37
YOLO与VOC格式的人员持有手机识别数据集，适用于YOLO系列、Faster Rcnn、SSD等模型训练，图片数量16172
76.WEB渗透测试-信息收集- WAF、框架组件识别（16）
计算机王的博客
07-24 349
web渗透测试，信息收集，框架组件识别
大模型算法面试题（十三）
m0_63997552的博客
07-26 653
需要注意的是，随着技术的发展和研究的深入，预训练和微调的方法也在不断演进。综上所述，指令微调是一种在大模型基础上进行个性化调整和优化的有效方法，它不仅能够提升模型在特定任务上的性能，还能够控制模型行为、提高数据效率和训练效率，同时增强模型的可控性和用户满意度。例如，在自然语言处理（NLP）任务中，如果模型需要处理大量特定领域的文本数据，一个丰富而准确的词表能够显著提升模型的性能。多轮对话任务的模型微调是一个复杂但重要的过程，它旨在通过调整预训练模型的参数来优化模型在特定多轮对话任务上的表现。
扫地机器人离线语音识别芯片，工业级智能交互ic，NRK3301
jiuxindianzi的博客
07-25 378
NRK3301离线语音识别芯片，高性能低成本，支持5米远场识别，精准降噪，兼容多种音频格式，满足智能家居扫地机器人等设备的离线语音需求。
llama-factory llm - lora 模型合并与保存
11-18
llama-factory是一个用于深度学习模型开发和训练的开源库，它提供了各种工具和功能来简化模型开发的流程。在llama-factory中，llm和lora是两种常用的模型类型，它们分别代表了不同的深度学习模型架构。 要合并llm和lora模型，首先需要确保它们具有相同的输入和输出形状。然后可以使用llama-factory提供的模型合并工具来将它们合并成一个新的模型。在合并的过程中，需要考虑到每个模型的权重和参数，确保它们能够正确地融合在一起。 一旦模型合并完成，就可以使用llama-factory提供的模型保存功能将新模型保存到硬盘上。保存模型时，可以选择不同的格式和配置来满足不同的需求，比如选择不同的压缩算法或者保存为不同的文件类型。保存模型的同时，还可以保存模型的元数据和其他相关信息，以便在以后能够方便地加载和使用模型。 总的来说，llama-factory提供了一整套完善的工具和功能来处理深度学习模型的合并和保存。通过合并和保存模型，开发者可以更方便地管理和使用复杂的深度学习模型，从而加快模型开发和部署的速度。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值