【AI大模型实战】llm-action：让天下没有难学的大模型

于 2025-03-15 08:00:00 发布
阅读量1k 收藏 28
点赞数 21
文章标签： 人工智能 语言模型 AI大模型 agi ai LLM 大模型实战
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/youngone2333/article/details/146264650
版权

目录

  • 🔥 LLM训练

  • 🐫 LLM训练实战

  • 🐼 LLM参数高效微调技术原理综述

  • 🐰 LLM参数高效微调技术实战

  • 🐘 LLM分布式训练并行技术

  • 🌋 分布式AI框架

  • 📡 分布式训练网络通信

  • 🐎 LLM推理

  • 🚀 LLM推理框架

  • ✈️ LLM推理优化技术

  • ♻️ LLM压缩

  • 📐 LLM量化

  • 🔰 LLM剪枝

  • 💹 LLM知识蒸馏

  • ♑️ 低秩分解

  • ♍️ LLM算法架构

  • 🧩 LLM应用开发

  • 🀄️ LLM国产化适配

  • 🔯 AI编译器

  • 🔘 AI基础设施

  • 💟 LLMOps

  • 🍄 LLM生态相关技术

  • 🔨 服务器基础环境安装及常用工具

  • 💬 LLM学习交流群

LLM训练

LLM训练实战

下面汇总了我在大模型实践中训练相关的所有教程。从6B到65B，从全量微调到高效微调（LoRA，QLoRA，P-Tuning v2），再到RLHF（基于人工反馈的强化学习）。

LLM预训练/SFT/RLHF…参数教程代码
Alpacafull fine-turning7B从0到1复现斯坦福羊驼（Stanford Alpaca 7B）配套代码
Alpaca(LLaMA)LoRA7B~65B1.足够惊艳，使用Alpaca-Lora基于LLaMA(7B)二十分钟完成微调，效果比肩斯坦福羊驼
  1. 使用 LoRA 技术对 LLaMA 65B 大模型进行微调及推理 | 配套代码 |
    | BELLE(LLaMA/Bloom) | full fine-turning | 7B | 1.基于LLaMA-7B/Bloomz-7B1-mt复现开源中文对话大模型BELLE及GPTQ量化
  2. BELLE(LLaMA-7B/Bloomz-7B1-mt)大模型使用GPTQ量化后推理性能测试 | N/A |
    | ChatGLM | LoRA | 6B | 从0到1基于ChatGLM-6B使用LoRA进行参数高效微调 | 配套代码 |
    | ChatGLM | full fine-turning/P-Tuning v2 | 6B | 使用DeepSpeed/P-Tuning v2对ChatGLM-6B进行微调 | 配套代码 |
    | Vicuna(LLaMA) | full fine-turning | 7B | 大模型也内卷，Vicuna训练及推理指南，效果碾压斯坦福羊驼 | N/A |
    | OPT | RLHF | 0.1B~66B | 1.一键式 RLHF 训练 DeepSpeed Chat（一）：理论篇
    2. 一键式 RLHF 训练 DeepSpeed Chat（二）：实践篇 | 配套代码 |
    | MiniGPT-4(LLaMA) | full fine-turning | 7B | 大杀器，多模态大模型MiniGPT-4入坑指南 | N/A |
    | Chinese-LLaMA-Alpaca(LLaMA) | LoRA（预训练+微调） | 7B | 中文LLaMA&Alpaca大语言模型词表扩充+预训练+指令精调 | 配套代码 |
    | LLaMA | QLoRA | 7B/65B | 高效微调技术QLoRA实战，基于LLaMA-65B微调仅需48G显存，真香 | 配套代码 |

LLM微调技术原理

对于普通大众来说，进行大模型的预训练或者全量微调遥不可及。由此，催生了各种参数高效微调技术，让科研人员或者普通开发者有机会尝试微调大模型。

因此，该技术值得我们进行深入分析其背后的机理，本系列大体分七篇文章进行讲解。

  • 大模型参数高效微调技术原理综述（一）-背景、参数高效微调简介

  • 大模型参数高效微调技术原理综述（二）-BitFit、Prefix Tuning、Prompt Tuning

  • 大模型参数高效微调技术原理综述（三）-P-Tuning、P-Tuning v2

  • 大模型参数高效微调技术原理综述（四）-Adapter Tuning及其变体

  • 大模型参数高效微调技术原理综述（五）-LoRA、AdaLoRA、QLoRA

  • 大模型参数高效微调技术原理综述（六）-MAM Adapter、UniPELT

  • 大模型参数高效微调技术原理综述（七）-最佳实践、总结

LLM微调实战

下面给大家分享大模型参数高效微调技术实战，该系列主要针对 HuggingFace PEFT 框架支持的一些高效微调技术进行讲解。

教程代码框架
大模型参数高效微调技术实战（一）-PEFT概述及环境搭建N/AHuggingFace PEFT
大模型参数高效微调技术实战（二）-Prompt Tuning配套代码HuggingFace PEFT
大模型参数高效微调技术实战（三）-P-Tuning配套代码HuggingFace PEFT
大模型参数高效微调技术实战（四）-Prefix Tuning / P-Tuning v2配套代码HuggingFace PEFT
大模型参数高效微调技术实战（五）-LoRA配套代码HuggingFace PEFT
大模型参数高效微调技术实战（六）-IA3配套代码HuggingFace PEFT
大模型微调实战（七）-基于LoRA微调多模态大模型配套代码HuggingFace PEFT
大模型微调实战（八）-使用INT8/FP4/NF4微调大模型配套代码PEFT、bitsandbytes

LLM分布式训练并行技术

近年来，随着Transformer、MOE架构的提出，使得深度学习模型轻松突破上万亿规模参数，传统的单机单卡模式已经无法满足超大模型进行训练的要求。因此，我们需要基于单机多卡、甚至是多机多卡进行分布式大模型的训练。

而利用AI集群，使深度学习算法更好地从大量数据中高效地训练出性能优良的大模型是分布式机器学习的首要目标。为了实现该目标，一般需要根据硬件资源与数据/模型规模的匹配情况，考虑对计算任务、训练数据和模型进行划分，从而进行分布式训练。因此，分布式训练相关技术值得我们进行深入分析其背后的机理。

下面主要对大模型进行分布式训练的并行技术进行讲解，本系列大体分九篇文章进行讲解。

  • 大模型分布式训练并行技术（一）-概述

  • 大模型分布式训练并行技术（二）-数据并行

  • 大模型分布式训练并行技术（三）-流水线并行

  • 大模型分布式训练并行技术（四）-张量并行

  • 大模型分布式训练并行技术（五）-序列并行

  • 大模型分布式训练并行技术（六）-多维混合并行

  • 大模型分布式训练并行技术（七）-自动并行

  • 大模型分布式训练并行技术（八）-MOE并行

  • 大模型分布式训练并行技术（九）-总结

分布式AI框架

  • PyTorch

  • PyTorch 单机多卡训练

  • PyTorch 多机多卡训练

  • Megatron-LM

  • Megatron-LM 单机多卡训练

  • Megatron-LM 多机多卡训练

  • 基于Megatron-LM从0到1完成GPT2模型预训练、模型评估及推理

  • DeepSpeed

  • DeepSpeed 单机多卡训练

  • DeepSpeed 多机多卡训练

  • Megatron-DeepSpeed

  • 基于 Megatron-DeepSpeed 从 0 到1 完成 LLaMA 预训练

  • 基于 Megatron-DeepSpeed 从 0 到1 完成 Bloom 预训练

分布式训练网络通信

待更新…

LLM推理

LLM推理框架

  • 大模型推理框架概述

  • 大模型的好伙伴，浅析推理加速引擎FasterTransformer

  • 模型推理服务化框架Triton保姆式教程（一）：快速入门

  • 模型推理服务化框架Triton保姆式教程（二）：架构解析

  • 模型推理服务化框架Triton保姆式教程（三）：开发实践

  • TensorRT-LLM保姆级教程（一）-快速入门

  • TensorRT-LLM保姆级教程（二）-开发实践

  • TensorRT-LLM保姆级教程（三）-基于Triton完成模型服务化

  • TensorRT-LLM保姆级教程（四）-新模型适配

  • TensorRT

LLM推理优化技术

  • LLM推理优化技术概述

  • PageAttention

  • FlashAttention

LLM压缩

近年来，随着Transformer、MOE架构的提出，使得深度学习模型轻松突破上万亿规模参数，从而导致模型变得越来越大，因此，我们需要一些大模型压缩技术来降低模型部署的成本，并提升模型的推理性能。模型压缩主要分为如下几类：

  • 剪枝（Pruning）

  • 知识蒸馏（Knowledge Distillation）

  • 量化

LLM量化

本系列将针对一些常见大模型量化方案（GPTQ、LLM.int8()、SmoothQuant、AWQ等）进行讲述。

  • 大模型量化概述

  • 量化感知训练：

  • 大模型量化感知训练技术原理：LLM-QAT

  • 大模型量化感知微调技术原理：QLoRA

  • PEQA

  • 训练后量化：

  • 大模型量化技术原理：GPTQ、LLM.int8()

  • 大模型量化技术原理：SmoothQuant

  • 大模型量化技术原理：AWQ、AutoAWQ

  • 大模型量化技术原理：SpQR

  • 大模型量化技术原理：ZeroQuant系列

  • 大模型量化技术原理：总结

LLM剪枝

结构化剪枝：

  • LLM-Pruner

非结构化剪枝：

  • SparseGPT

  • LoRAPrune

  • Wanda

LLM知识蒸馏

  • 大模型知识蒸馏概述

Standard KD:

使学生模型学习教师模型(LLM)所拥有的常见知识，如输出分布和特征信息，这种方法类似于传统的KD。

  • MINILLM

  • GKD

EA-based KD:

不仅仅是将LLM的常见知识转移到学生模型中，还涵盖了蒸馏它们独特的涌现能力。具体来说，EA-based KD又分为了上下文学习（ICL）、思维链（CoT）和指令跟随（IF）。

In-Context Learning：

  • In-Context Learning distillation

Chain-of-Thought：

  • MT-COT

  • Fine-tune-CoT

  • DISCO

  • SCOTT

  • SOCRATIC CoT

Instruction Following：

  • Lion

低秩分解

低秩分解旨在通过将给定的权重矩阵分解成两个或多个较小维度的矩阵，从而对其进行近似。低秩分解背后的核心思想是找到一个大的权重矩阵W的分解，得到两个矩阵U和V，使得W≈U V，其中U是一个m×k矩阵，V是一个k×n矩阵，其中k远小于m和n。U和V的乘积近似于原始的权重矩阵，从而大幅减少了参数数量和计算开销。

在LLM研究的模型压缩领域，研究人员通常将多种技术与低秩分解相结合，包括修剪、量化等。

  • ZeroQuant-FP（低秩分解+量化）

  • LoRAPrune（低秩分解+剪枝）

LLM算法架构

  • 大模型算法演进

  • ChatGLM / ChatGLM2 / ChatGLM3 大模型解析

  • Bloom 大模型解析

  • LLaMA / LLaMA2 大模型解析

  • 百川智能开源大模型baichuan-7B技术剖析

  • 百川智能开源大模型baichuan-13B技术剖析

LLM应用开发

大模型是基座，要想让其变成一款产品，我们还需要一些其他相关的技术，比如：向量数据库（Pinecone、Milvus、Vespa、Weaviate），LangChain等。

  • 云原生向量数据库Milvus（一）-简述、系统架构及应用场景

  • 云原生向量数据库Milvus（二）-数据与索引的处理流程、索引类型及Schema

  • 关于大模型驱动的AI智能体Agent的一些思考

LLM国产化适配

随着 ChatGPT 的现象级走红，引领了AI大模型时代的变革，从而导致 AI 算力日益紧缺。与此同时，中美贸易战以及美国对华进行AI芯片相关的制裁导致 AI 算力的国产化适配势在必行。本系列将对一些国产化 AI 加速卡进行讲解。

  • 大模型国产化适配1-华为昇腾AI全栈软硬件平台总结

  • 大模型国产化适配2-基于昇腾910使用ChatGLM-6B进行模型推理

  • 大模型国产化适配3-基于昇腾910使用ChatGLM-6B进行模型训练

  • 大模型国产化适配4-基于昇腾910使用LLaMA-13B进行多机多卡训练

  • 大模型国产化适配5-百度飞浆PaddleNLP大语言模型工具链总结

  • 大模型国产化适配6-基于昇腾910B快速验证ChatGLM3-6B/BaiChuan2-7B模型推理

AI编译器

AI编译器是指将机器学习算法从开发阶段，通过变换和优化算法，使其变成部署状态。

  • AI编译器技术剖析（一）-概述

  • AI编译器技术剖析（二）-传统编译器

  • AI编译器技术剖析（三）-树模型编译工具 Treelite 详解

  • AI编译器技术剖析（四）-编译器前端

  • AI编译器技术剖析（五）-编译器后端

  • AI编译器技术剖析（六）-主流编译框架

  • AI编译器技术剖析（七）-深度学习模型编译优化

  • lleaves：使用 LLVM 编译梯度提升决策树将预测速度提升10+倍

框架：

  • MLIR

  • XLA

  • TVM

AI基础设施

  • AI 集群基础设施 NVMe SSD 详解

  • AI 集群基础设施 InfiniBand 详解

  • 大模型训练基础设施：算力篇

AI加速卡

  • AI芯片技术原理剖析（一）：国内外AI芯片概述

  • AI芯片技术原理剖析（二）：英伟达GPU

  • AI芯片技术原理剖析（三）：谷歌TPU

AI集群

待更新…

AI集群网络通信

待更新…

  • 分布式训练网络通讯原语

  • AI 集群通信软硬件

LLMOps

  • 在 Kubernetes 上部署机器学习模型的指南

  • 使用 Kubernetes 部署机器学习模型的优势

LLM生态相关技术

  • 大模型词表扩充必备工具SentencePiece

  • 大模型实践总结

  • ChatGLM 和 ChatGPT 的技术区别在哪里？

  • 现在为什么那么多人以清华大学的ChatGLM-6B为基座进行试验？

  • 为什么很多新发布的大模型默认使用BF16而不是FP16？

  • LESS：仅选择5%有影响力的数据优于全量数据集进行目标指令微调

服务器基础环境安装及常用工具

基础环境安装：

  • 英伟达A800加速卡常见软件包安装命令

  • 英伟达H800加速卡常见软件包安装命令

  • 昇腾910加速卡常见软件包安装命令

常用工具：

  • Linux 常见命令大全

  • Conda 常用命令大全

  • Poetry 常用命令大全

  • Docker 常用命令大全

  • Docker Dockerfile 指令大全

  • Kubernetes 常用命令大全

  • 集群环境 GPU 管理和监控工具 DCGM 常用命令大全

最后的最后

感谢你们的阅读和喜欢，作为一位在一线互联网行业奋斗多年的老兵，我深知在这个瞬息万变的技术领域中，持续学习和进步的重要性。

为了帮助更多热爱技术、渴望成长的朋友，我特别整理了一份涵盖大模型领域的宝贵资料集。

这些资料不仅是我多年积累的心血结晶，也是我在行业一线实战经验的总结。

这些学习资料不仅深入浅出，而且非常实用，让大家系统而高效地掌握AI大模型的各个知识点。如果你愿意花时间沉下心来学习，相信它们一定能为你提供实质性的帮助。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

大模型知识脑图

为了成为更好的 AI大模型 开发者，这里为大家提供了总的路线图。它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。
在这里插入图片描述

经典书籍阅读

阅读AI大模型经典书籍可以帮助读者提高技术水平，开拓视野，掌握核心技术，提高解决问题的能力，同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说，阅读经典书籍是非常有必要的。

在这里插入图片描述

实战案例

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

在这里插入图片描述

面试资料

我们学习AI大模型必然是想找到高薪的工作，下面这些面试题都是总结当前最新、最热、最高频的面试题，并且每道题都有详细的答案，面试前刷完这套面试题资料，小小offer，不在话下

在这里插入图片描述

640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

在这里插入图片描述

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

初识langchain[1]：Langchain实战教学，利用qwen2.1与GLM-4大模型构建智能解决方案[含Agent、tavily面向AI搜索]
丨汀、的博客
07-16 2022
初识langchain[1]：Langchain实战教学，利用qwen2.1与GLM-4大模型构建智能解决方案[含Agent]
LLM大模型技术实战8：以AI Agent重塑人机交互，探索LLM落地新场景
2401_84495872的博客
05-06 3897
在LLM语境下，Agent可以理解为某种能自主理解、规划决策、执行复杂任务的智能体。它使用大型语言模型（LLM）作为其核心计算引擎，使其能够进行对话、执行任务、推理并展现一定程度的自主性。简而言之，Agent是一个具有复杂推理能力、记忆和执行任务手段的系统。Agent并非ChatGPT升级版，它不仅告诉你“如何做”，更会帮你去做。如果CoPilot是副驾驶，那么Agent就是主驾驶。一个精简的Agent决策流程，用函数表达式：Agent：P（感知）—> P（规划）—>A（行动）
告别人工智能韭菜课，来GitHub免费学大模型
IT大头的博客
03-19 962
现在网络上各种卖课的真是太多了，而且大多都是垃圾内容，所以大家一定要认真辨别。对于像LLM这类的内容，在GitHub或者开放途径是有着大量学习资料，完全没有必要花钱买。如果你说你不想阅读，就想听人给你讲，那就没法子了。
LLM大模型入门教程：llm-action：让天下没有难学的大模型
2401_82469710的博客
06-27 1357
今天给大家推荐这个大模型入门学习项目，实在是太香了太香了，目前该项目已经超过1100星，具体的文章分类如下所示。
探索LLM Action：高效能自动化工作流解决方案
gitblog_00043的博客
03-21 632
探索LLM Action：高效能自动化工作流解决方案 llm-action本项目旨在分享大模型相关技术原理以及实战经验。项目地址:https://gitcode.com/gh_mirrors/ll/llm-action 在如今的数据驱动和自动化时代， 是一款强大的工具，旨在帮助开发者和团队更轻松地实现自动化工作流程。它是一个基于GitHub Actions的开源项目，由liguodongiot贡...
llm-action：让天下没有难学的大模型
最新发布
2401_85325557的博客
08-09 1085
低秩分解背后的核心思想是找到一个大的权重矩阵W的分解，得到两个矩阵U和V，使得W≈U V，其中U是一个m×k矩阵，V是一个k×n矩阵，其中k远小于m和n。近年来，随着Transformer、MOE架构的提出，使得深度学习模型轻松突破上万亿规模参数，从而导致模型变得越来越大，因此，我们需要一些大模型压缩技术来降低模型部署的成本，并提升模型的推理性能。近年来，随着Transformer、MOE架构的提出，使得深度学习模型轻松突破上万亿规模参数，传统的单机单卡模式已经无法满足超大模型进行训练的要求。
开源项目 `llm-action` 使用教程
gitblog_00460的博客
08-09 493
开源项目 llm-action 使用教程 llm-action本项目旨在分享大模型相关技术原理以及实战经验。项目地址:https://gitcode.com/gh_mirrors/ll/llm-action 1. 项目的目录结构及介绍 llm-action/ ├── README.md ├── LICENSE ├── requirements.txt ├── setup.py ├── src/ ...
大语言模型的具身化——LLM-based Agents实战
m0_74254932的博客
06-13 1990
长期以来，研究者们一直在追求与人类相当、乃至超越人类水平的通用人工智能（Artificial General Intelligence，AGI）。早在 1950 年代，Alan Turing 就将「智能」的概念扩展到了人工实体，并提出了著名的图灵测试。这些人工智能实体通常被称为 —— 代理（Agent）。「代理」这一概念起源于哲学，描述了一种拥有欲望、信念、意图以及采取行动能力的实体。在人工智能领域，这一术语被赋予了一层新的含义：具有自主性、反应性、积极性和社交能力特征的智能实体。
LLM大模型落地-从理论到实践
m0_70839135的博客
07-11 1185
按个人偏好和目标总结了学习目标和路径（可按需学习），后续将陆续整理出相应学习资料和资源。
初识langchain：LLM大模型+Langchain实战[qwen2.1、GLM-4]+Prompt工程
lhx17673139267的博客
07-22 1775
模型编码：glm-4-0520、glm-4 、glm-4-air、glm-4-airx、 glm-4-flash，根据输入的自然语言指令完成多种语言类任务，推荐使用 SSE 或异步调用方式请求接口场景示例模型广场官网大模型开源 glm-4-9b 简单介绍GLM-4-9B 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。在语义、数学、推理、代码和知识等多方面的数据集测评中，GLM-4-9B 及其人类偏好对齐的版本 GLM-4-9B-Chat 均表现出较高的性能。
AI大模型开发架构设计（1）——LLM大模型Agent剖析和应用案例实战
yangwei2048的博客
01-20 4861
LLM Agent 可以理解为一个以 LLM 为大脑的智能体(类比人)，集成了规划、记忆、工具使用等能力。当“记忆”非常多时，如何在大量“记忆”力快速找到最相关的那些“记忆”?Auto-GPT 的效果很大程度上归功于它复杂的。工具使用能力-function calling。工具使用能力-HuggingGPT。Auto-GPT 的主要框架设计。CoT任务拆解的缺陷是什么？LLM和传统规划方式结合。Auto-GPT 的输出。LLM + 向量数据库。LLM的记忆是什么？
探索云原生的智慧之光：LLMs in Action 深度解析
gitblog_00005的博客
08-06 773
探索云原生的智慧之光：LLMs in Action 深度解析 llm-in-action???? Discover how to apply your LLM app skills on Kubernetes!项目地址:https://gitcode.com/gh_mirrors/ll/llm-in-action 在当今的数字化时代，人工智能与云计算的融合正以前所未有的速度推动着技术创新。今天，我们将...
LLM下半场之Agent基础能力概述：Profile、Memory、Plan、Action、Eval学习笔记
weixin_40920183的博客
11-13 437
一.Agent发展将会是LLM的下半场目前大家都在讨论LLM，LLM解决的问题是帮助机器像人类一样理解彼此的意图，本质上来讲，LLM更像是一个技术或者工具。但是人类社会发生变革的引线，往往是一个产品或者解决方案，比如电池技术的发展带来了长续航，但是真正改变大家生活的是电动车这样一个产品。Agent的概念是创造一个个场景的智能体，可以在某些领域，比如在社会分析、电商导购、工业制造方面提供解决方案。L...
开源项目 llm-in-action 使用教程
gitblog_01132的博客
08-07 479
开源项目 llm-in-action 使用教程 llm-in-action???? Discover how to apply your LLM app skills on Kubernetes!项目地址:https://gitcode.com/gh_mirrors/ll/llm-in-action 1. 项目的目录结构及介绍 llm-in-action/ ├── README.md ├── LICE...
用git下载hugging face上的大模型，以Qwen1.5-7B为例
tortorish的博客
06-04 1098
用git下载hugging face上的大模型，以Qwen1.5-7B为例
火爆全网的大模型教程：从零开始构建大语言模型，git突破18K标星
huang9604的博客
06-19 951
大家了解过llm的应该都知道，大模型就意味着大算力，但是这本书的作者考虑到很多同学算力有限，所以这本书的一切操作都是可以在笔记本上实现的（而且不用花很长时间），不说了1050直接申请出战！但是这本书的Github仓库里没有PDF，我也是找了很久才找到了PDF版本，大家可以看到现在还是早期版本，模型微调章节还没更新完。通过本书，大家不仅可以掌握 LLM 的理论知识，还能通过动手实践，学习如何从头构建一个功能强大的语言模型。解释了如何在特定任务或领域的数据上微调预训练的模型，以提升其在特定应用中的表现。
开源教程「动手学大模型应用开发」，从零基础到掌握大模型开发的关键技能！
2401_84495872的博客
05-10 1297
动手学大模型应用开发」是一个面向小白开发者的大模型应用开发教程，以个人知识库助手项目为实践目标，通过这个项目完成大模型开发的重点入门。大模型简介，何为大模型、大模型特点是什么、LangChain 是什么，针对小白开发者的简单介绍；如何调用大模型 API，本节介绍了国内外知名大模型产品 API 的多种调用方式，包括调用原生 API、封装为 LangChain LLM、封装为 Fastapi 等调用方式，同时将包括百度文心、讯飞星火、智谱AI等多种大模型 API 进行了统一形式封装；
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值