本篇所出现的术语
-
LLM(Large Language Model)
大语言模型,也称“大模型”
-
Prompt(提示词)
目前新出一个岗位叫“Prompt Engineer”
-
Vector Database(向量数据库)
-
Embedding(帮助模型理解语义关系)
用于将高维度的数据(如单词、短语、句子等)转换为低维度的向量,将数据的抽象和复杂度降低,使得机器学习模型能够更有效理解和处理数据。
大语言模型“们”
大语言模型 | 官方 | 产品 | 官网 |
GPT | OpenAI | ChatGPT | https://chat.openai.com |
Gemini | Google Bard | https://gemini.google.com | |
文心 | 百度 | 文心一言 | https://yiyan.baidu.com |
Moonshot | 月之暗面 | Kimi Chat | https://kimi.moonshot.cn |
星火 | 讯飞 | 讯飞星火 | https://xinghuo.xfyun.cn |
ChatGLM | 智谱清言 | 智谱清言 | https://chatglm.cn |
ABAB | 星野 | MiniMax | https://www.xingyeai.com |
当前最火的还是GPT,其他大语言模型只能是望其项背
大模型算法“们”
算法 | 设计者 | 官网 |
Transformer | https://blog.research.google/2017/08/transformer-novel-neural-network.html | |
RWKV | 彭博 | https://www.rwkv.com |
Mamba | CMU&Princeton University | https://mamba.readthedocs.io |
算法性能从上到下越来越好,但当前最流行的还是Transformer
科比曾说过“Black Mamba” (不知Manmba算法模型的起名与科比这句话是否有关联🤔)
大模型应用开发
业务架构
技术架构
-
纯Prompt(套壳~纯对话)
-
Agent + Function Calling
-
Embeddings + Vector Database
-
Fine-tuning(微调)
下一篇,将介绍Prompt相关知识,敬请期待。