- 博客(2)
- 收藏
- 关注
RSS订阅原创 datawhale llm第二章学习笔记
system prompt：在整个会话过程中持久地影响模型的回复的prompt，一般设置 System Prompt 来对模型进行一些初始化设定。temperature：控制 LLM 生成结果的随机性与创造性的参数，搭建个人知识助手项目时，一般为了稳定匹配答案，设置为0。2.寻求结构化的输出，指按照某种格式组织的内容，例如 JSON、HTML 等（某些格式方便后续代码处理）prompt：研究者为下游任务设计出来的一种任务专属的输入模板，回答叫做completion。1.使用分隔符清晰地表示输入的不同部分。
2024-04-19 17:06:16
199
1
原创 datawhale llm第一章学习笔记
大语言模型开发更多的是调用api或者是开源模型来实现核心的理解和生成，所以更多的是一个工程问题，我们在开发过程中一般不会大幅度改变模型本身，而是把大模型当工具，通过提示词工程、数据工程等适配我们的任务。预训练和微调后的大模型可能任然存在许多不足，如会出现幻觉等，导致答案不准确，可用rag（检索式信息增强），这是一种新的模型架构：构建数据库，用从数据库中检索到的信息，以此为基础，指导大模型生成答案。然后发现我的pycharm是社区版的，用不了，还是用的vscode，运行成功了！
2024-04-16 15:17:09
235
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人