- 博客(2)
- 收藏
- 关注
原创 datawhale llm第二章学习笔记
system prompt:在整个会话过程中持久地影响模型的回复的prompt,一般设置 System Prompt 来对模型进行一些初始化设定。temperature:控制 LLM 生成结果的随机性与创造性的参数,搭建个人知识助手项目时,一般为了稳定匹配答案,设置为0。2.寻求结构化的输出,指按照某种格式组织的内容,例如 JSON、HTML 等(某些格式方便后续代码处理)prompt:研究者为下游任务设计出来的一种任务专属的输入模板,回答叫做completion。1.使用分隔符清晰地表示输入的不同部分。
2024-04-19 17:06:16
199
1
原创 datawhale llm第一章学习笔记
大语言模型开发更多的是调用api或者是开源模型来实现核心的理解和生成,所以更多的是一个工程问题,我们在开发过程中一般不会大幅度改变模型本身,而是把大模型当工具,通过提示词工程、数据工程等适配我们的任务。预训练和微调后的大模型可能任然存在许多不足,如会出现幻觉等,导致答案不准确,可用rag(检索式信息增强),这是一种新的模型架构:构建数据库,用从数据库中检索到的信息,以此为基础,指导大模型生成答案。然后发现我的pycharm是社区版的,用不了,还是用的vscode,运行成功了!
2024-04-16 15:17:09
235
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人