教程链接:Tutorial/helloworld/hello_world.md at camp2 · InternLM/Tutorial · GitHub
任务列表
- 部署
InternLM2-Chat-1.8B
模型进行智能对话 - 部署实战营优秀作品
八戒-Chat-1.8B
模型 - 通过
InternLM2-Chat-7B
运行Lagent
智能体Demo
- 实践部署
浦语·灵笔2
模型
部署 InternLM2-Chat-1.8B
模型进行智能对话(基础作业)
部署实战营优秀作品 八戒-Chat-1.8B
模型
调整Top P为0.63后,呈现的结果更加准确:
通过 InternLM2-Chat-7B
运行 Lagent
智能体 Demo
实践部署 浦语·灵笔2
模型 (图文创作)
视觉问答
补充:
看到有人问Top P的内容:
Top-p(Nucleus)策略:
- Top-p策略是根据累积概率的方式选择候选词。首先计算所有可能的下一个词的概率分布,并按概率降序排序。然后,选择累积概率超过某个阈值p的最高概率的词,形成一个动态的词汇范围,该范围包含了累积概率达到p的所有词。
- x这种策略会根据累积概率动态地调整词汇范围,从而在保留一定准确性的同时增加了生成的多样性。
Top-k策略:
- Top-k策略是根据概率的大小选择候选词。模型首先计算所有可能的下一个词的概率分布,并按概率降序排序。然后,选择概率排名在前k位的词作为候选词汇,其余词被排除在外。
- 这种策略只考虑概率排名在前k位的词,生成结果更确定。