InternLM实战营第二期笔记·②「轻松玩转书生·浦语大模型趣味 Demo」

教程链接：Tutorial/helloworld/hello_world.md at camp2 · InternLM/Tutorial · GitHub

任务列表

• 部署 InternLM2-Chat-1.8B 模型进行智能对话
• 部署实战营优秀作品 八戒-Chat-1.8B 模型
• 通过 InternLM2-Chat-7B 运行 Lagent 智能体 Demo
• 实践部署 浦语·灵笔2 模型

部署 InternLM2-Chat-1.8B 模型进行智能对话（基础作业）

部署实战营优秀作品 八戒-Chat-1.8B 模型

调整Top P为0.63后，呈现的结果更加准确：

​​​​​​​

 通过 InternLM2-Chat-7B 运行 Lagent 智能体 Demo

实践部署 浦语·灵笔2 模型 （图文创作）

 

视觉问答

 

补充：

看到有人问Top P的内容：

Top-p（Nucleus）策略：

• Top-p策略是根据累积概率的方式选择候选词。首先计算所有可能的下一个词的概率分布，并按概率降序排序。然后，选择累积概率超过某个阈值p的最高概率的词，形成一个动态的词汇范围，该范围包含了累积概率达到p的所有词。
• x这种策略会根据累积概率动态地调整词汇范围，从而在保留一定准确性的同时增加了生成的多样性。

Top-k策略：

• Top-k策略是根据概率的大小选择候选词。模型首先计算所有可能的下一个词的概率分布，并按概率降序排序。然后，选择概率排名在前k位的词作为候选词汇，其余词被排除在外。
• 这种策略只考虑概率排名在前k位的词，生成结果更确定。