- 博客(2)
- 收藏
- 关注
RSS订阅原创 QQ开放平台搭建和优化个人本地LLM群机器人（二）：联网搜索
这期简单添加了联网搜索的功能，最终的结果不但要看搜索引擎的效果，还要考虑大模型的理解能力我们在消费级PC/笔记本上部署的大模型，单次搜索任务还好，但是如果把搜索也加入记忆，是难以达到理想的效果的（连续询问，依据历史信息的问题），所以就不添加了。如果你的大模型性能足够强，可以考虑使用tool calling的方法来运用，可以从llama3.1的模板来看是怎么用tool的源代码。
2024-08-23 19:54:54
600
原创 QQ开放平台搭建和优化个人本地LLM群机器人（一）：架构搭建和使用微调大模型
众所周知，QQ平台上有许多成熟的，或收费或免费的第三方机器人，为什么要选择QQ开放平台的呢？最主要的原因是这些第三方机器人虽然支持的功能丰富，但是同样也承担着停运的风险；而本教程所专注的是使用本地大模型来搭建和优化应用，QQ开放平台足以支持这一目标。实际上，本教程希望能通过QQ开放平台机器人来构建一个便捷的远程使用本地LLM的交互手段，从这一点上来说，纯文字的，简洁的交互方式是可以接受的。
2024-08-18 13:18:28
899
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人