![](https://img-blog.csdnimg.cn/20201014180756930.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
RWKV
文章平均质量分 94
兴焉
这个作者很懒,什么都没留下…
展开
-
RWKV-Runner工具使用
RWKV是一个开源且允许商用的大语言模型,灵活性很高且极具发展潜力。关于本工具本工具旨在降低大语言模型的使用门槛,做到人人可用,本工具提供了全自动化的依赖和模型管理,你只需要直接点击运行,跟随引导,即可完成本地大语言模型的部署,工具本身体积极小,只需要一个exe即可完成一键部署。此外,本工具提供了与OpenAI API完全兼容的接口,这意味着你可以把任意ChatGPT客户端用作RWKV的客户端,实现能力拓展,而不局限于聊天。原创 2024-07-17 11:53:24 · 677 阅读 · 0 评论 -
RWKV-Runner工具本地训练、设置功能的介绍及使用。
综合时间、硬件资源考虑普通人可以但没必要参与训练,直接下载模型使用即可。普通人不增加硬件资源的情况下,无法比拟一般的商用AI模型。我个人理想的训练硬件是RTX 4090/A 6000,拥有大显存,内存128G以上,不过这种情况下AI付费似乎更具性价比。在硬件资源贫瘠或有限的情况下,如何训练出理想的AI模型,寻找最优解要做好费时费力的准备。说不定你想要的模型,他人/商业公司早已训练完成。这也是我一开始建议普通人没必要介入训练的原因。原创 2024-07-18 16:43:00 · 1063 阅读 · 8 评论