大模型
文章平均质量分 71
Unicornlyy
记录个人成长~一个人或许走的很快但一群人走的更远一起努力吧!
展开
-
self-llm:《开源大模型食用指南》更适合中国宝宝的部署教程
本项目是一个围绕开源大模型、针对国内初学者、基于 AutoDL 平台的中国宝宝专属大模型教程,针对各类开源大模型提供包括环境配置、本地部署、高效微调等技能在内的全流程指导,简化开源大模型的部署、使用和应用流程,让更多的普通学生、研究者更好地使用开源大模型,帮助开源、自由的大模型更快融入到普通学习者的生活中。本项目的学习建议是,先学习环境配置,然后再学习模型的部署使用,最后再学习微调。里面包含了当前主流的大模型部署方案,可以帮助初学者更加快速的入门大模型应用部署。开源的大模型部署教程self-llm。转载 2024-03-21 13:43:33 · 252 阅读 · 1 评论 -
书生·浦语大模型实战营第四次课堂笔记
我们就得到了这个Adapter文件就是所谓的lora文件,我们就需要在加载底座模型的基础上同时加载这个Adapter也就是lora来进行与模型的对话与测试。通过问不要葱姜蒜大佬知道了它通过ssh连接的话还是在开发机上也不会下载到本地yes太好了我还能玩~现在看视频发现原来是我进入成功了,可以接着往下做omygod!微调是在海量的文本内容的基础上以无监督或半监督的方式进行训练的。qlora是对lora的一种改进~感觉就是更高级点的工具。倒回去看发现要求将不要葱姜蒜换成自己的名字和昵称!诶怎么能进这个环境?原创 2024-01-19 22:35:32 · 529 阅读 · 0 评论 -
寻找游戏大模王赛后分享(我的寻找游戏大模王之旅
大家好,我是2023寻找游戏大模王AI原生应用大赛的Top1荆轲刺秦王团队的小罗,很高兴能在这里与大家分享我们这次比赛的经验,同时也希望以后有机会可以和大家一起交流学习~左二是我。原创 2024-01-16 19:16:42 · 951 阅读 · 0 评论 -
书生·浦语大模型实战营第三次课堂笔记
核心思想:给大模型外挂一个知识库,对于用户的提问,会首先从知识库中匹配到提问对应回答的相关文档,然后将文档和提问一起交给大模型来生成回答,从而提高大模型的知识储备。LangChain 框架是一个开源工具,通过为各种 LLM 提供通用接口来简化应用程序的开发流程,帮助开发者自由构建 LLM应用LangChain 的核心组成模块。核心思想:在一个新的较小的训练集上,进行轻量级的训练微调,从而提升模型在这个新数据集上的能力。可以使用多种支持语义检索的向量数据库,一般使用轻量级的 Chroma。原创 2024-01-12 18:38:05 · 905 阅读 · 0 评论 -
书生·浦语大模型实战营第二次课堂笔记
人工智能领域中参数数量巨大、拥有庞大计算能力和参数规模的模型利用大量数据进行训练拥有数十亿甚至数千亿个参数模型在各种任务重展现出惊人的性能InternLM-Xcomposer-7B 介绍浦语·灵笔是基于书生·浦语大语言模型研发的视觉-语言大模型,提供出色的图文理解和创作能力具有多项优势:1.为用户打造图文并貌的专属文章2.设计了高效的训练策略,为模型注入海量的多模态概念和知识数据,赋予其强大的图文理解和对话能力。原创 2024-01-09 22:35:12 · 567 阅读 · 0 评论 -
书生·浦语大模型实战营第一次课堂笔记
大模型是发展通用人工智能的重要途径,是人工通用人工智能的一个重要途径。书生·浦语大模型覆盖轻量级、重量级、重量级的三种不同大小模型,可用于智能客服、个人助手等领域。还介绍了书生·浦语大模型的性能在多个数据集上全面超过了相似量级或相近量级的模型。LMDeploy提供大模型在GPU上部署的全流程解决方案,包括模型轻量化、推理和服务。持续批处理技巧,深度优化的低比特计算Kernel,模型并行,高效的k/v缓存管理机制。最新信息和知识的获取,回复的可靠性,数学计算,工具的使用和交互。等训练数据:文章、书籍、代码。原创 2024-01-05 14:18:42 · 500 阅读 · 0 评论 -
如何同步fork项目原仓库的更新
最简单粗暴的方法:把原来fork的仓库删了重新fork(嘿嘿不过这显然是不优雅的)那我们该怎么同步更新呢?原创 2023-12-09 18:21:59 · 302 阅读 · 0 评论 -
在Github上快速复制别人的仓库,并实现PR
fork不是Git操作,而是一个Github操作,是服务端的代码仓库克隆fork后会在自己的Github仓库账户创建一个新的仓库,它包含了原来的仓库(即uostream repository,上游仓库)所有内容,如分支、Tag、提交历史等你可以对fork出的仓库自由提交,并提供PR(Pull Request)贡献回原仓库由于fork出的新仓库是基于原仓库,但二者在后续开发中可能会大相径庭,所以被称为“分叉”原创 2023-12-09 18:11:01 · 643 阅读 · 0 评论 -
在git使用SSH密钥进行github身份认证学习笔记
官网文档:Https://docs.github.com/zh/authentication(本节内容对应的官方文档,不清晰的地方可参考此内容)首先,启动我们的git bush(在桌面右键,点击 Git Bush Here )首先登入你的github后台,点击头像,点击setting。注意:添加密钥是需要验证密码的,如果你有此环节,验证即可!然后配置名字,然后点击add SSH key。然后我们回到本地,在桌面创建一个文件夹。然后可以去C盘找你的.ssh 文件。然后将我们的本地库推送到远程库。原创 2023-12-09 17:32:11 · 384 阅读 · 0 评论 -
手把手教你在AutoDL上Qwen-7B-Chat WebDemo Qwen-7B-Chat 网络演示
手把手带你在AutoDL上Qwen-7B-Chat WebDemo Qwen-7B-Chat 网络演示项目地址:https://github.com/datawhalechina/self-llm.git如果大家有其他模型想要部署教程,可以来仓库提交issue哦~ 也可以自己提交PR!如果觉得仓库不错的话欢迎star!!!原创 2023-11-29 13:48:19 · 305 阅读 · 0 评论 -
手把手教你Autodl平台Qwen-7B-Chat FastApi 部署调用
手把手带你在AutoDL上部署Qwen-7B-Chat FastApi 调用项目地址:https://github.com/datawhalechina/self-llm.git如果大家有其他模型想要部署教程,可以来仓库提交issue哦~ 也可以自己提交PR!如果觉得仓库不错的话欢迎star!!!原创 2023-11-29 13:33:49 · 1114 阅读 · 0 评论 -
手把手教你在AutoDL上部署Qwen-7B-hat Transformers 部署调用
手把手带你在AutoDL上部署InternLM-Chat-7B Transformers 调用项目地址:https://github.com/datawhalechina/self-llm.git如果大家有其他模型想要部署教程,可以来仓库提交issue哦~ 也可以自己提交PR!如果觉得仓库不错的话欢迎star!!!原创 2023-11-29 13:17:57 · 335 阅读 · 0 评论 -
手把手带你在AutoDL上部署InternLM-Chat-7B Transformers
手把手带你在AutoDL上部署InternLM-Chat-7B Transformers 部署调用项目地址:https://github.com/KMnO4-zx/self_llm.git如果大家有其他模型想要部署教程,可以来仓库提交issue哦~ 也可以自己提交PR!原创 2023-11-21 21:11:30 · 342 阅读 · 0 评论