大模型
文章平均质量分 52
意 料 之 外
这个作者很懒,什么都没留下…
展开
-
大模型 评测
提供模型能力测试基准根据真实场景任务,测试大模型能力边界提供大模型优化方向指引对比不同模型的能力。原创 2024-02-20 00:03:14 · 351 阅读 · 0 评论 -
大模型 部署
将训练好的模型部署到特定的软硬件环境。为了满足性能,常常需要优化模型。持续批,有状态,高性能,原创 2024-02-19 23:20:43 · 396 阅读 · 0 评论 -
大模型 Finetune
在data目录下创建一个json文件personal_assistant.json作为本次微调所使用的数据集。修改拷贝后的文件internlm_chat_7b_qlora_oasst1_e3_copy.py,将 HuggingFace adapter 合并到大语言模型。PTH 模型转换为 HuggingFace 模型。修改 cli_demo.py 中的模型路径。PS:进入InternLM内运行命令。2修改格式和app.py中路径。修改app.py中路径。微调框架XTuner。微调后参数转换/合并。原创 2024-02-19 20:25:42 · 360 阅读 · 0 评论 -
大模型 搭建知识库 RAG
LLM具有强大的语言理解和生成能力,当下存在一些局限性,失效受制、专业能力有限和定制成本高。有两种开发范式RAG(实时更新)和Finetune(个性化微调)。RAG 检索增强生成基于langchain搭建rag应用构建向量数据库搭建知识库助手基于gradio的web部署。原创 2024-02-12 20:42:10 · 769 阅读 · 0 评论 -
大模型 Hello World
大模型通常指的是机器学习或人工智能领域中参数数量巨大、拥有庞大计算能力和参数规模的模型。这些模型利用大量数据进行训练,并且拥有数十亿甚至数千亿个参数。大模型的出现和发展得益于增长的数据量、计算能力的提升以及算法优化等因素。这些模型在各种任务中展现出惊人的性能,比如自然语言处理、计算机视觉、语音识别等。大模型的优势在于其能够捕捉和理解数据中更为复杂、抽象的特征和关系。通过大规模参数的学习,它们可以提高在各种任务上的泛化能力,并在未经过大量特定领域数据训练的情况下实现较好的表现。原创 2024-02-11 20:42:46 · 894 阅读 · 0 评论 -
书生·浦语大模型——全链路开源体系
7B:13B:20B:智能客服、个人助手、行业应用数据预训练微调评测原创 2024-02-10 10:17:44 · 310 阅读 · 0 评论