中国LLM研究所收集100+AI大模型资源

最新推荐文章于 2024-10-30 17:01:02 发布
最新推荐文章于 2024-10-30 17:01:02 发布
阅读量783 收藏 27
点赞数 14
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq470603823/article/details/140879702
版权

自ChatGPT为代表的大语言模型 (大型语言模型，LLM)出现以后，由于其惊人的类通用人工智能(AGI)的能力，掀起了新一轮自然语言处理领域的研究和应用的浪潮。尤其是以ChatGLM、LLaMA等平民玩家都能跑起来的较小规模的法学开源之后，业界涌现了非常多基于法学的二次微调或应用的案例。本项目旨在收集和梳理中文LLM相关的开源模型、应用、数据集及教程等资料，目前收录的资源已达100 + 个!

如果本项目能给您带来一点点帮助，麻烦点个⭐️ 吧 ~

同时也欢迎大家贡献本项目未收录的开源模型、应用、数据集等。提供新的仓库信息请发起公关、并按照本项目的格式提供仓库链接、明星数、简介等相关信息、感谢 ~

常见底座模型细节概览:

底座包含模型模型参数大小训练令牌数训练最大长度是否可商用
ChatGLMChatGLM/2/3 Base & Chat6B1T/1.42K/32K可商用
美洲驼LLaMA/2/3基地和聊天7B/8B/13B/33B/70B1T/2T2k/4k部分可商用
百川百川/2基地 & 聊天7B/13B1.2T/1.4T4k可商用
QwenQwen/1.5 Base & Chat7B/14B/72B/110B2.2T/3T8k/32k可商用
布卢姆布卢姆1B/7B/176B-MT1.5T2k可商用
天鹰座天鹰座/2基地/聊天7B/34B-2k可商用
InternLMInternLM/2基本/聊天/代码7B/20B-200k可商用
混合基地和聊天8x7B-32k可商用
彝族基地和聊天6B/9B/34B3T200k可商用
DeepSeek基地和聊天1.3B/7B/33B/67B-4k可商用
XVERSE基地和聊天7B/13B/65B/A4.2B2.6T/3.2T8k/16k/256k可商用

目录

1.模型

 😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

​
👉AI大模型学习路线汇总👈
大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

​

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

1.1文本LLM模型
1.2多模态LLM模型

  • VisualGLM-6B

    • 地址:https://github.com/THUDM/ VisualGLM-6B 
    • 简介:一个开源的，支持图像，中文和英文的多模态对话语言模型，语言模型基于ChatGLM-6B，具有62亿参数;图像部分通过训练BLIP2-Qformer构建起视觉模型与语言模型的桥梁，整体模型共78亿参数。依靠来自于CogView数据集的30米高质量中文图文对，与300米经过筛选的英文图文对进行预训练。

  • CogVLM

  • 粘性

  • 视觉-中国-美洲驼-羊驼

    • 地址:https://github.com/airaria/ 视觉-中国-美洲驼-羊驼 
    • 简介:基于中文美洲驼和羊驼大模型项目开发的多模态中文大模型。VisualCLA在中文美洲驼/羊驼模型上增加了图像编码等模块，使美洲驼模型可以接收视觉信息。在此基础上，使用了中文图文对数据进行了多模态预训练，对齐图像与文本表示，赋予其基本的多模态理解能力;并使用多模态指令数据集精调，增强其对多模态指令的理解，执行和对话能力，目前开源了VisualCLA-7B-v0.1。

  • LLaSM

  • Qwen-VL

    • 地址:https://github.com/QwenLM/ qwen-vl 
    • 简介:是阿里云研发的大规模视觉语言模型、可以以图像、文本、检测框作为输入、并以文本和检测框作为输出。特点包括:强大的性能:在四大类多模态任务的标准英文测评中上均取得同等通用模型大小下最好效果;多语言对话模型:天然支持英文、中文等多语言对话、端到端支持图片里中英双语的长文本识别;多图交错对话:支持多图输入和比较、指定图片问答、多图文学创作等;首个支持中文开放域定位的通用模型:通过中文开放域语言表达进行检测框标注;细粒度识别和理解:相比于目前其它开源LVLM使用的224分辨率，qwen-vl是首个开源的448分辨率的LVLM模型。更高分辨率可以提升细粒度的文字识别、文档问答和检测框标注。

2.应用

2.1垂直领域微调
医疗

法律

金融

  • 聚宝盆 (聚宝盆):基于中文金融知识的美洲驼微调模型

    • 地址:https://github.com/jerry1993-tech/聚宝盆-美洲驼-Fin-中文 
    • 简介:开源了经过中文金融知识指令精调/指令微调 (指示-调优) 的LLaMA-7B模型。通过中文金融公开数据 + 爬取的金融数据构建指令数据集，并在此基础上对LLaMA进行了指令微调，提高了LLaMA在金融领域的问答效果。基于相同的数据，后期还会利用GPT3.5 API构建高质量的数据集，另在中文知识图谱-金融上进一步扩充高质量的指令数据集。

  • BBT-FinCUGE-应用程序

    • 地址:https://github.com/ssymmetry/ BBT-FinCUGE-应用 
    • 简介:开源了中文金融领域开源语料库BBT-fincorp，中文金融领域知识增强型预训练语言模型BBT-FinT5及中文金融领域自然语言处理评测基准CFLEB。

  • 轩辕 (轩辕):首个千亿级中文金融对话模型

    • 地址:https://github.com /杜小曼地/轩辕 
    • 简介:轩辕是国内首个开源的千亿级中文对话大模型，同时也是首个针对中文金融领域优化的千亿级开源对话大模型。轩辕在BLOOM-176B的基础上针对中文通用领域和金融领域进行了针对性的预训练与微调，它不仅可以应对通用领域的问题，也可以解答与金融相关的各类问题，为用户提供准确，全面的金融信息和建议。

  • 手指

  • 圆盘-FinLLM

    • 地址:https://github.com/FudanDISC/ 圆盘-FinLLM 
    • 简介:该项目由复旦大学数据智能与社会计算实验室 (复旦-光盘) 开发并开源，项目中开源的资源包括: 光盘-FinLLM-SFT训练数据样本，光盘-FinLLM模型参数(基于Baichuan-13B-聊天训练)，光盘-鳍-Eval-基准等。

  • 同益-金融

    • 地址:https:// modelscope.cn/models/TongyiFinance/ Tongyi-Finance-14B
    • 简介:该模型是针对对金融行业推出的大语言模型、基于通义千问基础模型进行行业语料增量学习、强化金融领域知识和场景应用能力、覆盖金融知识问答、文本分类、信息抽取、文本创作、阅读理解、逻辑推理、多模态、编码等能力象限。具有以下特点:行业语料增量学习:使用200B高质量金融行业语料进行增量学习，并进行金融行业词表扩展，覆盖丰富的数据类型，支持更大上下文(16k)输入和完整的语义表达。行业能力强化:自研SFT质量和多样性分析工具，筛选高质量SFT数据，解决大语言模型的对齐问题。行业后链路优化:借助多agent框架，实现知识库增强和工具API调用。
教育
科技

  • 天文大语言模型StarGLM:

    • 地址:https://github.com /yu-yang-li/StarGLM 
    • 简介:基于聊天训练了天文大语言模型、以期缓解大语言模型在部分天文通用知识和前沿变星领域的幻觉现象、为接下来可处理天文多模态任务、部署于望远镜阵列的观测代理 -- 司天大脑(数据智能处理)打下基础。

  • 致远:

    • 地址:GitHub - DUOMO/TransGPT 
    • 简介:开源交通大模型、主要致力于在真实交通行业中发挥实际价值、它能够实现交通情况预测、智能咨询助手、公共交通服务、交通规划设计、交通安全教育、协助管理、交通事故报告和分析、自动驾驶辅助系统等功能。

  • 墨子:

电商
  • EcomGPT
    • 地址:https://github.com /阿里巴巴-NLP/EcomGPT 
    • 简介:一个由阿里发布的面向电商领域的语言模型，该模型基于布卢姆兹在电商指令微调数据集上微调得到，人工评估在12个电商评测数据集上超过查特。
网络安全
农业
  • 后稷 (阿格里马):
    • 地址:GitHub - zhiweihu1103/AgriMa: 后稷-首个开源中文农业大模型 
    • 简介:首个中文开源农业大模型是由山西大学、山西农业大学与Fin AI联合研发，以百川为底座、基于海量有监督农业领域相关数据微调、具备广泛的农业知识和智能分析能力、该模型旨在为农业领域提供全面而高效的信息处理和决策支持。
  • 稷丰(AgriAgent):
    • 地址:GitHub - zhiweihu1103/AgriAgent: 稷丰-首个开源中文农业多模态大模型 
    • 简介:首个开源中文农业多模态大模型是由山西农业大学研发，以MiniCPM-Llama3-V 2.5为底座、能够从图像、文本、气象数据等多源信息中提取有用信息、为农业生产提供全面、精准的智能化解决方案。我们致力于将稷丰应用于作物健康监测、病虫害识别、土壤肥力分析、农田管理优化等多个方面、帮助农民提升生产效率、减少资源浪费、促进农业的可持续发展。
2.2 LangChain应用
2.3其他应用

3.数据集

预训练数据集
SFT数据集
偏好数据集

  • C值

    • 地址:https://github.com /x-plug/c值 
    • 数据集说明:该项目开源了数据规模为145k的价值对齐数据集，该数据集对于每个及时包括了拒绝和正向建议 (安全和责任) > 拒绝为主 (安全) > 风险回复 (不安全) 三种类型，可用于增强SFT模型的安全性或用于训练奖励模型。

  • GPT-4-LLM

  • zhihu_rlhf_3k

    • 地址:https:// huggingface.co/datasets/liyucheng/zhihu_rlhf_3k
    • 数据集说明:该项目开源了3k + 条基于知乎问答的人类偏好数据集，每个实际的知乎问题下给出了赞同数据较高 (选择) 和较低 (拒绝) 的回答，可以用于奖励模型的训练。

  • hh_rlhf_cn

  • chatbot_arena_conversations

  • UltraFeedback

    • 地址:GitHub - OpenBMB/UltraFeedback: A large-scale, fine-grained, diverse preference dataset (and models). 
    • 数据集说明:该数据集是一个大规模、细粒度、多样化的偏好数据集、用于训练强大的奖励模型和批评者模型。该工作从各种资源(包括UltraChat、ShareGPT、Evol-指示、TruthfulQA、FalseQA和FLAN、数据集统计数据请参见此处)中收集了约64k条提示。然后使用这些提示来查询多个LLM(模型列表请参见此处)，并为每个提示生成4个不同的回复，从而得到总共256k个样本。

4. LLM训练微调框架

  • DeepSpeed聊天:

    • 地址:https://github.com/microsoft/DeepSpeed/tree/master/blogs/ deepspeed-聊天 
    • 简介:该项目提供了一键式RLHF训练框架，只需一个脚本即可实现多个训练步骤，包括SFT，奖励模型微调和基于人类反馈的强化学习(RLHF)，此外还实现了深高速HE，统一的高效混合引擎，达到训练和推理引擎之间的过渡是无缝的。

  • LLaMA高效调谐:

    • 地址:https://github.com/hiyouga/ 美洲驼-高效-调谐 
    • 简介:该项目提供了易于使用的基于PEFT的美洲驼微调框架，实现了包括全参数，LoRA，QLoRA等的预训练，指令微调和RLHF，并支持美洲驼，布鲁姆，猎鹰，百川，国际等底座模型。

  • ChatGLM高效调优:

  • bert4torch:

    • 地址:https://github.com/Tongjilibo/ bert4torch 
    • 简介:该项目提供了一个大模型的训练和部署框架，包含了目前主要的开源大模型，美洲驼系列，chatglm，布鲁姆系列等等，同时还给出了预训练和微调的示例。

5. LLM推理部署框架

6.法学评测

  • FlagEval (天秤)大模型评测体系及开放平台

    • 地址:GitHub - FlagOpen/FlagEval: FlagEval is an evaluation toolkit for AI large foundation models. 
    • 简介:旨在建立科学、公正、开放的评测基准、方法、工具集、协助研究人员全方位评估基础模型及训练算法的性能，同时探索利用AI方法实现对主观评测的辅助，大幅提升评测的效率和客观性。FlagEval (天秤)创新构建了 “能力-任务-指标” 三维评测框架，细粒度刻画基础模型的认知能力边界，可视化呈现评测结果。

  • C-eval: 构造中文大模型的知识评估基准:

    • 地址:https://github.com/SJTU照明/ceval 
    • 简介:构造了一个覆盖人文，社科，理工，其他专业四个大方向，52个学科(微积分，线代 …)，从中学到大学研究生以及职业考试，一共13948道题目的中文知识和推理型测试集。此外还给出了当前主流中文法学硕士的评测结果。

  • OpenCompass:

  • SuperCLUElyb: SuperCLUE琅琊榜

  • 高考长椅:

    • 地址:https://github.com/OpenLMLab/ 高考-长凳 
    • 简介: 高考是一个以中国高考题目为数据集，测评大模型语言理解能力，逻辑推理能力的测评框架，收集了2010年-2022年年全国高考卷的题目，其中包括1781道客观题和1030道主观题，构建起高考的数据部分。

  • AGIEval:

    • 地址:GitHub - ruixiangcui/AGIEval 
    • 简介:由微软发布的一项新型基准测试、这项基准选取20种面向普通人类考生的官方、公开、高标准往常和资格考试、包括普通大学入学考试(中国高考和美国SAT考试)、法学入学考试、数学竞赛、律师资格考试、国家公务员考试等等。

  • 协智:

    • 地址:https://github.com/mikegu721/xiezhiebenchmark 
    • 简介:由复旦大学发布的一个综合的、多学科的、能够自动更新的领域知识评估基准、包含了哲学、经济学、法学、教育学、文学、历史学、自然科学、工学、农学、医学、军事学、管理学、艺术学这13个个学科门类，24个万道学科题目，516个具体学科，249587道题目。

  • 打开LLM排行榜:

  • CMMLU:

    • 地址:https://github.com /浩南里/CMMLU 
    • 简介:CMMLU是一个综合性的中文评估基准，专门用于评估语言模型在中文语境下的知识和推理能力。CMMLU涵盖了从基础学科到高级专业水平的67个主题。它包括:需要计算和推理的自然科学，需要知识的人文科学和社会科学，以及需要生活常识的中国驾驶规则等。此外，CMMLU中的许多任务具有中国特定的答案，可能在其他地区或语言中并不普遍适用。因此是一个完全中国化的中文测试基准。

  • MMCU:

  • 中文-llm-基准:

    • 地址:https://github.com/jeinlee1991/中文-llm-基准 
    • 简介:中文大模型能力评测榜单:覆盖百度文心一言，chatgpt，阿里通义千问，讯飞星火，belle / chatglm6b等开源大模型，多维度能力评测。不仅提供能力评分排行榜，也提供所有模型的原始输出结果!

  • 安全提示:

    • 地址:https://github.com/thu-coai/安全提示 
    • 简介:由清华大学提出的一个关于LLM安全评测基准，包括安全评测平台等，用于评测和提升大模型的安全性，囊括了多种典型的安全场景和指令攻击的提示。

  • PromptCBLUE: 中文医疗场景的法学硕士评测基准

  • 哈卢卡: 中文幻觉评估基准

    • 地址:GitHub - OpenMOSS/HalluQA: Dataset and evaluation script for "Evaluating Hallucinations in Chinese Large Language Models" 
    • 简介: 用于衡量中文大型语言模型中的幻觉现象哈卢卡的基准测试该项目提出了一个名为。halluQA包含450个精心设计的对抗性问题，涵盖多个领域，并考虑了中国历史文化，风俗和社会现象。在构建HalluQA时，考虑了两种类型的幻觉:模仿性虚假和事实错误，并基于GLM-130B和ChatGPT构建对抗性样本。为了评估，设计了一种使用GPT-4进行自动评估的方法，判断模型输出是否是幻觉。

7.法学教程

法学基础知识
提示工程教程

  • 面向开发者的LLM入门课程:

    • 地址:https://github.com/datawhalechina/ 提示-面向开发人员的工程 
    • 简介: 主要包括围绕吴恩达老师的大模型系列课程展开一个中文版的大模型入门教程: 吴恩达《开发人员的ChatGPT Prompt工程》课程中文版，吴恩达《使用ChatGPT API构建系统》课程中文版，吴恩达《LangChain for LLM Application Development》课程中文版等。

  • 提示工程指南:

    • 地址:https:// www.promptingguide.ai/zh
    • 简介:该项目基于对大语言模型的浓厚兴趣、编写了这份全新的提示工程指南、介绍了大语言模型相关的论文研究、学习指南、模型、讲座、参考资料、大语言模型能力以及与其他与提示工程相关的工具。

  • awesome-chatgpt-提示-zh:

法学应用教程
法学实战教程
大模型前沿
关注
【一切皆是映射】AI 大模型 LLM + 推荐系统 RS：个性化的艺术——基于LLM的推荐系统用户行为预测
AI天才研究院
07-15 1247
在当今数字化时代，推荐系统已成为互联网服务的核心组成部分，广泛应用于电子商务、社交媒体、新闻资讯等领域。传统的推荐系统主要依赖于协同过滤、内容过滤等技术，虽然取得了一定的成效，但在处理复杂、动态的用户行为和多样化的内容时仍面临诸多挑战。随着人工智能技术的快速发展，特别是大语言模型（Large Language Models，LLMs）的出现，为推荐系统的革新带来了新的机遇。大语言模型凭借其强大的自然语言理解和生成能力，为用户行为预测提供了全新的视角和方法。
【人工智能】LLM 大型语言模型和 Transformer 架构简介
AI天才研究院
05-24 2万+
然而，传统的机器学习模型，例如神经网络，并不能天生理解输入的顺序。通过将位置编码纳入 Transformer 架构，GPT 可以更有效地理解句子中单词的顺序，并生成语法正确且语义有意义的输出。但是，模型只能理解数字，不能理解文本，因此需要将这些输入转换为称为“输入嵌入”的数字格式。作为初创公司的首席技术官，我每天都在讨论这项革命性的技术，因为围绕它的持续不断的嗡嗡声和炒作。这篇博文将探讨 LLM（大型语言模型）和转换器架构的基本概念，转换器架构是所有带有转换器的语言模型的构建块，包括 GPT。
AIGC学习笔记—minimind详解+训练+推理
m0_56569131的博客
09-27 553
这个开源项目是带我的一个导师，推荐我看的，记录一下整个过程，总结一下收获。这个项目的slogan是“大道至简”，确实很简。作者说是这个项目为了帮助初学者快速入门大语言模型（LLM），通过从零开始训练一个仅26MB的微型语言模型MiniMind，最快可在3小时内完成。降低学习LLM的门槛，让更多人能够轻松上手。MiniMind极其轻量，约为GPT-3的1/7000，适合普通个人GPU进行快速推理和训练。
GLM-4-Voice：智谱AI的端到端中英语音对话模型
u013818406的博客
10-26 1164
在人工智能领域，自然语言处理和语音识别技术的结合一直是研究的热点。今天，我要向大家介绍智谱AI推出的一款革命性产品——GLM-4-Voice，这是一款能够直接理解和生成中英文语音的智能对话系统，它支持实时对话，并能根据用户的指令改变语音的情感、语调、语速、方言等属性，让机器交流更加自然。
告别冰冷机器声：GLM-4-Voice开启情感语音交互新时代！
最新发布
寻道码路，探索编程之路的无限可能。
10-30 1121
GLM-4-Voice是智谱AI推出的一款端到端情感语音模型，它通过先进的深度学习技术，实现了对中英文语音的直接理解和生成。这款模型的创新之处在于其能够模拟人类的情感和语调，从而在人机对话中提供更加真实和富有情感的语音回复。GLM-4-Voice的设计目标是减少信息损失，提高语音交互的自然度和流畅性，同时支持低延迟的实时对话，为用户提供更加丰富和自然的语音交互体验。高度的自然性和流畅性，使得语音交互更加贴近人类的自然对话。情感表达和情感共鸣的能力，让模型能够根据对话的上下文模拟不同的情感和语调。
转帖-收集和梳理中文LLM相关
sheji888的专栏
06-15 127
​自ChatGPT为代表的大语言模型（Large Language Model, LLM）出现以后，由于其惊人的类通用人工智能（AGI）的能力，掀起了新一轮自然语言处理领域的研究和应用的浪潮。尤其是以ChatGLM、LLaMA等平民玩家都能跑起来的较小规模的LLM开源之后，业界涌现了非常多基于LLM的二次微调或应用的案例。本项目旨在收集和梳理中文LLM相关的开源模型、应用、数据集及教程等资料，目前收录的资源已达100+个！ ​​
vLLM本地部署GLM-4-9b大模型，ChatTTS+AutoGen实现多AI对话转语音！打造AI小说智能体！AI写高考作文
m0_57057282的博客
06-27 907
5）使用pyautogen完成用glm进行高考作文编写，并用gpt3-5评审的流程。8） chatTTS调用autogen的代码。3）用vllm以openai接口的形式运行。6)本地部署chatTTS（文字转语音）7）测试chatTTS。2）去魔塔社区下载模型。
【人工智能时代】- 大型语言模型（LLM）理论简介
xiaoli8748的专栏
08-19 1509
1.1 大型语言模型（LLM）的概念​大语言模型（LLM，Large Language Model），也称大型语言模型，是一种旨在理解和生成人类语言的人工智能模型。LLM 通常指包含数百亿（或更多）参数的语言模型，它们在海量的文本数据上进行训练，从而获得对语言深层次的理解。目前，国外的知名 LLM 有 GPT-3.5、GPT-4、PaLM、Claude 和 LLaMA 等，国内的有文心一言、讯飞星火、通义千问、ChatGLM、百川等。
LLM大模型综述
热门推荐
zh515858237的专栏
01-10 2万+
LLM其实就是large language model，大语言模型。如果对“最终任务”进一步进行分类，又大致可以分为两大不同类型的任务：自然语言理解类任务和自然语言生成类任务。如果排除掉“中间任务”的话，典型的自然语言理解类任务包括文本分类、句子关系判断、情感倾向判断等，这种任务本质上都是分类任务，就是说输入一个句子（文章），或者两个句子，模型参考所有输入内容，最后给出属于哪个类别的判断。自然语言生成也包含很多NLP研究子方向，比如聊天机器人、机器翻译、文本摘要、问答系统等。
【人工智能】大模型（LLM）与人类大脑的结构及运行机制的关系
AI天才研究院
05-23 2万+
近年来，人工智能领域取得了长足的进步，尤其是大型语言模型（Large Language Models，简称LLM）的出现，让AI在自然语言处理、知识表示、推理决策等方面的能力大幅提升，引发了学术界和业界的广泛关注。LLM作为当前AI领域最前沿、最具颠覆性的技术之一，其结构设计与运行机制深受人类大脑的启发。探究LLM与人脑之间的关系，对于深入理解人工智能的内在机理、指导未来AI系统的设计都具有重要意义。
在矩池云使用智谱情感语音模型GLM-4-Voice，详细指南
机器学习是魔鬼的博客
10-25 1436
GLM-4-Voice 是智谱 AI 推出的端到端语音模型。GLM-4-Voice 能够直接理解和生成中英文语音，进行实时语音对话，并且能够遵循用户的指令要求改变语音的情感、语调、语速、方言等属性。本文将详细介绍，如何在GPU算力租赁平台矩池云上快速复现、跑通 GLM-4-Voice 项目，获取一个独享的AI语音智能助手。
超详细的glm-4微调过程和代码之最强落地经验总结
m0_71062934的博客
06-14 3494
智谱AI的GLM-4系列模型是2024年推出的新一代大型语言模型，具有显著的性能提升，接近GPT-4的水平。 GLM-4模型具备多项先进特性，包括强大的多模态处理能力和支持更长上下文输入的能力。 微调技术对于GLM-4模型尤为重要，因为它允许模型在保留广泛知识和语言理解能力的同时，学习特定场景或行业的专业语言习惯、术语和要求。 GLM-4模型提供了多种微调方法，包括LoRA、sift等轻量级微调技术，这些技术可以在不显著增加模型参数量的前提下，有效地调整模型权重以适应下游任务。
健康医疗大模型，开源了！
kaka0722ww的博客
06-20 1402
基于主动健康的主动性、预防性、精确性、个性化、共建共享、自律性六大特征，华南理工大学未来技术学院-广东省数字孪生人重点实验室开源了中文领域生活空间主动健康大模型基座ProactiveHealthGPT。我们期望，生活空间主动健康大模型基座ProactiveHealthGPT 可以帮助学术界加速大模型在慢性病、心理咨询等主动健康领域的研究与应用。本项目为 生活空间健康大模型扁鹊（BianQue）。
整理开源的中文大语言模型100+个，以规模较小、可私有化部署、训练成本较低的模型为主...
datayx的文章
12-07 3296
向AI转型的程序员都关注了这个号????????????自ChatGPT为代表的大语言模型（Large Language Model, LLM）出现以后，由于其惊人的类通用人工智能（AGI）的能力，掀起了新一轮自然语言处理领域的研究和应用的浪潮。尤其是以ChatGLM、LLaMA等平民玩家都能跑起来的较小规模的LLM开源之后，业界涌现了非常多基于LLM的二次微调或应用的案例。本项目旨在收集和梳理中文LLM相关的开源...
灵心（soulchat）中文领域心理健康大模型
weixin_39699362的博客
07-19 1291
灵心（soulchat）中文领域心理健康大模型
开源教育对话大模型 EduChat
叶庭云 成为自己的光
07-09 3633
教育是一项对人类身心发展产生影响的社会实践活动，旨在从内在激发人们固有或潜在的素质。因此，我们必须坚持以人为本的教育理念，重点关注个性化、引导式和身心全面发展。EduChat 是华东师范大学计算机科学与技术学院的EduNLP 团队开发的开源教育对话大模型。该项目主要研究以预训练大模型为基底的教育对话大模型相关技术，融合多样化的教育垂直领域数据。
垂直领域大模型微调最全指南
m0_56022510的博客
06-17 4112
一年来多以来，大语言模型发展和变化越来越快，总体呈现出模型尺寸越变越大，算力需求越来越多，模型推理要求越来越高的特点。在这种背景下，现在不同的人关于垂域 LLM 出现了一些争议，一部分人认为随着大模型的能力越来越强，垂类的知识会加训融合到大模型。尤其当下，在 GPT-4o 效果一枝独秀的前提下，其他无论是通用模型，还是基于垂类模型都被 GPT-4o 吊打，一个典型的对比就是 GPT-4o 加持的Code Colpliot的代码能力一点都不逊色与Devins等智能体工程师。
国际中文教育大模型“桃李” 1.0发布
zenRRan的博客
06-10 578
随着ChatGPT引起全社会的关注，及各类大语言模型（Large Language Model）争相亮相，通用域自然语言处理任务已获得巨大成功，引起了国际中文教育领域的普遍关注。国际中文教育人士纷纷展开了对大模型的探讨：大模型是否可以根据学习者的水平，提供合适的语言表达，或根据学习者的问题给出详细的解答，从而在一定程度上辅助甚至充当学习伙伴、语言教师？然而，目前通用领域的大模型在垂直领域的效果仍有...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值