一、医疗领域大模型
1、DoctorGLM
基于ChatGLM-6B的卓越中文问诊模型,它融合了海量的中文医疗对话数据集进行精准微调,采用lora、p-tuningv2等前沿技术实现高效部署。
2、BenTsao (本草)
该项目集大成者,开源了多款经过中文医学指令微调的大语言模型,涵盖LLaMA、Alpaca-Chinese、Bloom等,皆以医学知识图谱和医学文献为基础,结合ChatGPT API精心打造,实现了中文医学指令微调数据集的精准训练,极大提升了医疗领域问答的准确性与实用性。
3、Med-ChatGLM
该项目同样基于中文医学指令微调,对ChatGLM-6B模型进行了深度优化,微调数据与BenTsao项目一脉相承,确保了模型在医疗领域的卓越表现。
4、BianQue (扁鹊)
该项目开创性地推出了生活空间健康大模型,深度整合了当前开源的中文医疗问答数据集,结合自建的生活空间健康对话大数据,构建了千万级别的扁鹊健康大数据BianQueCorpus,基于此精心打造了ChatGLM-6B为初始化的BianQue模型,全面提升了模型在医疗与健康领域的应用价值。
5、HuatuoGPT (华佗)
该项目鼎力推出医疗大模型HuatuoGPT,其中包括了基于Baichuan-7B训练的HuatuoGPT-7B与基于Ziya-LLaMA-13B-Pretrain-v1的HuatuoGPT-13B,旨在提供全方位、高标准的医疗智能服务。
6、QiZhenGPT该项目通过启真医学知识库的精妙运用,构建了独具匠心的中文医学指令数据集,进一步在Chinese-LLaMA-Plus-7B、CaMA-13B、ChatGLM-6B等尖端模型上精心调整指令,显著提升了模型在中文医疗环境中的实用效果。
7、ChatMed
该项目创新性地发布了中文医疗大模型ChatMed-Consult,以ChatMed_Consult_Dataset中超过50万的中文医疗在线问诊数据及ChatGPT的精准回复作为训练基石,基于LlaMA-7b并通过LoRA技术进行了细致微调。
8、ShenNong-TCM-LLM(神农)
该项目推出了中文中医药领域的杰出模型ShenNong-TCM-LLM,以中医药知识图谱为基础,运用实体为核心的自指令方法,通过ChatGPT生成了丰富的2.6万+中医药指令数据集ChatMed_TCM_Dataset,再基于LlaMA底座,借助LoRA技术进行了精准微调。
9、XrayGLM
该项目开创了中文多模态医学数据集与模型的先河,尤其在医学影像诊断与多轮交互对话中展现出卓越的潜能。
10、MedicalGPT
该项目隆重推出了医疗大模型MedicalGPT,集成了增量预训练、有监督微调、RLHF(奖励建模、强化学习训练)和DPO(直接偏好优化)等前沿技术。
11、Sunsimiao(孙思邈)
该项目推出了中文医疗大模型Sunsimiao,该模型以baichuan-7B和ChatGLM-6B为坚实底座,在数十万条高质量的中文医疗数据中进行了精心微调。
12、CareLlama(关怀羊驼)
该项目推出了医疗大模型CareLlama,并汇集了数十个公开可用的医疗微调数据集和开放可用的医疗大语言模型,旨在为医疗LLM的快速发展注入强劲动力。
13、DISC-MedLLM
该项目由复旦大学发布,针对医疗健康对话式场景精心设计了医疗领域大模型与数据集。模型通过DISC-Med-SFT数据集在Baichuan-13B-Base基础上进行指令微调,有效匹配了医疗场景下的人类偏好,缩小了通用语言模型输出与真实世界医疗对话之间的差距。
14、PMC-LLaMA
本项目公开了前沿的医疗大模型PMC-LLaMA,其中包含MedLLaMA_13B预训练版本与PMC_LLaMA_13B指令微调版本,为医疗领域带来了革新的技术突破。
15、ChatDoctor
ChatDoctor,一款基于LLaMA训练的医疗大模型,其开源特性让更多人能够领略医疗科技的魅力。
16、MING (明医)
MING,一个基于bloomz-7b指令微调而成的医疗大模型,其卓越的性能在医疗问答、智能问诊等方面得到了充分体现。
17、IvyGPT
IvyGPT,一款医疗大模型,经过高质量的医学问答数据监督微调和人类反馈强化学习训练,展现了出色的智能医疗处理能力。
18、PULSE
本项目开源了中文医疗大模型PULSE,该模型采用约4,000,000个中文医学与通用领域指令微调数据进行优化,支持广泛的医疗领域自然语言处理任务,包括健康教育、医师考试问题解答、报告解读、医疗记录结构化以及模拟诊断和治疗等。
19、HuangDI (皇帝)
HuangDI,一款中医大模型,其独特之处在于融合了中医教材、网站数据与Ziya-LLaMA-13B-V1基座模型,打造出具有深厚中医知识理解力的预训练模型,并通过海量中医古籍指令对话数据与通用指令数据进行微调,实现中医古籍知识问答的精准能力。
20、ZhongJing (仲景)
ZhongJing,一个旨在传承中医精髓与现代技术相结合的中医大模型。该项目不仅弘扬了中医的博大精深,还通过现代技术创新,为医学领域提供了可信赖和专业的工具,是中医与AI融合的杰出代表。
21、TCMLLM
该项目旨在通过大型模型技术,实现中医临床辅助诊疗(包括病证诊断、处方推荐等)以及中医药知识问答等多项任务,引领中医知识问答与临床辅助诊疗等领域的飞跃性进步。当前,我们已针对中医临床智能诊疗中的处方推荐问题,发布了TCMLLM-PR这一中医处方推荐大模型。该模型通过整合真实世界的临床病历、医学典籍与中医教科书等海量数据,精心构建了包含68k数据条目的处方推荐指令微调数据集,并在ChatGLM大模型上进行深度优化与微调。
22、OpenBioMed
该项目致力于开源多模态生物医学大模型,涵盖了BioMedGPT这一多模态生物医药大模型、DrugFM和MolFM等多模态小分子基础模型,以及CellLM等细胞表示学习模型。
PromptCBLUE医疗评测基准
PromptCBLUE是一个针对中文医疗场景的评测基准,通过二次开发CBLUE基准,将16种不同的医疗场景NLP任务全面转化为基于提示的语言生成任务,为中文医疗领域的研究提供了有力的支持。
中文医疗模型评估基准CMB
A Comprehensive Medical Benchmark in Chinese(CMB)是一项综合性的中文医疗模型评估基准,它涵盖了不同临床职业、不同职业阶段考试中的多项选择题(CMB-Exam)以及基于真实病例的复杂临床诊断问题(CMB-Clin),为中文医疗模型的评估提供了全面的参考。
二、4大心理健康领域大模型
1、MeChat
该项目致力于开源中文心理健康支持对话大模型与数据集。该模型基于ChatGLM-6B LoRA 16-bit指令进行了细致的微调。同时,我们通过ChatGPT技术将真实的心理互助QA改写为多轮的心理健康支持多轮对话,构建了含有56k个多轮对话的丰富数据集。该数据集的主题、词汇和篇章语义丰富多样,特别适用于长程多轮对话的应用场景。
2、SoulChat (灵心)
该项目开源了心理健康大模型SoulChat(灵心)。该模型源于ChatGLM-6B的深厚底蕴,经过百万规模心理咨询领域的中文长文本指令与多轮共情对话数据的精心微调,得以诞生。它不仅仅是一个模型,更是人们心灵的守护者,静静倾听,深情理解。
3、MindChat(漫谈)
这一项目致力于开源心理大模型MindChat。经过人工精心清洗的约20万条高质量多轮心理对话数据,涵盖了工作、家庭、学习、生活、社交、安全等多个层面,为模型的训练提供了丰富的素材。MindChat期望从心理咨询、心理评估、心理诊断、心理治疗四个维度,为人们带来心灵的慰藉与解脱,提升整体的心理健康水平。
4、QiaoBan(巧板)
在儿童情感陪伴领域,QiaoBan这一儿童情感对话大模型应运而生。它基于开源通用大模型,融合了通用域人机对话、单轮指令数据以及专为儿童设计的情感陪伴对话数据,经过精心微调,最终形成了这款专为儿童量身打造的情感陪伴大模型。
三、10大法律领域微调模型及2大评测基准
1、LawGPT_zh(獬豸)
这一中文法律通用模型源自ChatGLM-6B与LoRA 16-bit指令的精心融合。数据集方面,项目团队不仅利用了现有的法律问答数据集,更通过self-Instruct技术,基于法条和真实案例构建了高质量的法律文本问答数据,大幅提升了模型在法律领域的表现,确保了回答的专业性和可靠性。
2、LaWGPT
LaWGPT系列模型在通用中文基座模型的基础上,增添了法律领域的专有词表和大规模中文法律语料,极大地增强了模型在法律领域的基础语义理解能力。结合法律领域对话问答数据集、中国司法考试数据集的指令精调,LaWGPT对法律内容的理解和执行能力得到了显著提升。
3、LexiLaw
LexiLaw,这一中文法律大模型,以ChatGLM-6B为架构基础,经过法律领域数据的精心微调,使得其在法律咨询与支持方面展现出卓越的性能和专业性。无论是法律从业者、学生还是普通用户,LexiLaw都能为他们提供准确、可靠的法律咨询服务,助力他们在法律问题的海洋中乘风破浪。
4、Lawyer LLaMA
这一项目开源了法律领域的指令微调数据和基于LLaMA训练的中文法律大模型Lawyer LLaMA。Lawyer LLaMA以其卓越的性能和深度,为法律领域带来了前所未有的创新与突破。LLaMA经过大规模法律语料库的预训练,深入系统地学习了中国的法律知识体系。在此基石之上,我们借助ChatGPT的智慧,搜集了一系列针对中国国家统一法律职业资格考试客观题的分析和法律咨询的回答,并通过对这些宝贵数据的指令微调,使模型具备了将法律知识灵活应用于各种具体场景的能力。
5、HanFei (韩非)
HanFei-1.0作为国内首个全参数训练的法律大模型,拥有高达7b的参数量,其功能涵盖法律问答、多轮对话、文章撰写、检索等多元化需求。
6、ChatLaw
北京大学开源的法律大模型系列——ChatLaw,依托海量的法律新闻、论坛、法条、司法解释、法律咨询、法考题及判决文书等原始文本,构建了丰富的对话数据。ChatLaw-13B和ChatLaw-33B便是基于姜子牙-13B、Anima-33B的卓越训练成果。同时,ChatLaw-Text2Vec更是利用93万条判决案例,基于BERT训练出相似度匹配模型,精准匹配用户提问与对应法条。
7、Lychee (律知)
我们开源了基于GLM-10B模型的中文司法领域大模型Law-GLM-10B,经过30GB中文法律数据的指令微调,展现出卓越的司法领域应用能力。
8、wisdomInterrogatory (智海-录问)
由浙江大学、阿里巴巴达摩院及华院计算携手打造的法律大模型,该模型基于Baichuan-7B进行了法律领域数据的深度预训练与指令微调,并独具匠心地设计了知识增强的推理流程。
9、JurisLMs
该项目基于丰富的中文法学语料库,精心训练了一系列法律领域的语言模型,包括:
-
AI Judge——一款可解释的法律判决预测模型,由GPT2在法学语料上深化预训练,并结合法条适用模型(基于BERT的分类器)微调而成,不仅能精准预测判决结果,更能阐述法院的审理观点;
-
AI Lawyer——一款智能法律咨询模型,通过主动学习在有限的数据上进行精细微调,能够针对用户咨询,精确匹配并应用相应的法律法规进行回答。
10、夫子•明察司法大模型
该模型汇聚了法律领域的智慧,致力于司法领域的深度应用与探索。以ChatGLM为基石,我们精心构建了一个中文司法大模型,它依托海量的中文无监督司法语料与精准的有监督司法微调数据。这款模型功能丰富,涵盖法条检索、案例分析、三段论推理判决以及司法对话等,致力于为用户提供全面且精准的法律咨询与解答服务。
在法律评测领域,LEXTREME作为一个多语言的法律评测基准,覆盖24种语言,拥有11个评测数据集,其权威性和全面性备受认可。
另一法律评测基准LexGLUE,专注于英文法律评测,以其独特的视角和深度在业界获得了广泛认可。
四、10大金融领域微调模型及3大评测基准
1、BBT-FinCUGE-Applications
该项目不仅开源了中文金融领域语料库BBT-FinCorpus,还推出了知识增强型大模型BBT-FinT5及评测基准CFLEB,展现了其在金融领域的深厚积累。
2、Cornucopia (聚宝盆)
该项目凭借对公开和爬取的中文金融领域问答数据的深入挖掘,构建了独特的指令数据集,并对LLaMA系模型进行了精准指令微调,显著提升了模型在金融领域的问答效果。
3、XuanYuan (轩辕)
作为国内首个开源的千亿级中文对话大模型,轩辕更是针对中文金融领域进行了深度优化。它基于BLOOM-176B进行了针对性预训练与微调,既能处理通用领域问题,又能提供全面且准确的金融信息与建议。
4、PIXIU (貔貅)
本项目公开了金融领域的指令微调数据集FIT,以及大型模型FinMA与评估基准FLARE,为金融领域注入了智能化新动力。
5、FinGPT
本项目贡献了多个金融领域的大模型,涵盖ChatGLM2-6B+LoRA和LLaMA2-7B+LoRA等,并汇集了金融新闻、社交媒体、财报等多维度中英文训练数据。
6、FLANG
本项目倾力打造了金融大模型FLANG,为金融行业的智能化发展再添新翼。
10、FinEval
FinEval,一个专注于金融知识的评测基准,汇聚了4,661道高质量多项选择题,覆盖金融、经济、会计、证书等多个领域,涉及34个不同学术科目。
金融领域评测基准:FLARE
FLARE,一个专为金融领域打造的评测基准,它涵盖了金融知识理解和预测等任务,助力金融行业智能化发展。
金融领域评测基准:CFLEB
CFLEB,一个面向中文金融领域的评测基准,包含了语言生成与理解的多项任务,为中文金融领域智能化评测提供了有力工具。
金融领域评测基准:FLUE
FLUE,作为金融评测基准的新星,汇集了5个金融领域数据集,为金融智能化评测提供了全新视角。
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓
![](https://img-blog.csdnimg.cn/img_convert/095780be4074259e98f5607b3c62a4ea.jpeg)
👉1.大模型入门学习思维导图👈
要学习一门新的技术,作为新手一定要先学习成长路线图,方向不对,努力白费。
对于从来没有接触过AI大模型的同学,我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。(全套教程文末领取哈)
👉2.AGI大模型配套视频👈
很多朋友都不喜欢晦涩的文字,我也为大家准备了视频教程,每个章节都是当前板块的精华浓缩。
👉3.大模型实际应用报告合集👈
这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(全套教程文末领取哈)
👉4.大模型落地应用案例PPT👈
光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。(全套教程文末领取哈)
👉5.大模型经典学习电子书👈
随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。
👉6.大模型面试题&答案👈
截至目前大模型已经超过200个,在大模型纵横的时代,不仅大模型技术越来越卷,就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道,我总结了大模型常考的面试题。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】
😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓
![](https://img-blog.csdnimg.cn/img_convert/095780be4074259e98f5607b3c62a4ea.jpeg)