中文金融大语言模型(LLM) 开源!

复旦大学开源!

DISC-FinLLM,中文金融大语言模型(LLM),旨在为用户提供金融场景下专业、智能、全面的金融咨询服务。DISC-FinLLM, a Chinese financial large language model (LLM) designed to provide users with professional, intelligent, and comprehensive financial consulting services in financial scenarios.

源代码:

http://www.gitpp.com/car-ai/disc-finllm

DISC-FinLLM 是一个专门针对金融场景下为用户提供专业、智能、全面的金融咨询服务的金融领域大模型,由复旦大学数据智能与社会计算实验室 (Fudan-DISC) 开发并开源。

我们将在该项目中开源如下资源:

  • DISC-FinLLM-SFT 训练数据样例

  • DISC-FinLLM 模型参数

  • DISC-Fin-Eval Benchmark

  • DISC-FinLLM-SFT 完整训练数据(ToDo)

  • DEMO 部署代码(ToDo)

您可以通过访问这个链接来在线体验我们的 DISC-FinLLM。

虽然开源的大语言模型库Llama在技术上非常先进,但是由于没有充足的中文数据,尤其是缺少特殊领域的专业数据,比如法律、金融和医疗等领域,因此在这类特定领域内,Llama的表现可能并不理想。

为了提升Llama在这些领域内的性能,通常需要进行微调。微调的过程一般包括以下步骤:

  1. 数据准备:
  • 收集特定领域(如法律、金融、医疗等)的大量中文文本数据。这些数据应涵盖该领域的专业知识、术语和常见场景,以确保模型的泛化能力。

  • 对收集到的数据进行预处理,包括清洗、分词、去除停用词等,以提高数据的质量和有效性。

  1. 模型架构调整:
  • 根据特定领域的特点,可以对Llama模型的架构进行适当调整。例如,可以增加针对领域术语的嵌入层,以提高模型对专业术语的理解和识别能力。

  • 调整模型的解码策略,以生成更符合领域规范和语境的文本。

  1. 训练与优化:
  • 利用收集到的领域特定数据进行模型的训练。通常采用监督学习的方式,利用标注好的数据进行训练。

  • 在训练过程中,通过调整学习率、批次大小等超参数来优化模型的训练效果。

  • 采用正则化、dropout等技术来防止模型过拟合,提高模型的泛化能力。

  1. 模型评估与验证:
  • 在训练完成后,使用验证数据集对微调后的模型进行评估,以确保其性能得到提升。

  • 可以通过人工评估、自动评估指标(如BLEU、ROUGE等)或特定领域的任务完成情况来评估模型的性能。

  1. 部署与应用:
  • 将微调后的模型部署到实际应用场景中,如法律文本分析、金融风险评估或医疗辅助诊断等。

  • 持续监控模型的性能,并根据实际需要进行进一步的优化和调整。

通过以上步骤,可以对Llama进行针对特定领域的微调,从而提升其在该领域内的性能和应用效果。

人工智能 文生图 法国美女

DISC-FinLLM,中文金融大语言模型(LLM),旨在为用户提供金融场景下专业、智能、全面的金融咨询服务。DISC-FinLLM, a Chinese financial large language model (LLM) designed to provide users with professional, intelligent, and comprehensive financial consulting services in financial scenarios.

源代码:

http://www.gitpp.com/car-ai/disc-finllm

大模型岗位需求

大模型时代,企业对人才的需求变了,AIGC相关岗位人才难求,薪资持续走高,AI运营薪资平均值约18457元,AI工程师薪资平均值约37336元,大模型算法薪资平均值约39607元。
在这里插入图片描述

掌握大模型技术你还能拥有更多可能性

• 成为一名全栈大模型工程师,包括Prompt,LangChain,LoRA等技术开发、运营、产品等方向全栈工程;

• 能够拥有模型二次训练和微调能力,带领大家完成智能对话、文生图等热门应用;

• 薪资上浮10%-20%,覆盖更多高薪岗位,这是一个高需求、高待遇的热门方向和领域;

• 更优质的项目可以为未来创新创业提供基石。

可能大家都想学习AI大模型技术,也想通过这项技能真正达到升职加薪,就业或是副业的目的,但是不知道该如何开始学习,因为网上的资料太多太杂乱了,如果不能系统的学习就相当于是白学。为了让大家少走弯路,少碰壁,这里我直接把全套AI技术和大模型入门资料、操作变现玩法都打包整理好,希望能够真正帮助到大家。

-END-


👉AI大模型学习路线汇总👈

大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

在这里插入图片描述

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
在这里插入图片描述
在这里插入图片描述

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

👉获取方式:

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

  • 18
    点赞
  • 13
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值