【LLM大模型】ChatGLM的医药行业舆情精选策略——大模型微调指南

菜鸟Python码农

于 2024-08-20 16:37:27 发布

阅读量535

点赞数 20

文章标签：人工智能机器学习 LLM langchain 多模态 prompt 大模型

本文链接：https://blog.csdn.net/huang9604/article/details/141362157

版权

大语言模型微调介绍与一般步骤

在我们前期对于ChatGPT的相关研究中发现，虽然模型展现出了极强的通用领域各项能力，但投研人员也需要在保证数据安全的前提下有一个更加垂直领域的模型来辅助进行投研决策。而大语言模型的微调就提供了一种定制私有化大模型、提升器专业能力的方式。由于全量参数微调对于显卡的消耗巨大，我们着重介绍了各类PEFT（参数高效型）微调的方法和特点，其中P-Tuning和LoRA是两种目前表现较好的微调方式。

一般的微调包括定义任务并收集数据、数据加载及预处理、训练和评估这几个步骤。其中数据预处理时，我们需要首先将数据及标签转换为模型支持的数据格式，然后进行padding和truncation的处理以方便后续进行向量运算。选择合适的超参数后进行多轮训练，最终观察样本内和样本外的模型表现。

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

ChatGLM2-LoRA微调构建的医药行业舆情精选策略

我们选用表现较好的LoRA模式针对前期部署的ChatGLM2进行微调。为实际测试模型的微调效果，我们在数据选择上，发现医药行业新闻对于公司的业绩影响推导逻辑链条会更加直接，对大模型而言更易于学习。首先进行了直接以收益率为标签进行训练，但发现微调后的模型在样本外的准确率极低，说明由于文本与收益率之间相关性较弱，难以使模型直接学习。

最终我们综合对比各大模型在中文金融领域的能力后，选择首先使用ChatGPT3.5的输出结果作为标签让ChatGLM2进行学习。结果发现，该标签质量较高，对于未来股价一段时间的超额收益率走势有一定的预测作用。且通过微调后，ChatGLM2也可以学到相应的逻辑推理能力，达到近似于ChatGPT3.5的预测效果，综合准确率达到0.9左右。而FinBERT模型微调后也有一定的提升，但表现略差于ChatGLM2。最终我们以微调后的ChatGLM2-LoRA模型所给出标签构建医药行业周度舆情精选策略，发现在不考虑手续费的情况年化超额收益率达到30%左右。不过由于个股新闻覆盖度的问题，策略换手较高，我们通过换手率缓冲的方式降低换手后，在单边千分之二的情况，策略的年化超额收益率依然有12.17%。充分说明，通过合适的标签令ChatGLM2进行微调学习，可以使其在特定领域能够达到与ChatGPT3.5类似的效果。是一种绝佳的能够在控制成本和数据隐私性安全的情况下使用大模型进行投研辅助的方式。

风险提示

1、大语言模型基于上下文预测进行回答，不能保证回答准确性，由此可能产生误导影响用户判断。

2、 Langchain框架效果与挂载知识库质量、提示模板设计、大语言模型能力高度相关，若相关配置不到位，可能会导致回答效果不及预期。

正文

**一、大语言模型的微调方式简介
**

我们在前期的ChatGPT量化研究报告中，从各个维度利用ChatGPT或其他大语言模型助力量化研究。实证结果发现，ChatGPT在处理非结构化的文本数据上有得天独厚的优势，针对给定金融文本进行情感分析从而判断投资标的的预期收益能够在行业轮动策略上取得良好效果（《Beta猎手系列之四：如何利用ChatGPT解析卖方策略观点并构建行业轮动策略？》）。同时，ChatGPT在逻辑推理方面同样具有出色表现，针对一些新闻事件可能对于相关资产价格产生的影响也具有较强的预测能力（《CTA金点子系列之一：基于ChatGPT新闻情感分析的原油期货策略》）。

不过，纯粹依赖ChatGPT作为投研辅助工具仍然存在以下问题：

作为一个通用的大语言模型，ChatGPT对于金融领域的很多具体概念和知识并不掌握，对于较专业的金融术语会出现错误理解并给出错误判断。

ChatGPT本身并未开源，若需使用则只能通过网页对话或API接口调用的方式解决，这一方面对于关注数据隐私性的投资者来说是一个亟需解决的问题，而另一方面，长期、大量的使用依然会产生高昂的费用。

因此，我们在上篇报告中详细阐述了国产开源大语言模型ChatGLM的部署和使用，通过Langchain知识库挂载的方式提升了ChatGLM的专业知识和问答能力。在本篇报告中，我们将通过微调的方式，对模型重新训练，从而进一步提升ChatGLM的实际投研辅助能力。

1.1 大语言模型微调应用案例

现在通用的大部分大语言模型基本都是使用海量的文本语料数据进行训练，从而给了模型较强的泛化性能，在各个领域都能回答一些基础问题。但并不能立即适用于我们特定的任务需求。

而微调（Fine-Tuning）就能很好的解决这一问题，通过将一个预训练（Pre-Trained）好的模型在一些特定语料、特定任务上进一步训练来大幅增强模型的针对性和专业性。微调目前已经出现了很多比较成功的应用案例，包括机器翻译、情感分析、实体识别、特定类型的文本生成。

在医学领域，已有比较多的问诊类模型出现，BianQue, Med-ChatGLM等都是基于国产大模型ChatGLM进行微调训练得到的。

在这里插入图片描述

同样地，在法律领域也有比较成功的案例，ChatLAW等模型使用大量法律新闻、法条、司法解释等语料构造对话数据进行训练。从而使得模型在法律咨询领域能给出相对准确、专业的回答。

在这里插入图片描述

1.2 大语言模型微调方法介绍

由于大语言模型本身参数量庞大，针对不同的任务场景和硬件配置要求，也衍生出了多种不同的微调方式：

全量微调（Full Fine-Tuning）:作为一种基本的微调方式，它通过在特定数据集上训练模型的所有参数，使其更好地适应任务。但这种方式也会消耗更多的计算资源和训练时间，对于一般的机构和个人而言是一笔不小的负担。

参数高效微调（Parameter-Efficient-Fine-Tuning,PEFT）：为了解决训练消耗资源过大的问题。多种更低成本的替代方法应运而生。常见的PEFT微调方式包括：LoRA， P-Tuning, Prefix-Tuning, Prompt-Tuning等。这类方法的特点就在于可以仅仅训练模型中的一小部分参数或新增一些新的参数，大幅提高训练速度和资源效率，同时经过多种对比发现也依然能保持较好的训练效果。

此处我们几类常见的PEFT微调方式简要介绍：

Prompt-Tuning & Prefix-Tuning:

Prompt-Tuning方法通过固定预训练参数，针对输入提示进行调整完成训练。传统的Prompt范式基本是在输入时加上提示文本，但这种方法无法避免人工的介入，同时也无法大规模批量挖掘提示文本。于是研究人员使用连续token代替离散的prompt，拼接文本输入作为特殊的Embedding输入，可以在训练时对prompt时进行优化，从而减少prompt挖掘和选择的成本。

Prefix-Tuning不再局限于输入层，而是在每一层前面都加入若干个与任务相关的virtual token作为prefix，在训练时只更新prefix的参数，Transformer其他部分的参数固定。

LoRA:英文全称为Low-Rank Adaptation of LLM, 这是一种微软研究人员开发的微调技术。其基本原理是冻结预训练好的模型权重参数，通过往模型中原权重矩阵上添加一些低秩矩阵来实现。其优点在于可以在几乎不损失模型性能的情况下，大幅度减少微调所需的参数和计算资源。同时也能避免全量微调的缺点，即针对每个下游任务都学习和预训练权重维度相同的全新参数集合。

在这里插入图片描述

LoRA的核心思想类似于残差连接，通过使用旁路的方式更新模拟Full Fine-Tuning的过程。对于一个参数量为d的模型，需要在d维空间寻找有效解：。研究人员（Li 2018）发现，原本的d维空间其实是冗余的，实际仅需r个参数就能找到有效解。也就是说，预训练的语言模型具有较低的内部维度（intrinsic dimension），也被称为本征维度，在任务适配的过程中即使投影到较小的子空间，仅训练r个参数依然可以有效学习。

在这里插入图片描述

如上图所示，在LoRA训练过程中，原模型矩阵保持不变，只需训练A和B的部分，最终再与原模型合并。其中A的输入维度和B的输出维度与原模型保持一致，但A的输出维度仅需本征维度r即可，其中rd，从而达到节省训练资源的效果。

而对于如何确定本征维度r的大小，一般可以认为，若通过LoRA秩为r的微调能够达到Full Fine-Tuning的90%效果，则确定r为合适的“本征维度”。下图展示了Aghajanyan et al.2020使用Bert类模型在两类经典的问答任务训练中，不同的本征维度（d）和最终的准确率的对应关系。结果发现，对于RoBERTa-Large，仅需数百个参数量的训练就可以达到全量微调90%的效果。其余几个模型也有类似现象。

在这里插入图片描述

P-Tuning: 此类方法是近期更新的研究成果，该方法是一种对soft prompt的改进。原本的soft prompt均只作用embedding层，但测试结果发现会导致模型的交互能力变弱。因此P-Tuning将连续性token插入每一层，从而增大改变量和交互性，与其他向量拼接后正常输入LLM。

在这里插入图片描述

二、微调的一般步骤

一般而言，采用不同的微调方式会有不同的具体操作方式。但大体训练过程基本一致，一般包括如下步骤：

定义任务并收集数据：正如上文举例，针对不同的专业领域和任务类型，可以采用不同的训练方式和数据集。在确认好所需训练任务后应考虑相关数据的质量和可得性，一份高质量的语料数据才能取得比较好的训练效果。

数据加载：在本篇报告中，我们暂不讨论无监督的二次预训练。对于仅考虑有监督学习的微调方式而言，我们需要把已有数据进行特定格式化以符合模型的输入格式。一种常见的数据格式为：[{“Input Text”:”It’s great!”, “ID”:0, “Label”:2},{},…].

数据预处理：文本语料与传统机器学习所需的结构化数据存在较大区别，因此我们需要先将文本进行tokenize得到模型可以识别的token。而每条语料的长度差异需要通过padding或truncation的方式进行对齐。针对现在流行的Transformer类模型，我们还需要添加额外的Attention Mask，提示模型所需要给予注意力的部分。

在这里插入图片描述

训练：确定训练所需超参数及metric评价指标，开始迭代训练。常用的训练超参数如下表：

在这里插入图片描述

通用的通用神经网络超参数我们不再赘述，此处我们只针对大语言模型训练中特殊的超参数进行简要介绍。大模型训练一个重要的问题是显卡的显存消耗问题，由于一般大语言模型至少也有数十亿个参数，若在进行梯度下降时设置了过大的Batch_Size，则很有可能会导致显存不够而出现服务器崩溃、训练被迫终止的情况，若将Batch_Size调小，则模型会很难收敛，难以达到训练预期效果。因此一种特殊的处理方式便是梯度累积：即将多次计算得到的梯度值进行累加，然后一次性进行参数更新，以模拟单次使用一个较大batch的目的。

在这里插入图片描述

我们经过实践发现，选择合适的梯度累积参数能在基本维持不变的收敛能力的前提下，大幅减少训练所需消耗的显卡资源。

除此之外，针对大模型训练的资源消耗问题，还有另一个优化方案：混合精度训练。在训练过程中同时使用单精度（FP32）和半精度（FP16）。由于FP16的位宽仅为FP32的一半，权重参数所需占用的显存也节省了一半。此外，半精度的数据能提升计算效率，加快训练过程。在具体操作时，我们需要将FP32的权重转换为FP16格式，进行前向计算，执行优化算法的时候还原为FP32的格式。

在这里插入图片描述

评估：大模型的评估方法可以用来评价模型训练效果的好坏，通过统计训练后模型回答与数据中标签的匹配度，评判模型性能。常见的评价指标包括ROUGE和BLEU，两种指标都是基于词重叠率设计的，表征了回复的语义准确性。我们以ROUGE-L为例，简要介绍其评估思想：

在这里插入图片描述

上式中，C和S分别为标签和预测结果，表示召回率，表示精确率。即我们的评价指标ROUGE-L。这一评价指标通过计算标签和预测结果之间的最长公共子序列（LCS），这一序列越长，则表明两个文本之间越相似，从而得到的结果与标签也就越相近。

三、 LoRA微调实践

3.1 显卡资源消耗介绍

如上文所述，不同的微调方式、模型和一些超参数设置对于硬件的性能要求也有很大区别。对于全量微调而言，1B的参数量需要约40GB的显存消耗，不同参数模型的情况可以此类推，整体成本相对非常高昂。而对于PEFT微调，显存消耗由具体的微调方式和超参数影响，我们此处以6B参数量模型为例，将常见的微调场景所需消耗显存列示如下：

在这里插入图片描述

不过需要注意的是，我们在实际微调时发现，具体的显存消耗可能会在此基础上出现一定向上浮动。此外，Batch_Size的大小会直接影响模型的收敛能力，对于具有一定难度的逻辑推理、情感分析任务，我们经过多次尝试发现需要将Batch_Size维持在一定水平才能取得比较好的训练效果。

3.2 微调实践案例

在众多PEFT微调方式中，我们选择了效果较好的LoRA来进行量化投研领域的微调。微调模型为ChatGLM2-6B，该模型针对初代ChatGLM进行全面升级，使用经过了1.4T中英标识符的预训练与人类偏好对齐训练，在各类评测结果中均有大幅度提升。同时6B的参数量可以支持多个型号的消费级显卡部署推理，能在很大程度上减轻投资者在显卡资源上的压力。详细的模型评测指标、排名及部署等详细流程请参考我们前期报告。

在正式进行量化投研领域微调前，我们首先尝试了一些简单任务。使用仅需数十个样本数据就可以实现对于ChatGLM2的认知改变和知识灌输。

在这里插入图片描述

此处我们以认知改变作为示例，将身份相关的信息进行替换作为输入数据，发现经过10个epoch的训练后，模型已经能准确根据我们提供的信息进行回答。

在这里插入图片描述

此外，对于模型无法准确掌握金融投资领域相关知识的情况，我们也以中信一级行业分类作为样本进行微调，得到了比较准确地回答。

在这里插入图片描述

四、 基于LoRA微调的ChatGLM2医药行业舆情精选策略

4.1 医药行业新闻文本概述

接下来，我们考虑充分利用大语言模型较强的处理和识别文本数据的特点，以新闻文本作为识别对象尝试将ChatGLM2的语义识别能力和逻辑推理能力通过微调的方式进行增强，从而能利用其输出信号进行选股。以下新闻数据来源均为数库。

考虑到新闻内容的复杂性和不同行业之间新闻的巨大差异，我们经过对比发现，部分行业新闻消息与对应股价走势不确定性较高，逻辑推导链条复杂，对于大模型学习而言具有一定难度。而医药行业的很多新闻与药品获批、通过一致性评价等有关，对于公司未来业绩发展的影响和股价走势有相对清晰的逻辑关系。

在这里插入图片描述

因此，我们最终选取与医药行业相关性较高的新闻文本，时间区间为2014年-2022年底，同时由于部分新闻更多关注行业本身，与个股的相关性较低，我们进一步筛选出有个股相关性高的新闻文本。最终新闻数量共有28000条左右，累计涉及股票数量共448只。新闻文本的高频率关键词如下：

在这里插入图片描述

由于新闻事件相较于其他传统文本数据而言存在一定特殊性，并非每支股票每周都能有新闻涉及，因此我们同样统计了新闻的股票覆盖度。发现随着时间推移，新闻的股票覆盖度逐渐上升，最终能够稳定达到20%以上的水平。

在这里插入图片描述

4.2 以超额收益率为标签的ChatGLM微调

由于传统进行NLP类量化研究均以文本情感分析为基础，将文本蕴含情感倾向作为判断对应股票未来表现的依据。然而，直接将股价未来表现作为标签进行模型训练，若模型能准确掌握新闻文本和未来收益的潜在关系，则同样不失为一个较好的策略。

我们首先使用LoRA微调方式，直接将未来一定时间（20日或5日）个股超额收益率作为标签进行训练，发现经过反复的超参数调整后，虽然训练集loss可以通过多个epoch的迭代降至极低水平，但验证集的loss在整个训练过程中几乎没有任何下降。

在这里插入图片描述

随后我们对样本内和选取的部分样本外数据作为测试集分别观察其混淆矩阵，发现样本内的准确率已经得到大幅提升，达到0.59，f1-score达到0.63。而样本外的准确率仅有0.34，与随机标签几乎没有区别。其余的主要关键指标表现也都较差，基本可以说明模型无法直接学习到新闻和收益率之间的对应关系。

在这里插入图片描述

实践证明，模型难以跳过中间环节直接准确学习到文本和收益率之间的对应关系。我们考虑，这是由于股票预测本身就是一个复杂的开放问题，影响股票收益的因素过多。以多因子选股为例，若一个因子IC均值达到3%就已经可以称为比较有效的因子，但实际两者之间的相关性依然较低，仅能解释很小一部分的收益率变化。新闻文本同样也面临这一问题，因此最合适的文本数据使用方法依然是首先针对文本内容进行判断分类，再利用标签作为调仓信号进行因子选股。

在这里插入图片描述

4.3 ChatGPT、ChatGLM与FinBERT输出结果对比

既然直接使用超额收益率进行预测的方式并不合适，一个高质量的标签就变得极为重要。近日，上海财经大学发布了首个针对金融领域大语言模型测评数据集FinEval，该基准旨在评估大语言模型在中国背景下对金融领域通用知识的理解、金融数学计算和推理能力。通过整合金融、经济、会计和金融类考证等领域的高质量国内数据，对众多大语言模型进行测评发现ChatGPT在中文金融领域依然超过了众多国产开源大语言模型。

在这里插入图片描述

因此我们考虑既然ChatGPT在众多大语言模型表现突出，将该模型的输出作为标签对ChatGLM2进行训练，可以使ChatGLM2达到在特定任务类型、特定领域与ChatGPT媲美的程度。

由于在前期的研究中我们已经发现，ChatGPT拥有较强的逻辑推理能力，相较于传统NLP模型仅能判断文本情感态度有着较大的优势。因此，我们充分利用这一大模型特点，令ChatGPT对新闻事件对于股价未来的影响进行分类，将约28000条新闻文本首先以如下提示方式对ChatGPT3.5进行提问：

在这里插入图片描述

同时我们以同样的prompt对ChatGLM2进行提问，对两个模型的输出结果进行简要对比发现，在绝大部分情况下，ChatGPT回答格式规范，几乎不会出现多余语句。但ChatGLM2有一定概率会忽略提示而自行给出理由或其他标点符号，需要我们进一步手动处理。

在这里插入图片描述

此外，BERT模型同样是一个经典的NLP模型，该模型使用Transformers架构，在众多类型任务中表现出了较强的实力。而FinBERT是熵简科技在BERT基础上使用金融垂直领域数据进行微调的大模型，该模型进行了两类有监督学习的预训练，包括研报行业分类和财经新闻的金融实体识别。所验证的下游任务类型包括金融短讯类型分类、行业分类、情绪分类、命名实体识别等，发现其表现相比于原生BERT、BERT-wwm、RoBERTa-wwm-ext有明显提升。

此处我们将数据清洗处理后，对比三个模型的输出结果，发现ChatGPT3.5和ChatGLM2两个模型都倾向于更多给出积极判断，消极判断都占少数。而ChatGLM2积极推理判断明显占比更多，数量达到24743条。极少给出中立的分类，在所有样本中只有79条中立判断。FinBERT模型的消极判断明显占比更高，三种分类的数量较均衡。

在这里插入图片描述

对于个别文本出现模型未能给出准确标签的情况，我们将其剔除。接下来对三个模型所给出分类标签与收益率的关系进行分析：

在这里插入图片描述

如上图所示，ChatGLM3.5和ChatGLM2所给出标签与收益率的单调性都较好，且两个模型的消极标签未来5日超额收益率负向明显，分别为-1.87%和-0.94%。积极标签所对应的超额收益率分别为0.23%和0.17%。

在这里插入图片描述

我们将三个模型每个标签所对应新闻发生前后相对于中信医药行业的累计超额异常收益率进行对比，发现ChatGPT3.5不管在事件发生前还是发生后都展现出了明显的单调性，积极新闻在事前虽有一定提前定价，但事后的超额收益率依然比较明显。而ChatGLM2和FinBERT两个模型的单调性都明显下降，区分度较差。

4.4 ChatGPT与ChatGLM医药行业舆情精选策略对比

观察到ChatGPT3.5对医药行业新闻的分析能力后，我们首先探索将ChatGPT3.5和ChatGLM2标签作为调仓信号构建投资组合策略。

考虑到股价对于新闻反映的及时性较强，策略以周度频率调仓，对于单日内单只股票出现的多个新闻，取较差标签进行去重。将三个标签分别转换为1,0，-1,后，对每周内新闻文本按照发生所在日期进行衰减求和，周五的衰减系数为1，周四为0.5，以此类推。由于早期新闻数据量较少，覆盖度较低，我们设置阈值50，当该周新闻所覆盖股票数量达到50只及以上时，买入得分最高的前10%股票，数量未达到50只时且超过5只时，我们买入得分最高的5只，否则买入指数本身。以中信医药行业指数为基准，构建投资策略，考虑到新闻股票覆盖度问题，回测范围为2018年7月-2022年12月。

在这里插入图片描述

可以看出ChatGPT3.5的舆情精选策略表现优异，说明对于医药行业新闻，若能给出准确标签并及时调仓，可以获取相对稳定的超额收益。但ChatGLM2所给出标签在整个回测区间绝大部分时间难以取得超额回报，策略的基本指标如下：

在这里插入图片描述

4.5 以ChatGPT3.5结果为标签的ChatGLM2模型微调

接下来，我们利用前文中提到的LoRA方法对ChatGLM2进行微调，考虑到避免数据泄露，我们按时间顺序将前10000条新闻作为训练集，设定合适的超参数进行训练。对微调后训练集和测试集的基本结果进行对比发现，若我们以ChatGPT3.5所给出标签作为标准答案，样本内的准确率得到大幅提升，达到0.96，三个分类标签的F1-score也均在0.90以上。

而在样本外，ChatGLM2-LoRA的标签准确率相较于未微调时得到大幅提升，由0.65上升到0.84，平均F1-score也在0.80以上。虽然相较于样本内准确率仍有一定差距，但整体表现已经远超出原本未微调时模型的水平。并且相较于以收益率为标签进行训练的大幅度改进也可以说明，大语言模型的推理判断逻辑是可以通过训练被其他模型学习到的。

在这里插入图片描述

同时我们对比观察微调前后的事件驱动收益发现，ChatGLM2-LoRA的三类标签对应未来收益的单调性和区分度得到大幅改进。

在这里插入图片描述

除此之外，我们也将FinBERT进行微调，不过由于该模型参数量相对较小，我们直接使用全量微调方式。微调后的样本外混淆矩阵如下，结果发现模型同样能在一定程度上学到新闻文本的推理判断能力，准确率为0.81，平均F1-score未能达到0.80，效果略差于微调后的ChatGLM2模型。

在这里插入图片描述

为进一步检验微调模型的实用价值，我们将微调后的ChatGLM2标签作为信号，同样以周度频率调仓构建医药行业舆情精选策略，回测区间范围为2018年7月-2022年12月，样本外区间为2020年11月-2022年12月。

在这里插入图片描述

从策略的基本指标可以看出，经过微调后的ChatGLM2舆情精选策略已经超过了ChatGPT水准，年化超额收益率为30.52%，相较于未经过微调的策略上升明显，信息比率为0.90，不过由于每周新闻的股票覆盖度偏低，策略的整体稳定性有一定欠缺。而FinBERT经过微调后同样表现出了不错的判断能力，不过相较于ChatGLM2-LoRA略逊一筹。

在这里插入图片描述

为进一步贴合交易实际，我们测试在不同手续费下策略的效果。值得注意的是，由于周度调仓策略本身对于交易手续费比较敏感，同时由于单个行业每周新闻的股票覆盖度有限，策略的换手率天然较高，我们以换手率缓冲的方式尽可能降低手续费带来的影响，在不同费率下策略的效果如下。

在这里插入图片描述

根据策略的各项指标来看，策略对于手续费比较敏感，策略在单边千分之二的情况下年化超额收益率降至12.17%，信息比率为0.36。不过我们考虑，这是由于数据本身限制对策略产生了较大影响，本文对于ChatGLM的微调本身依然显著提升了模型在该领域新闻文本的逻辑推理能力。

在这里插入图片描述

总结

在本篇报告中，我们结合前期对于ChatGPT等大模型的使用体验，进一步考虑投研实际场景。考虑将大模型进行微调从而提升模型在金融领域的专业度，从而能够给出更符合实际需求的回答，提升其逻辑推理能力和判断力。由于全量微调的显卡资源消耗过大，我们首先介绍了各类PEFT（参数高效型）微调的方式和特点，最终选用表现较好的LoRA模式针对前期部署的ChatGLM2进行微调。

在数据选择上，我们发现医药行业新闻对于公司的业绩影响推导逻辑链条会更加直接，对大模型而言更易于学习。首先进行了直接以收益率为标签进行训练，但发现微调后的模型在样本外的准确率极低，说明由于文本与收益率之间相关性较弱，难以使模型直接学习。

风险提示

1、大语言模型基于上下文预测进行回答，不能保证回答准确性，由此可能产生误导影响用户判断。

2、不同的微调方式和超参数选择可能对微调效果产生较大影响，若模型产生过拟合，样本外失效可能会导致策略效果不及预期。

3、市场若出现超出模型预期的变化，过往逻辑链条适用性下降可能会导致策略失效，需要动态对模型进行微调以修正偏差。

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

目标：了解AI大模型的基本概念、发展历程和核心原理。
内容：
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
- L1.4.1 知识大模型
- L1.4.2 生产大模型
- L1.4.3 模型工程方法论
- L1.4.4 模型工程实践
- L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
内容：
- L2.1 API接口
- L2.1.1 OpenAI API接口
- L2.1.2 Python接口接入
- L2.1.3 BOT工具类框架
- L2.1.4 代码示例
- L2.2 Prompt框架
- L2.3 流水线工程
- L2.4 总结与展望