聊聊心理医疗领域大模型的落地思考

大模型玩家

已于 2024-08-14 12:45:35 修改

阅读量1k

点赞数 33

文章标签：人工智能知识图谱 langchain github 开源机器学习自然语言处理

于 2024-07-16 09:37:45 首次发布

本文链接：https://blog.csdn.net/2401_85375186/article/details/140457027

版权

近来，工作偏向于心理医疗领域方面的大模型，仅从领域大模型的落地，聊聊个人的一些思考。

硬件

准备好花钱买GPU。

领域大模型

业务场景的思考

首先需要审视斟酌业务领域的特殊性与可行性，我们要做的是心理领域，而心理领域倾向于医患对话，即询问链的场景；不仅仅是一问一回答的角度，而作为智能体(AI模型/医生)还需要对患者的回答进行引导/打分，且作为问询对话场景，对话上下文的长度必然不会少，这也是需要考虑的问题。其次，治疗时的患者，会处于不同的治疗阶段，就需要做不同的治疗，治疗的侧重点就会不一样。
总之，在实际开展的前期，对业务领域的场景与方向需要与产品不断的打磨研究，分析出产品的方向场景及特殊性。

开源模型

摸着石头过河——目前医疗、金融等领域已经有很多的开源模型，作为技术储备与预研，极其需要对已有的开源模型做一些调研。如下是我个人觉得不错且对于我们的场景可以借鉴的医疗模型：

对于开源模型的研究，不仅仅是跑demo，没有什么用处，毕竟又不能直接拿过来落地——现在很多的模型都只是丢个训练完的模型文件上来，最关键的训练数据、业务流程、训练流程、调试代码并没有放上来；这类开源库参考意义不大。
如下几点是我比较看重的：

训练数据及格式
微调框架（官方、开源）
业务流程
训练流程及代码
训练方式
是否支持微调

业务流程

对比上述的模型，灵心模型的场景及应用和我们的业务极度贴近，但官方只是给了模型文件部署，并没有提供相关的训练数据也不支持微调。所幸，其业务流程还是很详细，给我们的业务落地也提供了参考。

训练流程及代码

而CareGPT与MedicalGPT两个模型给我提供了详细的训练流程参考：

第一阶段：PT(Continue PreTraining)增量预训练，在海量领域文档数据上二次预训练AI模型，以适应领域数据分布。
第二阶段：SFT(Supervised Fine-tuning)有监督微调，构造指令微调数据集，在预训练模型基础上做指令精调，以对齐指令意图，并注入领域知识。
第三阶段
- RLHF(Reinforcement Learning from Human Feedback)基于人类反馈对语言模型进行强化学习，分为两步：
  - RM(Reward Model)奖励模型建模，构造人类偏好排序数据集，训练奖励模型，用来建模人类偏好，主要是"HHH"原则，具体是"helpful, honest, harmless"。
  - RL(Reinforcement Learning)强化学习，用奖励模型来训练SFT模型，生成模型使用奖励或惩罚来更新其策略，以便生成更高质量、更符合人类偏好的文本。
- DPO(Direct Preference Optimization) 直接偏好优化方法，DPO通过直接优化语言模型来实现对其行为的精确控制，而无需使用复杂的强化学习，也可以有效学习到人类偏好，DPO相较于RLHF更容易实现且易于训练，效果更好。

针对如上阶段，开源模型有对应阶段的脚本已实现，最好是可以一键执行。

训练数据及格式

数据的质量与格式，在这些开源模型都是有的；而且对我们的业务来说，多轮对话是很常见的，因此怎么样让数据更紧凑更小，但不损坏数据质量，是我们需要审视的。
扁鹊与灵心领域模型的数据格式是我蛮满意的，而且极度满足我们的业务场景：

input: "病人：六岁宝宝拉大便都是一个礼拜或者10天才一次正常吗，要去医院检查什么项目\n医生：您好\n病人：六岁宝宝拉大便都是一个礼拜或者10天才一次正常吗，要去医院检查什么项目\n医生：宝宝之前大便什么样呢？多久一次呢\n病人：一般都是一个礼拜，最近这几个月都是10多天\n医生：大便干吗？\n病人：每次10多天拉的很多\n医生："
target: "成形还是不成形呢？孩子吃饭怎么样呢？"

同时，在不同的治疗阶段，治疗的侧重点也是不一样的，指令instruction的引导与数据的场景化显得尤为重要。

训练方式

训练方式决定着，采取怎样的训练形式——微调训练/多阶段训练。基于官方微调文档的训练还是开源微调框架的训练，都是不一样的。
目前来说，越来越多的领域模型是基于开源微调框架来做的微调训练，微调框架比如LLaMA-Factory；相比较官方文档来说，开源微调框架的流程更清晰，微调策略更多样、训练阶段更完善、且支持的数据格式也多种。

MVP

MVP是最小可行性产品英文的首字母缩写，是企业用最小的成本开发出可用且能表达出核心理念的产品版本，使其功能极简但能够帮助企业快速验证对产品的构思。
准备好AI模型与服务器后，按上述的流程实现一个MVP，以供产品人员试用、客户演示、进而实现项目最小闭环；最终就是走向产品迭代，不断演进。

零基础如何学习大模型 AI

领取方式在文末

为什么要学习大模型？

学习大模型课程的重要性在于它能够极大地促进个人在人工智能领域的专业发展。大模型技术，如自然语言处理和图像识别，正在推动着人工智能的新发展阶段。通过学习大模型课程，可以掌握设计和实现基于大模型的应用系统所需的基本原理和技术，从而提升自己在数据处理、分析和决策制定方面的能力。此外，大模型技术在多个行业中的应用日益增加，掌握这一技术将有助于提高就业竞争力，并为未来的创新创业提供坚实的基础。

大模型实际应用案例分享

①智能客服：某科技公司员工在学习了大模型课程后，成功开发了一套基于自然语言处理的大模型智能客服系统。该系统不仅提高了客户服务效率，还显著降低了人工成本。
②医疗影像分析：一位医学研究人员通过学习大模型课程，掌握了深度学习技术在医疗影像分析中的应用。他开发的算法能够准确识别肿瘤等病变，为医生提供了有力的诊断辅助。
③金融风险管理：一位金融分析师利用大模型课程中学到的知识，开发了一套信用评分模型。该模型帮助银行更准确地评估贷款申请者的信用风险，降低了不良贷款率。
④智能推荐系统：一位电商平台的工程师在学习大模型课程后，优化了平台的商品推荐算法。新算法提高了用户满意度和购买转化率，为公司带来了显著的增长。
…
这些案例表明，学习大模型课程不仅能够提升个人技能，还能为企业带来实际效益，推动行业创新发展。