山东大学软件学院创新实训——项目记录(一)

基于RAG技术的心理健康大模型的开发及应用

一、项目背景

       随着当代社会的迅速发展和生活节奏的加快,心理健康问题已经成为现代社会备受关注的一大问题,人们越发认识到心理健康对个人幸福和社会稳定的重要性。然而,大众仍然缺乏对自我心理健康的认识和有效的心理健康管理方法,由于时间、精力、金钱、观念等因素的限制,大多数人往往无法及时获得专业的心理咨询和帮助。

       在此背景下,本项目旨在通过提供一个创新的“心灵日志”网站,帮助用户更好地了解和管理自己的心理健康状况,阶段性地分析自己的心理变化情况,并在遇到相关问题时进行对话式的心理咨询,及时获得必要的心理疏导和帮助。产品具有广阔的市场背景,不仅可以提高社会心理健康意识,还能促进个人和社会的健康发展。通过这一项目,我们希望为个人提供一个更加便捷的平台,使其能够探索自己的内心世界,解决心理困扰,提升心理韧性,从而更加健康地生活和工作。

二、技术创新

本项目致力于开发一个具有心理方面专业知识的行业大模型,并基于此开发出一个具有智能交互功能的心理日志网站。

当前传统的大语言模型在通用对话上具有优异表现,但对于专业领域的相关知识,传统的大语言模型会产生误导性的 “幻觉”,依赖的信息可能过时,在推理能力上也有所欠缺,难以给出有效的分析。

一些场景中使用专业数据集对通用LLM进行微调,以此获取在专业知识上表现更好的行业LLM,但对LLM进行微调需要较多资源,本项目难以支持;因此我们选择使用较为经济实惠的检索增强生成(RAG)技术,对LLM外接一个专业知识的向量数据库,在语言模型生成答案之前,先从向量数据库中检索相关信息,然后利用这些信息引导回答的生成过程。RAG 有效地缓解了幻觉问题,扩展了大语言模型的知识参考库,并增强了内容生成的可追溯性,使得大型语言模型在实际应用中变得更加实用和可信。

基于此开发的心理日志网站与同类产品相比除了具有更加专业的交互能力,在我们对同类产品的调研中发现,大部分产品更多关注具有抑郁症、精神躁郁等明显心理问题的人群,且功能局限于语言模型的简单一问一答式应用;而我们的产品中日志分析功能的数据来自用户在网站中上传的每日生活日志,关注非心理疾病方面的日常生活心情起伏,受众更大,且用户通过上传记录每日生活的日志为系统提供分析数据(即分析推荐请求),而非生硬的系统问答,用户的使用体验更好。

三、核心技术

RAG技术路线如下

本项目中psyLLM应用

实施计划:

第5周:

1.确定项目方向、定位和前期分工;

2.调研并学习相关技术,如RAG技术路线、文本表征模型和移动应用开发等;

第6-10周:

1.爬取收集心理专业知识相关数据,整合成文本文件作为心理专业知识;

2.部署文本表征模型,对心理专业知识进行嵌入,得到专业知识的向量数据库;

3.根据向量数据库的规模选择建立查询索引;

4.编写网站前台的主要功能界面;

第11-14周:

1.连通RAG的整体逻辑,得到psyLLM;

2.对psyLLM进行数据测试,计划从微博等平台上爬取个人的每日博客作为行业模型的测试数据,并进行改进调试;

3.连通前后台整体逻辑,完善相关功能;

第15-18周:

收尾工作。

预期成果:

实现一个后台基于RAG技术语言模型实现一个具有心理健康专业知识的行业大模型,前台实现基于日志的心理状态总结、分析和相关推荐,以及对话形式的心理疏导的“心灵日志”的网站。除此之外,项目团队表征得到的心理专业知识的向量数据库。

  • 18
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值