【项目4】大健康行业智能问诊系统--基于GPT2的医疗机器人聊天系统

已于 2024-07-20 10:48:05 修改
阅读量19 收藏
点赞数
分类专栏： 大模型实战 文章标签： 学习 人工智能 阿里云 语言模型 langchain
于 2024-07-20 07:16:58 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ag_ndqn/article/details/140564590
版权

项目介绍

  • 原始数据
    • train：30000
    • val：

数据处理

  • 数据格式转换
    • 统一存储方式
      • txt
      • pkl
  • 数据预处理
    • BPS
  • 数据迭代器
    • dataset
      • 获取数据集中的每一个样本
      • 继承自dataset
        • init
        • len
        • getitem
    • dataloader
      • 获取batchsize数据

模型构建

  • GPT2
    • 词嵌入
    • 位置嵌入
    • 12层TransformerDecoder
    • LayerNorm+全连接
  • 使用网络框架
    • 权重随机初始化
    • 没有先验信息，从头开始训练
  • 使用预训练模型
    • 一定要有bin文件
    • 先验信息微调

模型训练与验证

获取数据

构建好模型

遍历每个epoch数据

遍历每个batch数据

模型预测

损失计算

反向传播

模型权重保存

模型上线

大模型史老师
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
智能聊天机器人技术研究与应用
shiter编写程序的艺术
12-11 762
在接下来的十年里，一群雄心勃勃的科学家追随图灵的脚步。Joseph Weizenbaum于1966年创建了ELIZA，这是第一批聊天机器人之一。虽然ELIZA未能通过图灵测试，但它确实通过关键词和编程响应等创新开辟了新的领域。大约六年后，肯尼斯·科尔比（Kenneth Colby）于1972年创建了聊天机器人PARRY。他用精神病学家测试了聊天机器人，只有48%的人能分辨出人和PARRY之间的区别。PARRY使用一个由分配给语言输入的不同权重触发的“情绪反应”系统，模拟了一个偏执狂。
“GPT+医疗健康”：给予医疗领域新机遇
weixin_55551028的博客
06-05 698
此外，GPT还需要大量的文本数据来训练和优化模型。景联文科技提供的产品为全链条AI数据服务，从数据采集、清洗、标注、到驻场的全流程、垂直领域数据解决方案一站式AI数据服务，满足了不用应用场景下的各类数据采集标注业务的需要，协助人工智能企业解决整个人工智能链条中数据采集标注环节的相对应问题，推动人工智能在更多地场景下实现落地应用，构建完整的AI数据生态。这种智能医疗助手可以在一定程度上扩展医疗资源，为患者提供更全面的医学知识和服务，提供更加精准、高效的医疗服务，进一步推动健康医疗领域的数字化升级。
支付宝医疗大模型亮相！中英文考试超GPT4，已落地江浙沪一线医院
python12345_的博客
07-09 749
支付宝医疗大模型亮相！中英文医疗考试、基准测试达到甚至超过GPT-4水准。此外，其医疗专业能力在中文医疗LLM评测榜单promptCBLUE中，位列A榜第一，B榜第二。模型在识别报告、药品、毛发等图像准确率中达90%以上。WAIC现场，支付宝还联合人民卫生出版社、北京大学医学部、浙江省卫生健康委等20家机构，联合发起AI医疗共建计划。
从零开始构建基于ChatGPT的嵌入式(Embedding)本地医疗客服问答机器人模型
python123456_的博客
08-15 744
代码全部开源,GitHub地址为:前端完全也能搭建， 前端完全也能搭建， 前端完全也能搭建， 本文中我使用的是后端语言golang,来调用的所有外部接口，但它们均是restful api,所以如果你使用的是其他语言，那么是完全可以替换的，包括nodejs或者直接使用前端请求都是可以实现我的功能的。后面有机会会使用vue3来添加一个页面，现在主要通过postman或者apifox来调试接口，主要为了验证逻辑想法。接下来首先来看看embeddings到底是什么吧可以被应用于以下几种情况。
从零开始构建基于ChatGPT的嵌入式(Embedding)本地医疗客服问答机器人模型（看完就会，看到最后有惊喜）
python1234567_的博客
07-26 3247
代码全部开源,GitHub地址为:前端完全也能搭建， 前端完全也能搭建， 前端完全也能搭建， 本文中我使用的是后端语言golang,来调用的所有外部接口，但它们均是restful api,所以如果你使用的是其他语言，那么是完全可以替换的，包括nodejs或者直接使用前端请求都是可以实现我的功能的。后面有机会会使用vue3来添加一个页面，现在主要通过postman或者apifox来调试接口，主要为了验证逻辑想法。接下来首先来看看embeddings到底是什么吧可以被应用于以下几种情况。
【ChatGPT】从零开始构建基于ChatGPT的嵌入式(Embedding) 本地（Local） 智能客服问答机器人模型
热门推荐
禅与计算机程序设计艺术
05-19 2万+
可以被应用于以下几种情况- 搜索（根据查询字符串的相关性对结果进行排名）- 聚类（根据相似性对文本字符串进行分组）- 推荐（具有相关文本字符串的项目被推荐）- 异常检测（识别关联度小的异常值）- 多样性测量（对相似性分布进行分析）- 分类（文本串按其最相似的标签进行分类）本文将主要学习第一种情况：搜索，根据相关性进行排名。也可以理解成搜索完一定会有结果，但是相关性有可能很低，有可能需要用户加以甄别。出来的信息可能不是用户需要的答案。
人工智能-开源大语言模型完整列表
软件开发实战项目分享
06-11 458
Large Language Model (LLM) 即大规模语言模型，是一种基于深度学习的自然语言处理模型，它能够学习到自然语言的语法和语义，从而可以生成人类可读的文本。所谓"语言模型"，就是只用来处理语言文字（或者符号体系）的 AI 模型，发现其中的规律，可以根据提示 (prompt)，自动生成符合这些规律的内容。LLM 通常基于神经网络模型，使用大规模的语料库进行训练，比如使用互联网上的海量文本数据。
基于GPT3.5实现本地知识库解决方案-利用向量数据库和GPT向量接口-实现智能回复并限制ChatGPT回答的范围
张伟的专栏
04-19 4298
标题有点长，但是基本也说明出了这篇文章的主旨，那就是利用GPT AI智能回答自己设置好的问题既能实现自己的AI知识库机器人，又能节省ChatGPT调用的token成本费用。
大模型争霸的下一站：不仅是超越GPT-4，更是寻求模型之间的平衡应用
sinat_32970179的博客
05-06 689
日日新端侧大模型“暴打”GPT-4？商汤科技消解了大模型的争议点
聊天机器人-基于Langchain+GPT4实现的聊天机器人-支持输入PDF文档-附项目源码+流程教程-优质项目实战.zip
07-30
聊天机器人_基于Langchain+GPT4实现的聊天机器人_支持输入PDF文档_附项目源码+流程教程_优质项目实战
Chat-GPT：聊天机器人的未来之路
04-02
Chat-GPT（Chatbot Generative Pre-trained Transformer）是一种基于GPT技术的聊天机器人。GPT（Generative Pre-trained Transformer）是由OpenAI开发的一种预训练生成式自然语言处理（NLP）模型。通过强大的预训练...
Chat AI - AI聊天机器人（支持GPT-4）
04-03
Chat AI - AI聊天机器人（支持GPT-4） 强大而智能的聊天人工智能 - 人工智能聊天机器人应用程序可以像私人助理一样回答您生活中的任何问题。
GPT2-Telegram-Chatbot：GPT-2电报聊天机器人
02-01
GPT2-电报-聊天机器人相对而言，GPT-2电报聊天机器人已经针对聊天进行了调整。 随时让我成为PR，我将检查您的代码！ 该漫游器并非始终都是100％准确的（为什么我要在/ retry函数中进行编码。） 由于Bot占用大量内存...
智能医疗新篇章：Chat-GPT在医疗领域的探索
04-02
现在将探讨基于GPT技术的聊天机器人（Chat-GPT）在医疗领域的应用及其前景。 一、Chat-GPT在医疗领域的应用 在线医疗咨询：Chat-GPT可以为患者提供24小时在线医疗咨询服务，帮助他们解答一般性的健康问题，节省了...
编程的魅力及基础知识和学习路径
最新发布
z86666610的博客
08-19 127
这包括了解计算机如何工作（硬件与软件的关系）、熟悉基本的数据类型（如整数、浮点数、字符串等）、掌握条件语句和循环结构以实现逻辑判断与重复执行、以及理解函数和模块的概念以实现代码的复用和模块化。从古老的汇编语言到现代的Python、Java、C++等高级语言，每一种语言都有其独特的优势和适用场景，为开发者提供了广阔的选择空间。在数字化浪潮席卷全球的今天，编程已不再是计算机科学专业人士的专属领地，它如同一把钥匙，解锁了通往未来世界的无数可能。在这个充满变革的时代，掌握编程技能，就是掌握了开启未来之门的钥匙。
【OCR 学习笔记】二值化——全局阈值方法
TeamLee的博客
08-14 900
该文介绍了图像二值化操作中的全局阈值方法，包括固定阈值方法和Otsu算法（最大类间方差法）。
CVPR2024 | PromptAD: 仅使用正常样本进行小样本异常检测的学习提示
08-16 1063
本文提出的PromptAD模型结构如图2所示。PromptAD建立在VV-CLIP之上，其视觉编码器用于提取全局和局部的特征。本文提出的语义串联（SC）用来设计提示。具体来说，将N个可学习的普通前缀与目标名称串联起来获得普通提示（NPs），然后将这N个普通提示分别与M个手动设置的异常后缀和L个可学习的异常后缀串联，以获得N×M个异常提示（MAPs）和N×L个可学习的异常提示（LAPs）。视觉特征和提示特征用于通过对比损失和本文提出的显式异常边界（EMA）损失来完成提示学习。
EmguCV学习笔记 VB.Net 2.S 特别示例
UruseiBest 的技术专栏
08-17 1088
将文字图像生成0和255的二值化图像，使文字部分为黑色（根据实际情况需要考虑反色），然后将文字图像和纹理图像直接相加，文字图像黑色（值为0）的部分相加后为纹理图像的颜色，文字图像白色（值为255）的部分相加后保持白色（255）。8、将加密图像1（mEncPart）和黑色图像2（mnoEncPart）进行直接相加，去除黑色部分，生成背景不加密+区域加密的最终图像（mResult）。4、加密图像（mEnc）和随机值图像（mKey）进行Xor操作，将加密图像解密，生成解密图像（mDec）。
利用GPT-2微调打造个性化聊天机器人
文章的焦点是rinna，一个在日本流行的SNS应用LINE上发布的聊天机器人，其背后基于GPT-2的日语预训练模型。 为了创建个人聊天机器人，作者选择了rinna/japanese-gpt2-small，这是一个小型版本的模型，适合在资源有限...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

大模型史老师

让我用AI改变自己，改变世界！

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值