- 博客(13)
- 收藏
- 关注
RSS订阅原创 [项目实训]阿里云算力免费使用
准备完成(约两分钟)后，点击打开示例，就可以免费使用阿里云算力，点击导入文件，将外部机器中的chatglm2导入服务器，就可以在阿里云中进行微调了。点开侧边栏，找到人工智能与机器学习-人工智能平台PAI，点击进入，选择模型开发与训练-交互式建模(DSW)，点击免费试用(新号可试用三个月)申请后创建的实例，点击启动。
2024-06-23 21:50:43
245
原创 [项目实训]大模型输出的后处理办法
因为大模型生成算法本身的原因，调整prompt几乎不可能让它不会有额外的输出，但是在大量的测试下，发现它在出现额外输出时，一般仍会按要求在其之后有json数据，所以在进一步使用该数据(传给前端或存到数据库)之前，用另一个调整函数对输出进行调整，使用正则表达式筛选出其中的json数据，并且删除其他内容。同时，json字符串中间应该是‘，’但是有时返回的数据会使用‘、’，再进行一次匹配，将'、'替换成','它尝试识别和格式化JSON格式的数据，确保输出是标准的JSON结构。
2024-05-31 15:28:25
438
原创 [项目实训]第八周周报
2.患者端VUE和Django部分代码已整合，可正常通讯，调用大模型部分正常工作。2.完成前端VUE和后端Django代码的对接。1.Django后端主要部分全部完成。1.继续完善后端Django代码。完成VUE部分剩下的部分(医生端)3.测试已完成部分的代码。
2024-05-31 15:21:42
134
原创 [项目实训]项目Django后端
我们后端选用的是Django，前端使用Vue，完成一个前后端分离的web应用，完成更多复杂的功能，并且将生成的病历信息存入数据库，给患者提供生成病历、查询病历的数据库操作，并且医生能够查看挂号患者的病历，填写诊断结果。当后端Django项目启动后，前端往对应路由发送http请求，会发送到view.py中对应路由的函数进行处理，对应函数的return也是返回到对应的前端页面。并且利用Django自带的数据库框架，将生成的病历存入数据库中的record表中(这里的inference为调用大模型的方法)
2024-05-31 11:22:37
283
原创 [项目实训]大模型应用：病历自动生成 实现
通过python的transfermers库，使用本地部署的chatglm-6B大语言模型，实现病历自动生成功能，输入为病人自述(示例：'我叫林凡，今年42岁，前天开始一直觉得肩膀酸痛，几十年前曾经得过肩周炎，但是已经痊愈，没有发现药物过敏')，输出为json格式的病历结果。如果某个信息在文本中没有提及，则使用['未提供']表示。
2024-05-29 22:26:25
1012
2
原创 [项目实训]前端布局设计，前后端接口设计，数据库设计
删除虚拟环境中的gradio，重新指定3.50.0版本下载。查找资料后发现虚拟环境中的gradio版本太高，再次运行程序，问题解决。
2024-04-29 11:04:53
176
原创 [项目实训]chatglm本地部署(三)——导入预训练结果，完成部署
导入AutoTokenizer， AutoModel， 将预训练结果通过AutoTokenizer和AutoModel导入，设置trust_remote_code属性为True，部署最终完成。response, history = model.chat(tokenizer, "你好,今天的天气如何", history=[])这里用的是int4量化的预训练结果，下载完成之后放入E:\\glmdata。成功给出了输出，但是仍有报错，并且较为缓慢。尝试在下一篇给出解决。
2024-04-10 21:20:57
226
2
原创 [项目实训]Chatglm部署(二)——安装CUDA和torch
PyTorch社区非常活跃，为PyTorch提供了大量的库和工具，包括用于计算机视觉的TorchVision、用于自然语言处理的TorchText、用于图形处理的TorchGeo等。：PyTorch提供了与Python科学计算生态系统的良好兼容性，包括NumPy、SciPy等库，以及对C++的支持，这对于在生产环境中部署模型特别有用。：PyTorch提供了预训练模型和模型组件，这使得研究人员和开发人员可以轻松进行迁移学习和快速实验新的研究想法。安装完成后在pycharm中输入。
2024-04-10 20:58:03
373
原创 [项目实训]Chatglm-6B本地部署(一)——依赖库安装
首先从github下载ChatGLM-6B的压缩包，根据目录下的requirements.txt自动安装Python依赖的库。原因是本地的pydantic版本过高，与chatglm冲突，解决的方法是使用anaconda创建了一个新的python解释器环境，在新环境中安装依赖库，成功。依赖环境配置成功后，下载预训练结果。本地pydantic的版本过高。
2024-04-08 22:19:01
323
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人