![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
AI
文章平均质量分 57
程序猿老罗
本人有10多年的开发经验,熟悉.Net,Java,Python等开发语言。开发过金融行业系统,外卖平台系统,大数据平台等。2022年带领团队荣获华为开发者大赛全国三等奖。
展开
-
手动安装Nvidia驱动和CUDA Toolkit
根据自己需要选择CUDA Toolkit版本,这里选择12.0.0。#如果提醒无权限执行。原创 2024-06-04 00:10:58 · 654 阅读 · 0 评论 -
人脸识别流程图分享
原创 2024-05-23 19:30:40 · 252 阅读 · 0 评论 -
Ubuntu部署Langchain-Chatchat本地知识库项目
开源项目:https://github.com/chatchat-space/Langchain-Chatchat基于 ChatGLM 等大语言模型与 Langchain 等应用框架实现,开源、可离线部署的检索增强生成(RAG)大模型知识库项目。原创 2024-05-16 16:49:40 · 448 阅读 · 0 评论 -
LoRA训练参数解读
-output_dir saves/ChatGLM3-6B-Chat/lora/train_5-120:这是保存训练模型和日志的目录。--model_name_or_path /home/ubuntu/THUDM/chatglm3-6b:这指定了预训练模型的目录位置。--lora_target query_key_value:这表示LoRA适应将针对注意力层中的查询和键值矩阵。--per_device_train_batch_size 2:这是每个GPU的训练批次大小。原创 2024-04-18 11:35:57 · 1174 阅读 · 0 评论 -
Ubuntu 微调训练ChatGLM3大语言模型
LLaMA Factory 的 LoRA 微调提供了的加速比,同时在广告文案生成任务上取得了更高的 Rouge 分数。结合 4 比特量化技术,LLaMA Factory 的 QLoRA 微调进一步降低了 GPU 显存消耗。原创 2024-04-18 10:44:46 · 1280 阅读 · 0 评论 -
Ubuntu 部署ChatGLM3大语言模型
ChatGLM3 是智谱AI和清华大学 KEG 实验室联合发布的对话预训练模型。源码:https://github.com/THUDM/ChatGLM3。原创 2024-04-16 13:37:38 · 1007 阅读 · 0 评论 -
Windows 部署ChatGLM3大语言模型
torch 推荐使用 2.0 及以上的版本,以获得最佳的推理性能。如果从 HuggingFace 下载比较慢,也可以从。transformers 库版本推荐为 4.36.2。显存: >= 13GB(4080 16GB)python 版本推荐3.10 - 3.11。使用pycharm建虚拟环境。内存:>= 16GB。原创 2024-04-11 18:56:41 · 541 阅读 · 0 评论 -
搭建端到端检索式问答系统
问答系统(Question Answering System, QA)是信息检索系统的一种高级形式,它能用准确、简洁的自然语言回答用户用自然语言提出的问题。问答系统的应用空间十分广,包括搜索引擎,小度音响等智能硬件,聊天机器人,以及政府、金融、银行、电信、电商领域的智能客服等。在问答系统中,检索式问答系统是最容易落地的一种,它具有速度快、可控性好、容易拓展等特点。检索式问答系统是一种基于问题答案对进行检索匹配的系统。源码参考。原创 2024-04-02 15:03:41 · 372 阅读 · 0 评论 -
【免费使用】基于PaddleSeg开源项目开发的人像抠图Web API接口
基于PaddleSeg开源项目开发的人像抠图API,服务器不存储照片大家可放心使用。原创 2023-11-24 19:24:15 · 2127 阅读 · 4 评论 -
快速部署OCR文字识别教程,简单易用
PaddleOCR旨在打造一套丰富、领先、且实用的OCR工具库,助力开发者训练出更好的模型,并应用落地。本文介绍PaddleOCR的快速部署和识别测试,采用最新的识别模型,识别效果很好,平均置信度可达99%。部署环境:Window10,CPU环境,Python3.10总的来说,PaddleOCR是一个功能丰富、高性能和易用的OCR工具库,适用于各种OCR任务的应用场景。它具有多种OCR任务支持、高性能和高效率、多语言支持、易用性和灵活性以及开源社区支持等优势。原创 2023-10-18 08:56:10 · 1200 阅读 · 0 评论 -
OCR识别置信度多少比较可信
因此,即使置信度很高,也不能保证识别结果一定100%准确。一般来说,如果OCR置信度在90%以上,那么可以认为这个识别结果是比较可信的。然而,这并不意味着90%以下的置信度就一定不准确,只是可能需要人工复查。OCR(光学字符识别)置信度是一个衡量OCR识别结果准确性的指标,通常以百分比形式表示。理论上,置信度越高,识别结果的准确性越高。因此,对于OCR识别结果,除了看置信度,还需要结合实际情况进行判断。如果可能,最好对OCR识别结果进行人工复查,以确保准确性。原创 2023-07-06 20:00:00 · 945 阅读 · 0 评论 -
NetCore ajax 实现chatgpt响应消息流式返回
流式返回是指服务器将回复数据作为流逐步返回给客户端,而不是等待全部数据准备就绪后一次性返回。这对于聊天式应用程序非常有用,因为它允许实时更新对话内容,而不需要等待所有回复都准备好后才显示。通过Ajax和XHRFields,你可以将用户的输入作为请求发送到ChatGPT服务器,然后将服务器返回的回复作为响应返回给客户端。流式返回允许服务器将回复数据分块发送给客户端,使客户端能够实时接收和显示这些数据,从而实现实时更新对话内容的效果。这在聊天式应用程序中非常有用。原创 2023-07-03 20:00:00 · 1471 阅读 · 1 评论 -
使用Azure OpenAI服务创建聊天机器人
前几天申请了微软的 Azure OpenAI 接口通过了,立即体验了一下。它的流式响应速度比用Cloudfare Workers 等代理 OpenAI 官方接口快多了。创建聊天机器人步骤。原创 2023-05-15 23:23:14 · 2356 阅读 · 1 评论