ChatGPT技术应用分享
关注
分享
扫一扫
文章平均质量分 88
ChatGPT技术应用分享，本系列文章，收集大量ChatGPT技术文章，内容丰富，涉及广泛，欢迎大家观看，评论和关注。
青少年编程作品集
肖老师，IT高级软件工程师，从事软件设计与研发20年之久，具备丰富的设计和研发等编程经验。
精通逻辑算法，工程数控，数据分析与挖掘。有4年的金融保险银行数据逻辑算法分析处理工作经验，
有5年的电信移动无线通讯技术3G，4G网优网规相关编程经验，有4年的企业应用软件，工程控制应用软件，互联网应用软件编程经验
还有4年的移动APP，小程序，Web前后端软件编程经验。精通Scratch,Python,C,C++,Java,Javascript,html5,Css3等编程语言，
熟悉各种编程工具，以及编程的流程和编程环境。涉及积木编程，AI人工智能编程，大数据挖掘编程，手机APP和小程序编程。
展开
-
【大模型参数高效微调技术实战】第6课--IA3
这些学习到的向量被注入到典型的基于transformer的架构中的attention和feedforward模块中。原则上，IA3 可以应用于神经网络中权重矩阵的任何子集，以减少可训练参数的数量。加权进行缩放，从而获得更强的性能，同时仅引入相对少量的新参数，如下图左边所示，它的诞生背景是为了改进 LoRA。给定注入 IA3 参数的目标层，可训练参数的数量可以根据权重矩阵的大小确定。第四步，模型训练的其余部分均无需更改，当模型训练完成之后，保存高效微调部分的。第一步，引进必要的库，如：IA3 配置类。原创 2024-10-09 10:51:58 · 1086 阅读 · 0 评论 -
【大模型参数高效微调技术实战】第5课--LoRA
Transformer的权重矩阵包括Attention模块里用于计算query, key, value的Wq，Wk，Wv以及多头attention的Wo和MLP层的权重矩阵，LoRA只应用于Attention模块中的4种权重矩阵，并且通过消融实验发现同时调整 Wq 和 Wv 会产生最佳结果，因此，默认的模块名基本都为 Wq 和 Wv 权重矩阵。随着，ChatGPT 迅速爆火，引发了大模型的时代变革。第四步，模型训练的其余部分均无需更改，当模型训练完成之后，保存高效微调部分的模型权重以供模型推理即可。原创 2024-10-09 10:47:33 · 801 阅读 · 0 评论 -
【大模型参数高效微调技术实战】第4课--Prefix Tuning / P-Tuning v2
同时，为了防止直接更新 Prefix 的参数导致训练不稳定和性能下降的情况，在 Prefix 层前面加了 MLP 结构，训练完成后，只保留 Prefix 的参数。然后，在训练的时候只更新Prefix部分的参数，而 PLM 中的其他部分参数固定。第一步，引进必要的库，如：Prefix Tuning / P-Tuning v2 配置类。至此，我们完成了 Prefix Tuning / P-Tuning v2 的训练及推理。第四步，模型训练的其余部分均无需更改，当模型训练完成之后，保存高效微调部分的。原创 2024-10-09 10:45:55 · 1096 阅读 · 0 评论 -
【大模型参数高效微调技术实战】第3课--P-Tuning
另外，virtual token的位置也不一定是前缀，插入的位置是可选的。已经变得高度离散，如果随机初始化virtual token，容易优化到局部最优值，而这些virtual token理论是应该有相关关联的。），该方法将 Prompt 转换为可以学习的 Embedding 层，并用MLP+LSTM的方式来对Prompt Embedding进行一层处理。第四步，模型训练的其余部分均无需更改，当模型训练完成之后，保存高效微调部分的。第一步，引进必要的库，如：P-Tuning 配置类。原创 2024-10-09 10:40:40 · 1089 阅读 · 0 评论 -
【大模型参数高效微调技术实战】第2课--Prompt Tuning
本文对 Prompt Tuning 的基本原理进行了简述；同时，讲解了使用 Prompt Tuning 技术进行模型训练及推理。下文将对 P-Tuning 微调技术进行实战讲解。原创 2024-10-09 10:36:17 · 988 阅读 · 0 评论 -
【大模型参数高效微调技术实战】第1课--PEFT概述及环境搭建
PEFT 是 Huggingface 开源的一个参数高效微调库，它提供了最新的参数高效微调技术，并且可以与 Transformers 和 Accelerate 进行无缝集成。文本主要对 PEFT 库进行了基本的概述，同时，搭建了运行 PEFT 的开发环境。本系列后续文章将对不同的PEFT技术进行实战。原创 2024-10-09 10:32:22 · 1158 阅读 · 0 评论 -
【ChatGPT技术9】Spring Boot集成sse实现chatgpt流式交互
SSE（Server-Sent Events）是一种允许服务器向客户端推送实时数据的技术，它建立在 HTTP 和简单文本格式之上，提供了一种轻量级的服务器推送方式，通常也被称为“事件流”（Event Stream）。他通过在客户端和服务端之间建立一个长连接，并通过这条连接实现服务端和客户端的消息实时推送。原创 2024-09-20 10:22:24 · 722 阅读 · 0 评论 -
【ChatGPT技术6】ChatGPT-4o发布了，所有人都可以免费用
美国时间 5 月 13 日，在 Sam Altman 缺席的情况下（为什么缺席，猜测是可能后面还有更重磅的消息，这次的产品只是一个中间过渡产品），OpenAI CTO Mira Murati 介绍了新的 ChatGPT 产品 ChatGPT-4o。这个缩写中的o代表omni(到处，遍及，一切)在这次发布会前夕，多家中外媒体外对 OpenAI 新的发布会有颇多谣传以及质疑。原创 2024-09-20 09:19:50 · 868 阅读 · 0 评论 -
【ChatGPT技术4】ChatGPT成精了！居然主动勾引用户，OpenAI又测试新功能？
我们暂且相信上面这些用户的遭遇是真实的，那OpenAI的新功能可能会改变ChatGPT得交互方式，从最开始的用户主动变成AI主动，再加上一个时间触发功能，其应用场景也会进一步扩大成为真正的陪伴型AI助理。ChatGPT的回答是，上次我们交谈的时候，你提到过脚踝轻度扭伤，我只是想跟进一下你的健康情况，以及你是否需要更好的恢复建议。很多人都遭遇了类似的ChatGPT主动“勾引”情况，都是在没有提问的情况下，收到了ChatGPT的回复。一个是用户行为，而另外一个是系统行为，所以，用自定义功能造假的可能很小。原创 2024-09-17 21:27:53 · 352 阅读 · 0 评论 -
【ChatGPT技术3】火爆全球的chatGPT没那么玄乎，只是炒作太过厉害罢了
所以，那时候自媒体洗稿的人有两个说法，叫“粗洗”和“精洗”，“粗洗”就是直接用软件洗稿就发，这种稿子质量很差，前言不搭后语的情况很多。我批评人，是我自己吃亏，又没让我受益。我用过一个叫“全能翻译官”的软件，虽然终身会员只要 99 元，可以翻译 50M 以内的 PDF 文件，但效果真不咋地，跟淘宝商家给我的服务差远了，见图。有读者问我，写书的目的是什么？懒和不爱学习没啥可耻的，人本来就这样，我要是没打算当这方面的世界第一，我也天天躺着喝酒吹牛皮打游戏了，我才不愿意每天都看书看地图呢，我比地主家的小毛驴还累。原创 2024-09-17 21:20:37 · 749 阅读 · 0 评论 -
【ChatGPT技术2】科技大厂竞逐AIGC，中国的ChatGPT在哪？
董晓飞认为，如何防止ChatGPT类产品的滥用对社会产生潜在负面影响亟须得到重视，“更希望我们目前的一些主流企业、科研机构，在生成式AI上发力，能引领新时代的AI发展。从2018年到2022年，OpenAI先后迭代并推出了GPT-1、GPT-2、GPT-3和InstructGPT，此次发布的ChatGPT就是在GPT-3的基础上通过指令微调后得到的。在算法层面，ChatGPT的基础是世界上最强大的LLM（大语言模型）之一——GPT-3，同时引入了基于人类反馈的强化学习方法，提高了对话的质量。原创 2024-09-17 21:18:09 · 1171 阅读 · 0 评论 -
【ChatGPT技术1】ChatGPT一种生产力的变革
在RLHF的框架下，开发人员会在人工智能做出符合人类预期回答时给予奖励，而在做出有害内容的回答时施加惩罚，这种根据人类反馈信号直接优化语言模型的方法可以给予AI积极的引导。还有一些人表达了对RLHF这类安全预防性技术措施的质疑，他们担忧足够聪明的人工智能可能会通过模仿人类的伪装行为来绕过惩罚，在被监视的时候假装是好人，等待时机，等到没有监视的时候再做坏事。最初的AIGC通常基于小模型展开，这类模型一般需要特殊的标注数据训练，以解决特定的场景任务，通用性较差，很难被迁移，而且高度依赖人工调参。原创 2024-09-17 21:16:38 · 1017 阅读 · 0 评论 -
【ChatGPT技术应用分享】什么是“自然语言处理”? 它到底在“处理”些什么？
NLP是人工智能中最为困难的问题之一。深度学习在NLP中的应用非常广泛，可以说横扫NLP的各个方面，从底层的分词、语言模型、句法分析等到高层的语义理解、对话管理、知识问答等方面几乎都有深度学习的模型，并且取得了不错的效果。不过，目前的深度学习技术还不具备理解和使用自然语言所必需的概念抽象和逻辑推理能力，还有待今后进一步的研究。总而言之，随着互联网的普及和海量信息的涌现，作为人工智能的核心技术，NLP正在人们的工作、学习、生活中扮演着越来越重要的角色，并将在社会发展和科技进步的过程中发挥越来越重要的作用。原创 2024-08-26 09:19:01 · 242 阅读 · 0 评论 -
【ChatGPT技术应用分享】对 OpenAI 模型进行基准测试以实现自动错误解决
本文探讨了 LLM 在软件开发中的有效性，特别关注错误解决。根据我在 Raygun 从事 AI 错误解决工作期间对整个行业的观察和见解，我将分析 LLM 的当前功能及其对未来开发实践的影响。本文对软件开发领域的法学硕士学位进行了评估，重点关注其解决错误的有效性，这是软件开发人员工作流程中的一项关键任务。大型语言模型 (LLM) 正在日益塑造软件开发的未来，为代码生成、调试和错误解决提供了新的可能性。这些人工智能驱动工具的最新进展促使人们更深入地研究它们的实际应用及其对开发人员工作流程的潜在影响。原创 2024-08-26 09:16:31 · 733 阅读 · 0 评论 -
【ChatGPT技术应用分享】ChatGPT成8岁娃「导师」，外国家长们慌了！
GenAI的这股风不知不觉也刮到了学校课堂中。根据外媒报道，美国、英国、韩国等地的中小学逐渐开始推行「AI教育变革」。为什么被一众大学禁止的ChatGPT类AI工具，反而要在中小学推广？虽然OpenAI还没靠AI大模型真正实现盈利，GenAI已经迎来了一个坚实的用户群体——各国的中小学。根据《金融时报》、《华盛顿邮报》、《纽约时报》等多家媒体的报道，已经有不止一个国家和地区计划在中小学课堂上使用AI辅助教学。原创 2024-08-26 09:14:43 · 896 阅读 · 0 评论 -
【ChatGPT技术应用分享】开发者终于可以定制自己的GPT-4o了！
事实上，早在 4 月份，OpenAI 宣布为开发人员提供新的微调工具（例如基于 epoch 的检查点创建）时就表示，“我们相信，未来绝大多数组织将开发针对其行业、业务或用例个性化的定制模型。OpenAI终于又Open了一把！开发者可以免费定制自己的GPT-4o了！当地时间8月20日，OpenAI 推出了GPT-4o微调功能，截至9月23日，所有开发者都可以使用自定义的数据集对GPT-4o进行微调，满足特定用例的需求。原创 2024-08-26 09:11:37 · 639 阅读 · 0 评论 -
【ChatGPT技术应用分享】用ChatGPT写一个REST API！
ChatGPT是由人工智能研究中心OpenAI创建的尖端自然语言处理模型，OpenAI公司是由埃隆·马斯克、萨姆·奥特曼和格雷格·布罗克曼共同创办的。该模型于2018年6月发布，并不断进行修改和升级，最新版本GPT-3（https://openai.com/blog/gpt-3-apps）于2020年发布。时下最火的ChatGPT是基于GPT-3模型开发而成，并于2022年发布。原创 2024-08-26 09:09:13 · 488 阅读 · 0 评论 -
【ChatGPT技术应用分享】如何创建一个集成的智能家居系统? ChatGPT告诉你！
当智能家居系统首次安装时，人工智能可以通过使用预先配置的设置和用户输入的组合来帮助定义其应该如何运行。AI可以提供与常用场景一致的预配置模板或配置文件。这些模板可以基于行业最佳实践或一般首选项。用户可以选择适合其需要的模板，并进一步定制。AI可以在初始设置过程中提示用户提供其偏好。这可以包括关于照明偏好、温度设置、首选安全级别和其他相关参数的问题。通过收集这些信息，AI可以从一开始就个性化智能家居体验。AI可以分析情境因素，如房屋的物理布局，安装的设备数量和类型，以及居住者的日常生活。原创 2024-08-26 09:02:08 · 882 阅读 · 0 评论 -
【ChatGPT技术应用分享】让ChatGPT告诉你如何搭建支持ChatGPT算力的无损网络
新华三数据中心网络将持续聚焦超宽、智能、融合、绿色的演进，提供更智能、更绿色、更强算力的数据中心网络产品与方案。随着全球企业数字化转型的加速进行，当前以ChatGPT为代表的应用在生产、生活领域的不断深入，ChatGPT热度暴增的背后，代表着人工智能等内容自动生成技术所需要的基础设施需求也水涨船高。原创 2024-08-26 09:00:38 · 620 阅读 · 0 评论 -
【ChatGPT技术应用分享】一个正在开发中的 ChatGPT GNOME 扩展
你想要一个人工智能的 GNOME 桌面吗？下面这个扩展可以实现这个功能！ 是一个在当下十分流行的聊天机器人，它可以与用户进行互动，用户就像在对话一样。最近，关于 ChatGPT 的新闻时常出现在人们的视野之中，有时是关于 ChatGPT 的坏消息。不难看出，ChatGPT 有其两面性。事实上，对于任何人工智能的实现都同样如此。一方面，ChatGPT 这一工具的巨大潜力给许多人留下了深刻的印象。但另一方面，因人们对它的滥用/误用，导致 ChatGPT 在科技界引起了轩然大波。原创 2024-08-26 08:59:07 · 690 阅读 · 0 评论 -
【ChatGPT技术应用分享】基于开源的 ChatGPT Web UI 项目，快速构建属于自己的 ChatGPT 站点
前面的文章给大家接入了如何接入微信，钉钉以及知识星球，今天的文章教大家如何构建一个属于自己的 ChatGPT 平台，对于 ChatGPT 这种划时代的产品，在这么短的时间里面已经风靡全球了，各种互联网公司都投入大模型的研究，更有很多 AI 领域的人都开启了创业之旅，比如王慧文，李开复等。原创 2024-08-26 08:57:17 · 1304 阅读 · 0 评论 -
【ChatGPT技术应用分享】一个小技巧，解锁ChatGPT「预测未来」？
新研究利用了ChatGPT在2021年9月的训练数据截止这一限制，比较了ChatGPT在直接预测和未来叙事预测两种不同提示方式下，预测2022年各种事件上的表现。结果显示，未来叙事预测方法在预测2022年奥斯卡奖得主时表现出色，在预测宏观经济变量时，ChatGPT-4的表现也有所提高。如今，AI进步的速度，已经超出了我们对它用途的理解。为了防止ChatGPT「失控」，OpenAI定制了一套堪称严苛的「服务条款」，涉及包括法律、医疗/健康、个人安全、权利福祉、赌博放贷等领域。原创 2024-08-26 08:55:25 · 719 阅读 · 0 评论 -
【ChatGPT技术应用分享】如何使用ChatGPT编写更好的代码
生成代码是ChatGPT和其他遵循指令运行的大型语言模型(LLM)一个功能强大的应用。如果得到正确的提示，大型语言模型(LLM)可以生成程序员可能需要数小时才能编写的代码。译者 | 李睿审校 | 重楼生成代码是ChatGPT和其他遵循指令运行的大型语言模型(LLM)一个功能强大的应用。如果得到正确的提示，大型语言模型(LLM)可以生成程序员可能需要数小时才能编写的代码。然而，大型语言模型(LLM)并不能完成程序员的所有工作。他们无法分解复杂的问题，思考逻辑和结构，也无法创建多层次的解决方案。原创 2024-08-26 08:54:06 · 865 阅读 · 0 评论 -
【ChatGPT技术应用分享】如何用ChatGPT分析恶意软件
陈峻（Julian Chen），51CTO社区编辑，具有十多年的IT项目实施经验，善于对内外部资源与风险实施管控，专注传播网络与信息安全知识与经验。原创 2024-08-26 08:52:47 · 1069 阅读 · 0 评论 -
【ChatGPT技术应用分享】ChatGPT到来个人如何应对
随着ChatGPT的到来，有些事情收到了一定的冲击，有人兴奋有人焦虑，作为一个普通个人，我们该如何应对，我谈谈个人的看法。首先申请，我不是人工智能专家，所说观点也只是一家之言，只能作为抛砖引玉的探讨。我将从以下几点谈谈这个话题：人工智能的起源发展、大概原理、如何不焦虑、如何跟上时代。首先总结下我的观点：AI虽然到来，我们受到了冲击，此时更需我们镇定从容，不被外界杂声干扰，积极拥抱AI，聚焦做好自己所在领域的事情，长期坚持思考，坚持输出有价值的内容。原创 2024-08-26 08:51:05 · 748 阅读 · 0 评论 -
【ChatGPT技术应用分享】ChatGPT/InstructGPT详解
GPT系列是OpenAI的一系列预训练文章，GPT的全称是Generative Pre-Trained Transformer，顾名思义，GPT的目的就是通过Transformer为基础模型，使用预训练技术得到通用的文本模型。目前已经公布论文的有文本预训练GPT-1，GPT-2，GPT-3，以及图像预训练iGPT。据传还未发布的GPT-4是一个多模态模型。最近非常火的ChatGPT和今年年初公布的[1]是一对姐妹模型，是在GPT-4之前发布的预热模型，有时候也被叫做GPT3.5。原创 2024-08-20 10:28:42 · 760 阅读 · 0 评论 -
【ChatGPT技术应用分享】ChatGPT如何获利？如何复制一个ChatGPT？听听ChatGPT自己的回答
因此，很难估计克隆ChatGPT的成本，因为它取决于数据集的大小和所使用的计算资源，但其成本可能很昂贵，需要大量投资。（1）数据：ChatGPT是在一个大型文本数据集上进行训练的，因此获取或生成类似的数据集可能是克隆ChatGPT所涉及的最大成本之一。ChatGPT给出了自己的回答：ChatGPT的业务模型还没有确定，但建议业务的API方面至关重要。ChatGPT给出了自己的回答：ChatGPT的业务模型还没有确定，但建议业务的API方面至关重要。日前，有“好事者”问ChatGPT，另有“挑事者”询问，原创 2024-08-20 10:18:38 · 218 阅读 · 0 评论 -
【ChatGPT技术应用分享】如何使用ChatGPT快速构建一个网站模板
关于ChatGPT这个AI工具，它可以实现的事情，远不止实现一个网站页面模板，它可以做的事情还非常多，ChatGPT的出现，算是AI领域的一个重大突破，为啥这样说，因为，它的语言模型更加接近人类语言，不会像一个机器人那样死板，它会有所变通，如果你也喜欢AI，热爱机器学习的话，可以自行下载安装一个来体验一下，在使用的过程种，用英文语言跟它交流会比用中文更加友好。当然，并不是说不可以用中文，中文也一样可以的，它做了大量的训练，支持很多国家的语言。原创 2024-08-20 08:19:20 · 1004 阅读 · 0 评论 -
【ChatGPT技术应用分享】如何使用ChatGPT构建一个Web应用程序？
围绕ChatGPT的最大卖点之一是它可以成为一种有效的编程工具。其想法是这样的：您用自然语言描述需求，该聊天机器人生成满足该需求的代码。但是ChatGPT在这方面到底有多好呢？译者 | 布加迪审校 | 重楼围绕ChatGPT的最大卖点之一是它可以成为一种有效的编程工具。其想法是这样的：您用自然语言描述需求，该聊天机器人生成满足该需求的代码。但是ChatGPT在这方面到底有多好呢？还有什么比亲自测试一下更好的方法呢？我们让ChatGPT从头开始构建一个简单的Web应用程序。原创 2024-08-20 08:19:36 · 763 阅读 · 0 评论 -
【ChatGPT技术应用分享】ChatGPT到来，个人如何应对
我将从以下几点谈谈这个话题：人工智能的起源发展、大概原理、如何不焦虑、如何跟上时代。我将从以下几点谈谈这个话题：人工智能的起源发展、大概原理、如何不焦虑、如何跟上时代。首先总结下我的观点：AI虽然到来，我们受到了冲击，此时更需我们镇定从容，不被外界杂声干扰，积极拥抱AI，聚焦做好自己所在领域的事情，长期坚持思考，坚持输出有价值的内容。原创 2024-08-20 08:20:38 · 510 阅读 · 0 评论 -
【ChatGPT技术应用分享】如何像 ChatGPT 一样创建自己的 AI 机器人并从中获利
ChatGPT是由 OpenAI 开发的高度先进的语言模型。它能够根据接收到的输入生成类似人类的文本。该模型基于大量文本数据进行训练，并使用深度神经网络生成其响应。ChatGPT 的目标是能够尽可能准确自然地理解和回应人类语言。原创 2024-08-20 08:18:50 · 1012 阅读 · 0 评论 -
【ChatGPT技术应用分享】ChatGPT如何助力DevOps
ChatGPT 是一项还在发展中的技术，它仍然有无限潜力与巨大改进空间。随着 ChatGPT 的发展和成熟，我们可以预见它在未来能够成为 DevOps 团队更强大的工具。本文转载自微信公众号「 Seal软件」，作者Seal软件。转载本文请联系Seal软件公众号。DevOps 是一种方法论，旨在提高软件开发和 IT 运营团队的协作和效率。DevOps 涉及各种任务和流程的自动化，例如规划、编码、测试、部署、监控和故障排除。原创 2024-08-20 08:20:07 · 452 阅读 · 0 评论 -
【ChatGPT技术应用分享】如何利用ChatGPT搞科研？
本文经AI新媒体量子位（公众号ID:QbitAI）授权转载，转载请联系出处。这位研究僧，GPT-4都发布了，你还在纯人工搞科研吗？已经有人实测：ChatGPT科研全流程都能用，尤其是对于的科研人员，可以极大地提高日常科研工作效率。连写给导师的请假信，都能编得有模有样。△来自GPT-4。原创 2024-08-20 08:57:12 · 1057 阅读 · 0 评论 -
【ChatGPT技术应用分享】ChatGPT分享-如何开发一个LLM应用
目前来说由于通用大模型训练/部署的高成本来说，产业水平化分工的条件基本成熟，世界上并不需要很多个大模型，做LLM的应用将会是中小型企业和个人开发者的必然选择。新形态的编程/工程范式需要工程师去及时学习理解。目前的开源技术栈已经能满足大部分产品的需求，可以尝试快速实践demo来验证想法。Atom Capital：深入探讨ChatGPT带来的产业变革。原创 2024-08-19 17:35:01 · 700 阅读 · 0 评论