【ChatGPT】使用大型语言模型 (LLM) 进行特定领域语言（DSL）生成

已于 2023-06-01 02:05:10 修改
阅读量1.7w 收藏 9
点赞数 5
分类专栏： ChatGPT 文章标签： chatgpt 语言模型 人工智能 DSL 大模型
于 2023-06-01 01:59:32 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/universsky2015/article/details/130980056
版权

在这里插入图片描述

使用大型语言模型 (LLM) 进行特定领域语言（DSL）生成，markdown格式，10000字左右。大纲如下：背景介绍，LLM的核心能力，DSL的本质特征，怎样 使用LLM 结合外部知识和领域特定约束，通过 Backus-Naur Form(BNF) 表示进行学习，实现 DSL 的生成。给出具体的实验实例。

文章目录

了解本专栏 订阅专栏 解锁全文 超级会员免费看
禅与计算机程序设计艺术
关注
  • 5
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 56
    评论
专栏目录
订阅专栏
ChatGPT和大型语言模型（LLMs）： 实用指南
04-15
了解ChatGPT的实际工作原理! 这个字节大小的课程将让您了解大型语言模型（LLM），包括提示设计、微调和这项激动人心的技术的未来等主题! 课程概述 本课程由对话式人工智能工程师讲授，将教你如何使用大型语言模型（LLM），如ChatGPT，用于你自己的目的。你将学习所有关于提示设计和微调的知识，使用从Reddit刮来的数据或使用你自己的数据集。 你会学到什么 充分了解最流行和最好的公开语言模型的能力和限制： ChatGPT ChatGPT和其他大型语言模型（LLM）的当前和潜在用例 学习如何有效地使用ChatGPT来完成你的任务 了解新兴的提示设计学科，以及它如何适用于基于文本的LLM和图像生成器 ChatGPT是否是真正的人工通用智能(AGI)
PromptScript：轻量级 DSL 脚本，加速多样化的 LLM 测试与验证
Phodal's zenthink
10-11 1234
TL；DR 版本PromptScript 是一个轻量级的 Prompt 调试用的 DSL （Yaml）脚本，以用于快速使用、构建 Prompt。PromptScript 文档：https://framework.unitmesh.cc/prompt-scriptWhy PromptScript ？几个月前，在研究 LLM 进行研究效能提升时，我们构建了 UnitMesh (https://gith...
ChatGPT背后的语言模型简史 · BMPI.pdf
05-16
本文介绍了自然语言处理中的深度学习发展和大语言模型的历史，从神经网络到注意力机制再到生成式预训练，讲述了一系列重要的技术进展。同时，文章也讨论了ChatGPT和未来展望，提出了语言模型正在向着多领域多模态方向发展，而语言作为人类最先掌握的高科技，也是创造人类文明的关键。 本文介绍了NLP语言模型的发展历史和未来展望； 人类文明的高科技是语言，因为它允许智人创造可延续的文明； 从神经网络到深度学习，掌握自然语言处理的关键是深度学习算法； 大语言模型时代的到来，采用生成式预训练来处理自然语言； 未来展望包括大型多模态语言模型、人机交互和ChatGPT等； ChatGPT是人类指令与AI生成内容的背后语言模型，可以用于自然语言处理任务中。
大型语言模型 (LLM)全解读.pdf
01-30
大型语言模型 (LLM)全解读
LangChain开源大型语言模型（LLM）框架
11-09
LangChain是由Harrison Chase开发的一个框架，迎合了大型语言模型（LLM）的需求。在OpenAI的GPT-3取得巨大成功后，它的受欢迎程度激增，可以说，GPT-3.5和GPT-4更是如此。2022年10月底推出的LangChain利用了这些进展，提供了一个专门用于创建依赖LLM的生产级应用程序的平台，而不仅仅是实验性的。 LangChain的关键理念是将不同的部件连接或 "链条 "在一起，形成复杂的应用。这些链子可以使用许多模块的碎片，如各种提示的模板（如聊天回复、ELI5等）、与不同LLM模型的连接（如GPT-3、BLOOM等）、代理（使用LLM来决定做什么--我们今天晚些时候将讨论gpt-engineer项目在这个类别中的情况）以及记忆（短期和长期）。所有这些都是以标准应用框架的形式提供的。 langchain4j/langchain4j则是langchain的一个Java封装器--一个类固醇。整个项目已经在引导用户，并专注于清楚地展示使用的可能性（在项目中你会发现一个带有例子的目录），并且创造者宣布进一步的发展。
基于AI大模型（LLM）In-Context Learning 实现自然语言转DSL的详细技术方案设计和具体代码实例说明
禅与计算机程序设计艺术
07-14 3949
自然语言处理是指将人类语言转换为计算机可以理解的形式的过程。而DSL则是在特定领域中使用的语言，通常用于编程或其他技术领域。自然语言转DSL可以帮助程序员更快地编写代码，并减少错误。近年来，AI大模型（LLM）已经在NLP领域中取得了很大的进展。In-Context Learning是LLM的一种技术，它可以在不离开当前上下文的情况下学习新的语言结构。这使得LLM非常适合用于自然语言转DSL的应用场景。
语言接口：探索大模型优先架构的新一代 API 设计
Phodal's zenthink
06-18 8066
过去的两三个月里，在开发基于大语言模型的软件时，也一直在思考如何设计一个大模型优先架构。而随着越来越多的团队加入到这场竞赛里，我们会发现：基于大语言模型的软件架构与过去的不同之处，诸如于：我们需要新一代的 API。我暂时将这一代 API 称为：语言接口/语言 API（大概会有大佬来发起新的名称），原因是：自然语言只是人机的接口，DSL 是 AI 与机器的接口、机器与机器的接口。所以，在这篇文章里，...
【ChatGPT】使用 GPT-4 探索大模型在“智能数据应用”领域的应用思路：NLP ---＞ DSL ---＞ SQL(ChatGPT DSL 能力挖掘)
热门推荐
禅与计算机程序设计艺术
05-19 2万+
您可以使用这个简单的领域特定语言生成，这是一个非常基本的示例，实际上您可能需要许多其他功能，比如支持复杂的连接、聚合、子查询等。:为了让您更好地理解如何定义一个SQL的DSL（领域特定语言），首先我会提供一个简单的例子来将复杂的SQL查询分解成容易理解的领域特定语言。现在，请用上面的这套 Query DSL，帮我生成： 成交金额的字段是 pay_amt, 生成：近七天成交金额大于10000的 Query DSL。这些节点组合成一个更复杂的 AST，以支持任意的条件嵌套。
【人工智能】架构师的大语言模型技术指南：核心点是寻找一种合理的 DSL（领域特定语言）以将现有的流程结合到 LLM
禅与计算机程序设计艺术
06-06 1万+
随着人工智能技术的不断发展，大语言模型（Large Language Model, LLM）正在成为越来越受关注的技术领域。LLM可以理解自然语言，生成自然语言，可以应用于各种场景，例如文本自动生成、问答系统、对话系统、机器翻译等。LLM的实现需要庞大的计算资源和大量的数据，因此，它是一项非常具有挑战性的工作。但是，随着硬件和软件技术的不断进步，LLM技术已经逐渐成熟，可以为许多实际问题提供有效的解决方案。
浅谈领域特定语言
pl_lab_001的博客
07-16 6479
0 序言 近年来，随着移动应用、人工智能、区块链、量子计算、芯片逻辑、音乐工程等领域的蓬勃发展，软件在各行各业的应用得到爆发式的增长，各行各业的研究人员和领域专家加入到软件开发的队伍，比如：芯片研发工程师需要通过编程来写芯片逻辑，人工智能算法研究人员需要通过编程写计算逻辑，音乐工程师需要通过编程构建音乐的交互式系统。这些领域专家不是计算机科班出身，但是他们对自己的领域研究非常深入，他们非常期待能有一门面向领域的编程语言来帮助他们屏蔽计算机底层的复杂度，聚焦自己的领域，高效的进行编程。 在这样的背景下，.
实用的大型语言模型 (LLM) 应用
08-24
实用的大型语言模型 (LLM) 应用
收藏！35句提示词，数据科学的灵感源泉
Python中文社区
11-26 582
在这篇文章中，我们将深入了解AIGC大模型中常用的35句提示词（Prompt），这将帮助您在数据科学的各个领域提升技能和知识。从机器学习模型到代码优化，这些提示将挑战并激发你的灵感。构建机器学习模型1、训练分类模型提示词：我希望你能充当一名数据科学家，为我编写代码。我有一个包含[描述数据集]的数据集。请构建一个能够预测[target变量]的机器学习模型。2、使用TPOT进行自动机器学习提示词：我希...
如何利用大语言模型（LLM）打造定制化的Embedding模型
FrenzyTechAI的博客
01-09 2067
在探索大语言模型（LLM）应用的新架构时，知名投资公司向量数据库是预处理流程中系统层面上最关键的部分。它能够高效地存储、比较和检索高达数十亿个嵌入（也就是向量）。那么，为什么要如此强调向量数据库的重要性呢？这是因为计算机虽然功能强大，但并不擅长直接理解文本、图像、音频等人类友好的数据格式。通过将这些数据转换成数值型的“向量”，我们能够让计算机更高效地处理它们。而普通的数据库并不是为了处理这样的向量而设计的，尽管现在随着生成式 AI 技术的普及，它们开始逐渐支持向量操作。
LLM 与架构新纪元：适应代码生成模式，突破软件开发瓶颈
Phodal's zenthink
07-09 1110
TL;DR 版本：今年 2 月，我们在 QCon 上分享了《组织级架构治理的正确落地方式》，其背后的一个核心思想是：架构即代码。围绕这个核心思想，我们构建了 ArchGuard 的治理功能，即架构规范转换为代码。今年 5 月，我们在 QCon 上分享了《探索软件开发新工序：LLM 赋能研发效能提升》，一次关于 LLM 与研发效能的试验、探索与洞察等。而如果你对于 AI 代码生成的进一步探索，你也会...
大语言模型(LLM)综述(五)：使用大型语言模型的主要方法
qq_51957239的博客
10-31 676
随着人工智能和机器学习领域的迅速发展，语言模型已经从简单的词袋模型（Bag-of-Words）和N-gram模型演变为更为复杂和强大的神经网络模型。在这一进程中，大型语言模型（LLM）尤为引人注目，它们不仅在自然语言处理（NLP）任务中表现出色，而且在各种跨领域应用中也展示了惊人的潜力。从生成文本和对话系统到更为复杂的任务，如文本摘要、机器翻译和情感分析，LLM正在逐渐改变我们与数字世界的互动方式。然而，随着模型规模的增加，也出现了一系列挑战和问题，包括但不限于计算复杂性、数据偏见以及模型可解释性。
NL2SQL进阶系列(2)：DAIL-SQL、DB-GPT开源应用实践详解[Text2SQL]
最新发布
丨汀、的博客
04-12 690
NL2SQL进阶系列(2)：DAIL-SQL、DB-GPT开源应用实践详解[Text2SQL]
【AI Programming】我用低代码结合ChatGPT开发，每天多出1小时摸鱼: LLM大模型从PRD到DSL再到RPC-SQL-UI Component 用户界面
禅与计算机程序设计艺术
06-24 8539
各位仍需注意，如果直接使用 ChatGPT 有敏感信息泄露风险，各团队可以根据需要独立部署AI模型。对于个人开发者可以使用一些开源模型，例如 Vicuna、LLaMA 等。迄今为止 AI 工具的出现主要还是为了便利人类，而不是代替人类。加以学习利用，这些工具也许能为帮助开发提速。欢迎开发者们在评论区交流。作者：邬俊杰我用低代码结合ChatGPT开发，每天多出1小时摸鱼。
京东哥伦布即时设计平台ChatGPT落地实践 | 京东云技术团队
京东科技开发者
12-14 1750
即时设计接入 AI 的方式是抽象出一层 DSL，让 AI 通过 DSL 了解即时设计能力，同时输出 DSL 解析执行。ChatGPT x 低代码平台 ≈ DSL + Prompt + Function彩蛋🥚：本文中带有🤖标识的文案均为GPT生产🎉，感兴趣的小伙伴欢迎一键三连，私信一起交流~参考文献：1.chatGPT有，但不多的的即时设计智商作者：京东零售 张熙沐枫来源：京东云开发者社区 转载请注明来源。
ChatGPT 编写模式：如何高效地将思维框架赋予 AI ？
Phodal's zenthink
02-22 1万+
如何理解 Prompt ？Prompt Enginneeringprompt 通常指的是一个输入的文本段落或短语，作为生成模型输出的起点或引导。prompt 可以是一个问题、一段文字描述、一段对话或任何形式的文本输入，模型会基于 prompt 所提供的上下文和语义信息，生成相应的输出文本。举个例子，对于一个语言模型，prompt 可以是 "The cat sat on the"，模型可以通过对接下...
ctrl控制模型生成的方法
08-20
ctrl是一种控制模型生成的常用方法。在机器学习和人工智能领域，生成模型是一种能够生成新数据样本的模型。ctrl方法是一种基于概率分布的生成模型，通过学习输入数据的分布特征，能够生成与输入数据相似的新样本。 ctrl方法的核心思想是从输入数据中学习到数据的分布特征，然后利用这些特征来生成新的数据样本。首先，通过统计分析或者其他建模方法，将输入数据转化为概率分布模型。然后，通过对该模型进行采样，就可以生成新的数据样本。 ctrl方法的一个经典应用是生成文本。通过学习输入文本的语法、词汇和语义信息，ctrl模型可以生成与输入文本相似的新文本。比如，在聊天机器人中，ctrl模型可以根据用户的输入生成合理的回复。 除了生成文本外，ctrl方法还可以用于图像、音乐等领域。通过学习输入数据的分布特征，ctrl模型可以生成具有相似特征的新图像、新音乐等。 ctrl方法的优点是能够生成具有多样性的样本，因为它是基于概率分布的。同时，ctrl方法还可以通过对生成的样本进行反馈学习，不断提升生成模型的性能。 总之，ctrl是一种控制模型生成的方法，通过学习输入数据的分布特征，能够生成与输入数据相似的新样本。它在文本生成、图像生成等领域有广泛的应用前景。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 56
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

禅与计算机程序设计艺术

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值