论文分享
文章平均质量分 88
本专栏分享一些前沿、经典的论文顶会论文。
城南皮卡丘
擅长Java全栈、Python开发、深度学习与神经网络等,研究方向为CV、NLP
展开
-
论文阅读:DIN-SQL: Decomposed In-Context Learning of Text-to-SQL withSelf-Correction
NL2SQL是将自然语言转化为SQL的任务,该任务隶属于NLP的子任务,NL2SQL在AIGC时代之前,以seq2seq、BERT等系列的模型在NL2SQL的主流数据集上取得了不错的效果,2022年底,ChatGPT爆火,凭借LLM强大的逻辑推理、上下文学习、情景联系等特点,按理说LLM应该可以超过seq2seq、BERT等系列的模型,但是使用少样本、零样本提示方法用LLM解决NL2SQL问题效果却比不上之前的模型。今天分享的这篇来自NLP顶级会议的论文解决了这个问题:如何改进Prompt让LLM超越之前的原创 2023-08-22 12:01:59 · 2636 阅读 · 1 评论 -
论文阅读:Interleaving Pre-Trained Language Models and Large LanguageModels for Zero-Shot NL2SQL Generat
摘要:零样本NL2SQL在实现自然语言到SQL中至关重要,它能够在0注释的NL2SQL样例环境中自适应新的数据库、新的SQL语言。现有的NL2SQL研究方法要么根据带注释的数据去微调预训练模型(PLM),要么使用提示词指导大语言模型(LLM)。PLM 在模式对齐方面表现良好,但难以实现复杂推理,而 LLM 在复杂推理任务中表现出色,但无法实现精确的模式对齐。在本文中,我们提出了一个 ZeroNL2SQL 框架,它结合了 PLM 和 LLM 的互补优势,以支持零样本 NL2SQL。ZeroNL2SQL 首原创 2023-08-16 16:37:40 · 632 阅读 · 0 评论