- 博客(7)
- 收藏
- 关注
RSS订阅原创 一文讲透RAG在垂直领域大模型的应用
2020年lewis等人，针对知识密集型的NLP任务，提出了一种相对灵活的技术，成为检索增强生成(RAG)。研究人员将生成模型与检索器模块相结合，以提供外部知识源的附加信息，并且这些信息可以高效的实现更新和维护。RAG在垂直大模型问答场景下，类似于一场开卷考试，如果将大模型比喻为一个学生，在开卷考试的场景下，学生是可以携带笔记和学习资料，用来查找相关信息来回答问题。这种考试的重点是考察检索到相关信息后的推理能力，而不是检索特定信息的能力。知识混淆: 将世间客观知识和知识库中知识混淆。
2024-02-18 17:16:45
1817
1
原创 LLM在Text2SQL任务实践优化-智能数据可视化Agent
本文是根据Text2SQL任务做的业务延伸，主要是在给某客户公司完成相关开发需求时遇到的具体业务问题进行的总结，并针对业务问题进行的优化。Agent版本对比V2.0等算法优化工作多了额外的数据可视化模块，属于商业交付的业务。算法层面的优化，可以参考作者前面的几篇文章。这里的任务是国外的客户，数据采用的甲方提供的数据，英文形式，底座模型采用的是langchain的gpt4模型。
2024-01-25 16:06:47
1189
原创 大模型在任务型对话领域的应用探索(一)
对话系统(Dialogue System)，是一种模拟人类并旨在与人类形成连贯通顺对话的计算机系统。它能够理解用户输入的文本或语音，然后根据用户的需求做出相应的回应。对话系统一般包括任务型对话、生成式对话和检索式对话等场景。它是人工智能领域的重要应用之一，能够被广泛应用在客服机器人、语音助手、智能家居等领域。
2024-01-05 13:39:55
1524
1
原创 LLM在中文Text2SQL领域的应用
本文主要是针对中文Text2SQL业务场景做的业务落地，即通过用户输入的自然语言文本信息(Text)，转换为对应的SQL查询语句，然后通过对数据库中的数据进行检索查询，自动化生成相关的可视化表格，以可视化报表的形式与用户实现交互。上述业务功能为作者团队原创，有合作需求，可以留言联系。
2024-01-03 23:24:41
718
1
原创 LLM在中文Text2SQL任务上的优化V2.0
本文是根据Text2SQL的任务做的深度优化，主要是从中文Text2SQL任务中发现的问题进行总结归纳，然后根据业务问题提出候选的解决方案，并给出作者在此解决方案上的效果。这里的优化，整体上对Text2SQL任务的效果提升还是很明显的，但是仍在存在一些问题，后续可以尝试着去探索。RAG的效果提升相对较为明显，可以尝试更深入的RAG优化尝试。针对复杂的数据结构，需要支持部分agent的功能，如抽取某字段的K-V对信息，或对表中的数据实现对应的api操作。
2023-12-29 14:53:34
994
1
原创 LLM在中文Text2SQL任务上的优化V1.0
这里的优化，整体上对Text2SQL任务的效果提升还是很明显的，但是仍在存在一些问题，后续可以尝试着去探索。同一个数据库中的表和列名较多时，构建相关的prompt会比较长，每次请求输入原始文本会比较繁琐，可以尝试schema embedding或RAG方法。中文的语义理解需要进一步进行推理，如’九块九’表示价格为9.9元，'今天’表示需要获取今天的日期。复杂的SQL需要进一步探索，如数据库中某个字段的数据格式可能为json格式。尝试更多的SFT微调策略。
2023-12-28 14:46:22
1033
原创 LLM在中文Text2SQL任务上的实践
Text2SQL是将自然语言文本(Text)转换成结构化查询语言SQL的过程，属于自然语言处理-语义分析(Semantic Parsing)领域的子任务。通过该技术，可以简化查询创建过程，一般适用于简单的选择查询和复杂的查询操作，如级联查询等等。
2023-12-27 00:04:22
1206
3
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人