从智能对话系统导论，到如何设计第一个对话机器人

已于 2022-01-21 19:29:54 修改
阅读量2.2k 收藏 1
点赞数
分类专栏： 自然语言处理与文本检索 文章标签： 人工智能 自然语言处理 深度学习 文本分析
于 2022-01-21 08:31:25 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44225602/article/details/122612908
版权

从智能对话系统导论，到如何设计第一个对话机器人

一、智能对话系统导论

1、生活中的 Conversational AI

  1. 一些软件APP中，FAQ问答型，例如淘宝客服：
    在这里插入图片描述
  2. 与一些硬件结合，语音+对话，如服务型机器人：
    在这里插入图片描述
  3. 车载系统，对话机器人：
    在这里插入图片描述
  4. 手机助手，以及推销电话，或者客服服务引导对话：
    在这里插入图片描述
  5. 游戏npc对话场景中，从固定的对话脚本到鲜活的自由对话：
    在这里插入图片描述
  6. 智能音箱，集成了对话机器人，播音乐，操纵智能家居，订机票打车等等一些任务：
    在这里插入图片描述

2、一种新的人机交互方式

对话机器人，已经不仅仅是进行某种简单的对话，而是像人一样的一种新的人机交互的方式：
在这里插入图片描述

3、一些关于 Conversational AI 的数据

来自国外的调查数据：

  1. 63%的客户考虑使用在线对话机器人去沟通业务或品牌
    在这里插入图片描述
  2. 80%的业务场景计划使用对话机器人
    在这里插入图片描述
  3. 50%的企业会在聊天机器人的创新上花费比传统手机app开发更多精力
    在这里插入图片描述
  4. 对话机器人每年会为商业成本节省80亿美元
    在这里插入图片描述

4、对话机器人行业产业链及产业图谱

在这里插入图片描述

5、课程主要部分

主要分为三大部分：

  1. 文本摘要
  2. 对话理解
  3. 对话机器人

1和2比较单一，解决方案的实现在学业界都大同小异。
而3是一个比较综合性的项目，可以结合包括1和2的任何NLP技术。


二、Conversational AI 概览

1、什么是Conversational AI？

AI的思想最初来源于图灵，他尝试使用各种技术如声音、文本、姿势和接触等方法让与人类与计算机程序进行交互。

而图灵测试则是指，将机器与人混在一起进行交互，观察人类是否能发现交流者中存在机器，若人类不能发现，说明机器的交流与人类非常近似，则通过了图灵测试。
在这里插入图片描述

2、对话机器人行业相关领域发展历程示意图

在这里插入图片描述

3、对话机器人的优势

及时回复、带来更多收益、减少成本、最大化职员技能、更好的理解顾客、开辟新渠道、增加忠诚度、7*24h在线、建立差异化
在这里插入图片描述

4、对话机器人在学术界的种类

  • Task-oriented: 任务动作过程型导向机器人，帮忙打个电话
  • Chitchat：无目的型，闲聊
  • QA：问与答，结果为导向
    在这里插入图片描述
    一些专有名词，便于看paper：
    Conversational AI 包含所有明指或暗指的对话交流
    Dialogue system 专门指对话
    Bot = Agent = 做的机器人

Task-oriented/Task-completed Bot
QA(Question Answering) bot
Chitchat/Social Chat/Chatbot

Open-domain chatbot - 开放领域机器人，什么都做，不区分领域
Domain chatbot - 特定领域场景下的机器人

在这里插入图片描述

5、对话机器人在工业界的种类

在学术界，三种机器人类型分得很清晰；而在工业界，则没有分得这么开，基本是混合型多功能的。

在这里插入图片描述
在这里插入图片描述

三、Chatbot(Chichat)

1、什么是Chatbot - 闲聊型机器人

在这里插入图片描述
在这里插入图片描述

2、一般方法

Sequence-to-Sequence

用户的对话
输入模型进行编码
针对该话生成结果
输出模型并且解码
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

四、QABot

1、什么是Question-Answering(QA) Bot

在这里插入图片描述
在这里插入图片描述

2、QABot 的实现方法

2.1、阅读理解 - MRC

本质上是一个MRC，一个阅读理解方面的对话机器人。
在这里插入图片描述
将用户说的话从产品文档里面扫描一遍，发现有一段话是来描述该问题的，然后截取出来，给用户一个反馈。

结合MRC做一个QA的任务。

相关paper (colab)


2.2、语义匹配

语言表达方式的多样性，但含义的确定性，将相似问题全部都转化为标准问题。
在这里插入图片描述
在这里插入图片描述

2.3、文本搜索

Text-QA: Text Retrieval

类似于搜索引擎，用户输入一段话，然后网站返回一堆文章。
这里是用户输入一个问题，然后去文档库里寻找与用户问题最相关的文档，返回给用户，如果回答太长，则可以进行文本摘要，将文章中最核心的部分抽取出来。
在这里插入图片描述

AnyQ (github)


2.4、知识图谱

不同于前面的几种类型的QA，该类型可以进行问题的进一步推理。

  • KB-QA
    • KB(Knowledge Base)
    • KG(Knowledge Graph)

在这里插入图片描述

2.5、单轮与多轮

Single-turn and Multi-turn KB-QA

Single-turn: 一问一答
Multi-turn: 对多个问题和描述进行回答
在这里插入图片描述
在这里插入图片描述

2.6、其他形式

将自然语言转换成SQL
在这里插入图片描述
在这里插入图片描述

3、数据集

3.1、Dataset on KB-QA

paper里比较常见的英文数据集：
SQA (msropendata)
在这里插入图片描述
CSQA (github)
在这里插入图片描述

3.2、Dataset on Machine Reading Comprehension (MRC)

SQuAD (github)
MS MARCO (github)
在这里插入图片描述
The automated QA track
The LiveQA track (trec)
在这里插入图片描述

然而，对于我们来说一般会使用其他的中文数据集。


五、Task-oriented Bot

1、什么是Task-oriented Bot

在回答用户问题时，先弄清楚问题背后的intent (意图)
在这里插入图片描述

2、如何产生/构建intent

  1. Modular. 分模块，很多个模块一同运作去构建成一个对话机器人
  2. End-to-end. 一个模型就把所有对话问题都解决了。

2.1、Modular/Pipeline Approach Architecture

当今比较流行的

  • 用户的对话
  • 自然语言理解 - NLU
  • 对话状态跟踪 - DST
  • 动作生成 - AG/DP
  • 自然语言生成 - NLG
    在这里插入图片描述

2.1、NLU

Modular Approach: Natural Language Understanding

输入用户问题，进入模块寻找intent。
在这里插入图片描述
Terminology in Task-oriented Bot：

  • Intent
  • Slot/Entity 词槽，为了完成intent，需要的条件是什么，例如：Type, Area
    • informable
    • requestable
  • State
  • Action

在做产品之前，需要对于某个问题进行预测，用户可能具有哪些意图，做好意图的分类，可能有成千上万个。
在这里插入图片描述
一个多轮对话的例子：
在收集到重要信息之前，不断地对GET-TICKET进行其他信息的补充
在这里插入图片描述

2.2、DST

Modular Approach: Dialogue State Tracking

在拿到intent和slot后，因为每一个对话都会有意图和词槽，所以过去的信息都存储在Past State里，但是只会筛选出跟当前对话相关的slot，相当于整个对话系统的大脑。
在这里插入图片描述

2.3、AG/DP

Modular Approach: Action Generation (Dialogue Policy)

将存储的State拿出来，寻找机器人可以做的事情Action，选出跟该状态最相关的动作，然后调用搜索引擎或者数据库，去寻找这样的结果。下面例子找到了Type和Name，然而这个结果不能直接返回给用户，会造成体验不佳，后续继续处理。
在这里插入图片描述

2.4、NLG

Modular Approach: Natural Language Generation

将AG的结果送入到NLG，组装成自然语言
在这里插入图片描述

完整流程的例子：
在这里插入图片描述

2.2、End-to-end

在这里插入图片描述

五、回顾与延展

我们可以发现，Task-oriented Bot的架构同样可以用于 QABot 和 Chichat

后期会用这四个模块去解决这三类对话机器人问题，工业界里大部分也选用的这种架构，非常灵活，并且可以满足不同场景的需要


1、back to QABot

在这里插入图片描述

2、back to Chichat

在这里插入图片描述

六、如何设计一个Chatbot？

1、制定目标

1.1、痛点是什么？

在这里插入图片描述
在这里插入图片描述

1.2、如何解决痛点？

在这里插入图片描述
在这里插入图片描述

1.3、是否能够回答这些问题？

在这里插入图片描述


2、定义使用场景

在这里插入图片描述

3、创建虚拟人物性格

在这里插入图片描述
和对应的用户产生共通感，提高使用体验。
在这里插入图片描述

4、从简单口语对话开始

将人类活动的某场景的对话记录下来，当成最原始的数据，放在对话机器人中进行测试。


5、设置边界

防止对话的话题跑偏，紧抓主题进行对话。


6、设计对话路径

对话流程图：
在这里插入图片描述
在这里插入图片描述

7、测试及调整

在这里插入图片描述
在这里插入图片描述

8、长尾路径设计

把最重要的头部实现了，然后尾部慢慢实现。
在这里插入图片描述
在这里插入图片描述

9、持续迭代

发现问题，不断改进和优化。


参考

张春阳老师 - 开课吧 - 自然语言处理与文本检索


更新时间

2022/01/21

SQLALchemy 异步操作以及在FastAPI中的用例
qq_42713497的博客
11-05 9457
mysql为例，不做额外配置。 创建异步引擎 from sqlalchemy.ext.asyncio import create_async_engine url = "mysql+aiomysql://root:*****@127.0.0.1:3306/demodemo?charset=utf8" async_egn = create_async_engine(url) metadata 两种方式 一种是Table收集 一种是Mapper类声明 Table收集 第一个参数是表名
多数据库迁移的艺术：Alembic在复杂环境中的精妙应用
最新发布
05-11 1015
title: 多数据库迁移的艺术：Alembic在复杂环境中的精妙应用author:excerpt:现代Web应用中，多数据库场景包括主从架构、多租户系统、混合数据库和分库分表。Alembic支持多数据库配置，通过创建多版本目录结构和修改alembic.ini文件实现。环境脚本（env.py）需改造以支持多数据库迁移。模型定义推荐使用pydantic结合SQLAlchemy ORM。迁移操作包括生成独立脚本、执行迁移和查看历史。
Python 异步编程：Sqlalchemy 异步实现方式
li_yatao的博客
08-07 963
Greenlet 是一个轻量级的第三方协程库，最初由 PyPy 项目开发。它允许在单个操作系统线程内执行多个任务（协程），这些任务可以相互间切换，而无需线程的上下文切换开销。Greenlet 提供了更细粒度的控制，可以在协程之间显式切换。
异步操作SQLAlchemy
mr_lml的博客
03-26 490
这段Python代码使用了异步编程和SQLAlchemy ORM（对象关系映射）库来与数据库进行交互。异步编程和SQLAlchemy的结合使得数据库操作更加高效，特别是在I/O密集型的应用中，因为它允许在等待数据库响应的同时执行其他任务。这行代码如果取消注释，将会删除当前程序中所有模型对应的数据表。这通常用于重置数据库到初始状态，但在生产环境中使用时需要谨慎。，这是异步编程的基础，允许函数在等待I/O操作（如数据库查询）完成时释放控制权。方法来创建当前程序中所有模型对应的数据表，如果这些表还不存在的话。
SqlAlchemy使用教程(七) 异步访问数据库
Python技术探索
09-30 2463
ORM的异步编程接口API包含核心层异步编程API 与 ORM 异步API,. 本文讲解了核心层（Core)异步接口的使用步骤与实现代码, ORM 异步接口编程步骤及示例代码，一对多查询的懒加载问题的两种解决办法，最后介绍了在协程中如何调用同步方法。
sqlalchemy_aio:SQLAlchemy 的异步策略
05-31
sqlalchemy_aio sqlalchemy_aio ASYNCIO并增加了支持SQLAlchemy的核心，源于 。 入门 import asyncio from sqlalchemy_aio import ASYNCIO_STRATEGY from sqlalchemy import ( Column , Integer , MetaData , Table , Text , create_engine , select ) from sqlalchemy . schema import CreateTable , DropTable async def main (): engine = create_engine ( # In-memory sqlite database cannot be accessed from different
使用异步ORM SQLAlchemy提升web服务性能
Moelimoe的博客
12-31 2450
对于一个web服务，性能的瓶颈最终基本上都会出现在数据库读取的这一步上，如果能够在数据库读取数据的这一段时间自动切换去处理其他请求的话，服务的性能会得到非常显著的提升，因此需要选择一个合适的异步驱动和工具包，以最通用和常用为出发点，选择aiomysql + sqlalchemy介绍一些比较好的实践，SQLAlchemy的一些用法和最佳实践介绍一个使用SQLAlchemy连接实现pandas的异步read_sql_query方法的实现
使用FastAPI, SQLAlchemy与Alembic实现PostgreSQL数据库的教程
在使用Sqlalchemy定义好数据库模型之后，可以使用Alembic来生成数据库的升级和降级脚本，使数据库的结构能够随着应用程序的发展而演化，同时保持数据的完整性和一致性。 在这个教程中，将FastAPI与Sqlalchemy和...
使用异步SQLAlchemy、SQLModel、Postgres、Alembic和Docker.zip
04-05
这个压缩包文件“使用异步SQLAlchemy、SQLModel、Postgres、Alembic和Docker.zip”涉及到几个关键的组件，它们共同构建了一个强大的后端架构。以下是这些技术的详细说明： 1. **异步SQLAlchemy**: SQLAlchemy是...
cookiecutter-aiohttp-sqlalchemy:胖而固执的cookiecutter模板，用于构建由Aiohttp，SQLAlchemy和Swagger支持的异步Web应用程序
05-03
胖乎乎的cookiecutter模板，用于构建由Aiohttp，SQLAlchemy和Swagger支持的异步Web应用程序。 请查看下面的部分，以简短说明此包装盒为您提供的包装。 “部分展示了使用SQLAlchemy基本模型的异步API的代码示例。 ...
fastapi + pydantic-v2 + sqlalchemy 2.0 + alembic + mysql + redis.zip
12-04
r requirements.txt创建一个数据库fsm，选择utf8mb4编码安装 Redis进入后端目录cd backend创造.env文件touch .envcp .env.example .env按需修改配置文件core/conf.py和.env信息迁移alembic# 生成迁移文件alembic ...
fastapi-asyncalchemy:使用FastAPI的异步SQLAlchemy示例
03-31
使用FastAPI异步使用SQLAlchemy 该项目演示了SQLAlchemy 1.4与FastAPI的异步用法。 阅读文章： 。 安装 要运行该示例，请在fastapi_asyncalchemy/db/base.py更改DATABASE_URL 。 要安装项目： poetry install 要运行示例，我们需要输入虚拟环境： poetry shell 创建数据库表： python main.py 使用Uvicorn运行FastAPI： uvicorn main:app --reload 您可以从发送HTTP请求。 执照 作者： 许可证：MIT许可证（MIT）
Alembic使用 (SqlAlchemy)
JacinLee的博客
09-30 1716
Fastapi 使用ORM 使用的是SqlAlchemy，这里使用alembic进行数据库文件迁移与数据库迁移。
sqlalchemy在python中的使用(使用Alembic做数据迁移)五
weixin_34000916的博客
01-08 281
一、Alembic简介 SQLAlchemy是一款非常优秀的ORM框架,但是本身没有带数据库版本控制功能,这很不方便,进行开发过程中难免修改数据模型,添加一个表或修改一个字段,都需要手动修改的话就比较费事了，还不如不用SQLAlchemy呢。 我们在使用django框架的时候使用数据迁移文件,修改字段后直接运行命令后就可以,我们在sqlalchemy中也可以这样 在这里介绍一款SQLAlchem...
Python SQLAlchemy Alembic的使用
大数据流浪法师的学习笔记与分享
06-13 1001
大家好，我是练习时长两年半的大数据练习生，喜欢数学，AI，大数据。 写博客是为了总结，分享，自娱自乐。希望写出的东西会对自己，对别人都有价值！ 废话不多说，现在是个终身学习的时代，开始学习了！奥力给！干了兄弟们！ 是时候展现真正的技术了：???????????????????????? 本文是一篇翻译型学习笔记，原文如下链接。 https://www.pythoncentral.io/migrate-sqlalchemy-databases-alembic/ Alembic Alembic is a li
对Tornado异步操作Sqlalchemy方法的选定 不错
weixin_30532973的博客
01-24 1078
使用原因 在一个实时通讯的项目中，由于需要使用Websocket这一协议，便在Python框架中选定了Tornado，也同时使用了Sqlalchemy这一ORM框架。 大家都知道Tornado有异步非阻塞特性，但Sqlalchemy是同步操作，这会大大影响性能，会影响的用户体验。 为了能解决这一问题，我便在网上搜寻资料，发现有使用Celery的，有使用run_on_executor装...
sqlalchemy ^1.4异步操作指南
chise_
02-17 6283
目录概述基本的操作方式查询基本查询级联查询预加载字表联合查询查询函数func 概述 本文章主要用于sqlalalchemy 2.0系列操作数据库风格的数据库操作指南。 本文主要分为两类，查询，删除，杂项（主要为删除等等） 另：本文主要为orm的操作方式，core的操作方式可以参考。 基本的操作方式 基本操作方式如下(这只是其中一种操作方式，)： from sqlalchemy.orm import sessionmaker from sqlalchemy.ext.asyncio import AsyncSe
SQLAlchemy
go|Python的个人博客
02-26 1102
SQLAlchemy是一个基于Python实现的ORM框架。该框架建立在 DB API之上，使用关系对象映射进行数据库操作，简言之便是：将类和对象转换成SQL，然后使用数据API执行SQL并获取执行结果。Engine，框架的引擎Connection Pooling ，数据库连接池Dialect，选择连接数据库的DB API种类Schema / Types，架构和类型SQL Exprression Language，SQL表达式语言。
想使用gevent、mysql、sqlalchemy实现python项目协程异步达到并发的效果
weixin_34245749的博客
07-18 261
如题，但是查看了很多资料，都说python这边的mysql不支持异步并发，只能阻塞进行，心塞30秒，暂时放弃这方面的研究   如果不操作数据库的化，比如请求url、操作文件，还是可以用gevent来异步实现并发的：https://zhuanlan.zhihu.com/p/21465564   有资料说豆瓣通过修改基础库实现了，参考：https://github.com/douban/greenif...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值