chap1-绪论

最新推荐文章于 2024-07-24 15:54:34 发布
最新推荐文章于 2024-07-24 15:54:34 发布
阅读量1.4k 收藏
点赞数
分类专栏： 自然语言处理 文章标签： 语音识别 自然语言处理 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45743469/article/details/122168939
版权

绪论

问题

NLP：让计算机实现自动或人机互助的语言处理功能，实现海量语言信息的自动处理、知识挖掘和有效利用

基本概念

  • 语言 Language

由语音、词汇、语法构成的一定系统

  • 自然语言

区别于人为编造的语言，例如程序语言

  • 语言学 Linguistics

语音和文字是语言的两个基本属性

三个不同语系

  • 屈折语

用词的形态变化表示语法关系

  • 黏着语

词内有专门表示语法意义的附加成分

  • 孤立语/分析语

形态变化少，语法关系靠次序和虚词表示

  • 语音学 Phonetics

研究人类发音特点，语音发音特点

  • 一般语音学

对语音发音、声学、知觉的一般研究

  • 实验语音学

对具体语言语音的研究

是语言学研究的一部分（基础）

使用复数的语言学科（Linguistics Sciences）描述语言学和语音学的总和

  • 自然语言理解 NLU

判断计算机系统的智能：act、react、interact

图灵测试

  • 自然语言处理 NLP

NLP要研制表示语言能力（Linguistic Competence）和语言应用（Linguistic Performance）

  • 计算机语言学 Computational Linguitics

语言学的分支，用计算技术和概念阐述语言学和语音学问题

已开发领域包括自然语言处理等等

  • 中文信息处理 Chinese Information Processing

计算语言学、NLP、NLU现在常默认为同一概念

NLP的产生与发展

源自机器翻译（MT，Machine Translation）

曲折发展

研究内容

NLP主体

  • 机器翻译
  • 信息检索
  • 自动文摘
  • 问答系统
  • 信息过滤
  • 信息抽取
  • 文档分类
  • 情感分类
  • 文字编辑和自动校对
  • 语言教学

其他内容

  • 语音识别
  • 文字识别
  • 文语转换/语音合成
  • 说话人识别/认同/验证情感分类

基本问题和主要困难

基本问题

形态学（Morphology）问题

又称词法，研究词（word）由有意义的基本单元——词素（morphemes）的构成

  • 屈折变化
  • 构词法
语法学（Syntax）问题

研究句子结构成分之间的相互关系和组成句子序列的规则

语义学（Semantics）问题

研究如何从语句中词的意义，以及词在语句中的句法结构推导语句的意义

语用学（Pragmatics）问题

研究在不同上下文中语句的应用，以及上下文对语句理解产生的影响

语音学（Phonetics）问题

研究语音特性、语音描述、分类及转写方法

主要困难

歧义（ambiguity）现象
  • 词法歧义
  • 词性歧义
  • 结构歧义

歧义结构分析结果的数量随介词短语数目的增加呈指数上升
C n = ( 2 n n ) 1 n + 1 C_n= \left( \begin{array}{cc} 2n\\ n \end{array} \right) \frac{1}{n+1} Cn​=(2nn​)n+11​
n n n为句子中介词短语个数

  • 语义歧义
  • 语音歧义
大量未知语言现象
  • 新词、人名、地名、术语
  • 新含义
  • 新用法、新句型

归纳NLU面临的挑战

  • 普遍存在的不确定性
  • 未知语言现象的不可预测性
  • 始终面临的数据不充分性
  • 语言知识表达的复杂性
  • 机器翻译中映射单元的不对等性

基本研究方法

理性主义与经验主义方法的哲学分野之一：对语言知识来源的不同认识

  • 理性主义

人的很大一部分语言知识与生俱来，由遗传决定

诺姆·乔姆斯基（Noam Chomsky）的内在语言官能（innate language faculty）理论被广泛接受

  • 经验主义

人的语言知识通过感官输入，经过简单联想（association）与通用化（generalization）的操作得到

大量的语言数据中获得语言知识结构

理性主义与经验主义方法的哲学分野之二：研究对象的差异

  • 理性主义

研究人的语言知识结构（语言能力，language competence）

  • 经验主义

研究实际的语言数据（语言行为，language performance）

理性主义与经验主义方法的哲学分野之三：运用不同理论

  • 理性主义

基于Chomsky的语言原则，通过语言所必须遵守的一系列原则来描述语言

  • 经验主义

基于香农（Shannon）信息论

理性主义与经验主义方法的哲学分野之四：采用不同处理方法

  • 理性主义

通过特殊的语句或语言现象的研究得到对人的语言能力的认识

  • 经验主义

偏重对大规模语言数据中实际使用的语句进行统计

理性主义的问题求解方法

基于规则的分析方法，建立符号处理系统
知 识 库 + 推 理 系 统 → N L P   系 统 知识库+推理系统\rightarrow NLP~系统 知识库+推理系统→NLP 系统
理论基础：Chomsky的文法理论

经验主义的问题求解方法

基于大规模真实语料的计算方法
语 料 库 + 统 计 模 型 → N L P   系 统 语料库+统计模型\rightarrow NLP~系统 语料库+统计模型→NLP 系统
理论基础：统计学、信息论、机器学习

理性主义和经验主义的合谋

符号智能+计算智能，建立融合方法

研究现状

部分问题得到解决，可以提供辅助帮助；基础问题没有解决，技术不能应用于实践；社会需求日益迫切

国内外研究机构

GxxxMiii
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
信息安全 chap-1 绪论
terae的博客
04-13 443
目录1 知识点2 古典密码2.1 凯撒密码2.2 双轨密码2.3 网格加密法(中国)2.4 兽栏法2.5 钥控序列加密法2.6 路线加密法 1 知识点 明文(M)：人们能够读懂的信息 密文(C）：人们难以理解的信息 加密(E)：将明文变换成密文的过程 解密(D)：密文还原成原来的明文的过程 密钥(key)：一串适当长度的字符串或数字串，可以控制加密和解密的过程。 密钥空间：密钥的取值范围。 对称算法（传统算法）：  加密密钥与解密密钥相同  分组密码：将明文分成组，每次加密一组  序列密码：每次加密一位或
自然语言处理 复习笔记 1
weixin_30539835的博客
07-04 274
第一章 绪论 问题的提出 基本概念：NLU、CL、NLP CL 计算语言学 侧重于： 基础理论和方法 NLU 自然语言理解 ：模仿人类 自然语言处理方法 和 实现技术 NLP 自然语言处理 ： 对语言文本进行处理和加工 包括对词法 句法 语义和语用等信息的识别 分类 提取 转换和僧成等各种处理方法和实现技术 研究内容、主要问题和困难...
统计自然语言处理1-----绪论（二）
秋水顽石
08-12 743
接着上一节的内容继续阐述。1.5 自然语言理解面临的困难1、自然语言中大量存在的歧义（ambiguity）现象。(a) 结构歧义 歧义组合数我们称之为开塔兰数(Catalan Numbers，记作Cn) : (a) 语义歧义例子：2、自然语言中存在未知的语言现象。(a) 新的词汇 例如: “非典”、专业术语、外来语、人名等(b) 新的含义 例如：窗口、奔腾、农民等(c) 新的用法和语句结
数据结构-chap1绪论
怡红院
09-28 213
绪论 1. 基本概念 数据: 数据是信息的载体，是描述客观事物属性的数，字符及所有能输入到计算机中并被计算机程序识别和处理的符号的集合。 数据元素: 数据元素是数据的基本单位，通常作为一个整体进行考虑和处理。一个数据元素可由若干个数据项组成，数据项是构成数据元素的不可分割的最小单位。例如学生记录就是一个数据元素，它由学号，姓名等数据项组成。 数据对象: 是具有相同性质的数据元素的集合，是数据的一个子集。 数据类型: 是一个值的集合和定义在这个集合上的一组操作的总称。 原子类型: 不可再分 结构类型: 可
《大话数据结构》--chap1-数据结构绪论
b33897804687404的博客
09-10 105
目录 基本概念 逻辑结构和物理结构 抽象数据类型 一、基本概念 数据 数据元素：基本单位 数据项=数据元素的一部分 数据对象={数据元素} 数据结构 二、逻辑结构和物理结构 　　逻辑结构 集合结构：元素之间没有任何关系 线性结构：存在一对一的关系 树形结构：存在一对多的关系 图形结构：多对多的关系 　　物理结构（存储结构） 顺...
数据结构笔记 Chap1—绪论
LLLLLB11的博客
04-22 925
和。
chap1 绪论作业
寒舟不渡的博客
11-11 1115
判断题 1-1算法分析的两个主要方面是时间复杂度和空间复杂度的分析。T 1-2N^2logN和N logN^2具有相同的增长速度。 (2分)F 1-32^N2和N^N具有相同的增长速度。 (2分)F 1-4100logN是O(N)的。 (1分)T 1-5(NlogN)/1000是O(N)的。 (1分)F 1-6在任何情况下，时间复杂度为O(n^2) 的算法比时间复杂...
数据挖掘-绪论
weixin_45329799的博客
09-19 299
数据挖掘 Chap1绪论 数据挖掘：在大型数据存储库中，自动地发现有用的信息的过程； 更严谨的表述：数据挖掘是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中，提取隐含在其中的、人们事先不知道的、潜在的有用的信息和知识的过程； 数据库知识发现KDD过程：输入数据->数据预处理->数据挖掘->后处理->信息； 数据预处理：将未加工的输入数据转换为适合分析的形式； 数据挖掘需要解决的问题：可伸缩、高维性、异种数据和复杂数据、数据的所有权与 分布、非传统的分析
数据库系统概论-绪论
不知知了 的专栏
04-01 319
Chap1 习题解答试述数据、数据库、数据库管理系统、数据库系统的概念使用数据库系统有什么好处？文件系统和数据库系统的区别与联系举出适合文件系统而不是数据库系统的应用例子，以及使用数据库系统的应用例子。数据库系统的特点数据库管理系统的主要功能什么是概念模型？试述概念模型的作用定义并解释概念模型中以下术语：实体，实体型，实体集，实体之间的联系试述数据模型的概念、数据模型的作用和数据模型的三个要素试述层次模型的概念，举出三个层次模型的实例。试述网状模型的概念，举出三个网状模型的实例。试述网状、层次数据库的优缺点
chap1-绪论1
08-03
的情况下，通过一系列的问答，如果无法判断对方是人还是机器，那么这台机器就通过了图灵测试，可被认为是智能的。”这个测试成为了衡量机器是否具备人类智能的标准。随着计算机科学的发展，人工智能的研究逐渐深入，...
chap-绪论1
08-03
在人工智能领域，"chap-绪论1"章节主要探讨了知识在人工智能系统中的重要性和深度学习的概念。20世纪70年代，研究者认识到专业知识对于构建能够处理复杂任务的人工智能系统至关重要，从而催生了专家系统的发展。这些...
chap-绪论.pptx
07-21
为了进一步提升学习效果，可以参考林轩田的“机器学习基石”和“机器学习技法”，李宏毅的“1天搞懂深度学习”教程以及他的“机器学习2020”系列视频。同时，关注顶级人工智能会议的最新论文，如NeurIPS、ICLR、ICML...
01.chap-绪论.pptx
03-27
《神经网络与深度学习》
声音克隆一键本地化部署 GPT-SoVITS
人的一生就是在学习的道路上不断进步
07-24 664
声音克隆一键本地化部署 GPT-SoVITS
Meta推出全新大语言模型“Llama 3.1”
weixin_41446370的博客
07-24 294
Meta公司高管表示，该模型主要用于为Meta公司内部和外部开发者的聊天机器人提供动力，并拥有广泛的新功能，包括改进的推理能力，可以帮助解决复杂的数学问题或立即提取一整本书的要点。“我认为，对于人工智能助手来说，最重要的产品将是它有多智能，”扎克伯格在接受系列节目The Circuit with Emily Chang的采访时表示，“我们正在打造的Llama模型是世界上最先进的模型。扎克伯格希望开放使用的策略将推动该公司的产品成为其他成功初创企业和产品的基础，令Meta在行业的远期发展中拥有更大的影响力。
大语言模型-对比学习-Contrastive Learning
weixin_42045968的博客
07-24 250
对比学习 是一种特殊的`无监督学习方法`。 旨在通过`拉近相关样本的距离`并且`推远不相关样本的距离`，来学习`数据表示`。 通常使用一种高自由度、自定义的规则来`生成正负样本`。在模型预训练中有着广泛的应用。
昇思25天学习打卡营第11天|基于 MindSpore 实现 BERT 对话情绪识别
一名全栈开发工程师
07-20 361
BERT的创新之处在于其预训练方法，特别是Masked Language Model和Next Sentence Prediction，这使得它在问答、文本分类等任务上表现出色。在训练中，15%的单词会被随机掩码，以增强模型对上下文的理解。BERT模型经过预训练后，可以用于微调，以适应各种下游任务，如情绪识别，这在智能对话中尤为重要，有助于提升用户体验和服务质量。BERT模型的双向编码特性和创新的预训练方法，不仅提高了语言模型的理解和生成能力，还为情绪识别等应用提供了强大的基础。
【Langchain大语言模型开发教程】评估
最新发布
qq_47982709的博客
07-24 173
这里我们打印一下这个生成的example，发现是一个列表长下面这个样子；4、初始化一个LLM并创建一个RetrievalQ链；让大语言模型对实际答案和预测答案进行对比并给出一个评分；让大语言模型来为我们每个example来生成答案；我们再次执行来查看chain中的细节；那我们是不是可以使用语言模型来评估呢；3、创建向量数据库（内存警告⚠）；最后，我们可以打印一下看看结果；所以这里我们需要进行一步提取；1、引包、加载环境变量；我们初始化一个评估链；
chap-password
07-28
CHAP-Password是一种用于认证的属性，用于在接入请求报文中进行身份验证。根据引用\[1\]，一个接入请求报文不能同时包含User-Password和CHAP-Password属性。而根据引用\[2\]和引用\[3\]，CHAP-Password的生成方式是将密码与共享密钥进行MD5加密生成hash值，然后与密码的不同部分进行异或操作，并将结果放入CHAP-Password属性中的相应位置。因此，CHAP-Password是通过对密码进行加密和异或操作生成的属性。 #### 引用[.reference_title] - *1* *2* *3* [RUDIUS协议-CHAP加密](https://blog.csdn.net/b02330224/article/details/51595038)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^koosearch_v1,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值