语料和语料库

语料,即语言材料。语料是语言学研究的内容。语料是构成语料库的基本单元。

所以,人们简单地用文本作为替代,并把文本中的上下文关系作为现实世界中语言的上下文关系的替代品。我们把一个文本集合称为语料库(Corpus),当有几个这样的文本集合的时候,我们称之为语料库集合(Corpora)。

参考:语料_百度百科


语料(Corpus,复数corpora),通常是一定数量和规模的文本资源集合。语料规模可大可小,大至千万,甚至数亿句或更大,小至几百句。互联网本身就是一个巨大庞杂的语料库。语料根据不同标准可以有很多分类。比如,语料可以是单语语料,也可以是多语种语料。

语料库的例子随处可见。比如维基百科语料库,新闻语料库。语料库的用途也非常非常广泛。从某种意义上来说,自己从网上寻找语料更为方便。因为现在很多语料资源都是公开的。当然,如果你有时间和精力,当然可以根据自己的具体需求自己构建语料库。

建议阅读《语料库语言学》。

参考:https://www.zhihu.com/question/400867109/answer/1278527478


语料库(corpus)指经科学取样和加工的大规模电子文本库,其中存放的是在语言的实际使用中真实出现过的语言材料。 

信息简介

语料库

名词(corpus,复数corpora)

指经科学取样和加工的大规模电子文本库。借助计算机分析工具,研究者可开展相关的语言理论及应用研究

corpus

n. (pl. corpora)

refers to a large collection of well-sampled and processed electronic texts, on which language studies, theoretical or applied, can be conducted with the aid of computer tools.

语料库是语料库语言学研究的基础资源,也是经验主义语言研究方法的主要资源。应用于词典编纂,语言教学,传统语言研究,自然语言处理中基于统计或实例的研究等方面。

分类

语料库有多种类型,确定类型的主要依据是它的研究目的和用途,这一点往往能够在语料采集的原则和方式上有所体现。有人曾经把语料库分成四种类型:

⑴异质的(Heterogeneous):没有特定的语料收集原则,广泛收集并原样存储各种语料;

⑵同质的(Homogeneous):只收集同一类内容的语料;

⑶系统的(Systematic):根据预先确定的原则和比例收集语料,使语料具有平衡性和系统性,能够代表某一范围内的语言事实;

⑷专用的(Specialized):只收集用于某一特定用途的语料。

除此之外,按照语料的语种,语料库也可以分成单语的(Monolingual)、双语的(Bilingual)和多语的(Multilingual)。按照语料的采集单位,语料库又可以分为语篇的、语句的、短语的。双语和多语语料库按照语料的组织形式,还可以分为平行(对齐)语料库比较语料库前者的语料构成译文关系,多用于机器翻译、双语词典编撰等应用领域,后者将表述同样内容的不同语言文本收集到一起,多用于语言对比研究。已经累积了大量各种类型的语料库,如:葡萄牙语料库、面向文本分类研究的中英文新闻分类语料库、路透社文本分类训练语料库、中文文本分类语料库、大开放字幕库OpenSubtitles的多语言平行语料数据(OpenSubtitles Corpus)、《圣经》双语语料库("Bible" bilingual corpus)、Short messages service(SMS) corpus(短消息服务(SMS)语料)等。

特征

语料库有三点特征

⒈语料库中存放的是在语言的实际使用中真实出现过的语言材料,因此例句库通常不应算作语料库;

⒉语料库是承载语言知识的基础资源,但并不等于语言知识;

⒊真实语料需要经过加工(分析和处理),才能成为有用的资源。

语料库的发展经历了前期(计算机发明以前),第一代语料库,第二代语料库,到第三代语料库

第三代

定义

【动态流通语料库】

第三代语料库是历时语料库,是基于大规模真实文本的语料库,是对语言文字的使用进行动态追踪的语料库,是对语言的发展变化进行监测的语料库,是"活"的语料库。

苑春法,黄昌宁等人在1995年著文谈到"第三代语料库"的问题,并且介绍了美国计算语言学学会倡议的数据采取计划ACL/DCI。认为这一代语料库首先对所有可以得到的语料以文本形式存储起来,它的容量一般为一亿词次以上,21世纪可望达到万亿词次的量级。该文实际上已经将下一代语料库的建设提上议事日程。

两大特色

第三代语料库有两大特色:

1,语料的动态性:语料是不断动态补充的.

2,语料的流通性:语料又多了一种新的"流通度"属性,这是一种具有量化的属性值的属性.

特点

【第三代语料库的特点】

时代:六七十年代到八十年代及九十年代以来。

语料:从单语种到多语种。

数量:从百万级到千万级再到亿级和万亿级。

加工:从词法级到句法级再到语义和语用级

文本:从抽样到全文。

特点一:动态性

不确定一个固定的库容量(例如:把库容量目标确定为数百万字,上千万字,数千万字,数亿字等);

不确定一个固定的选择文本的时间段(例如:确定为49年-82年,80年-90年,90年-95年语料等)

不确定一个固定的文本选择范围或应用领域(例如:确定为只收现代汉语文学语料,或新闻语料,或科技语料或中小学生语料等,从而建立一些专门的语料库);

不确定一些固定的文本抽样对象(例如:《人民日报》,《光明日报》,《人民文学》,《小说选刊》,或者老舍著作,巴金著作,毛泽东著作,邓小平著作等).

即期抽取的语料库:根据大众媒体的传播情况,依据一定的原则来动态抽取.

是历时的语料库:可以观察和测量到流通度的变化情况,可以追踪到语言成分的产生,成长和消亡.

是动态变化的语料库:大众传播媒体的情况是在不断变化的,语料库也要相应变化。(例如:1978年,中国报纸只有186种,基本上是单一的党委机关报,到1995年底,已经增加到2202种,平均期印数增加4倍,总印张增加3·5倍,报纸的品种,功能,发行都有了相当大的变化如果要科学地反应语言的流通应用情况,语料库的容量,选材,抽样等怎么可能一成不变呢)

特点二:流通性

1997年全世界期刊发行量最大的前50名的中国期刊(略)

双语或多语

大致可分为三类:

一是研究双语语料的对齐技术(Alignment),国内外学者就此提出多种策略和方法,已经出现了许多对齐双语或多语语料的程序或工具[Gale 1993];

二是研究双语语料的各种应用,如在基于统计的机器翻译技术[Brown 1990]、基于实例的机器翻译技术[Nagao 1984],双语词典编纂[Klavans and Tzoukermann 1990]技术中,双语语料库都发挥着十分重要的作用;

三是双语语料库的设计、采集、编码和管理问题。比较著名的语料库编码方案有TEI 文本编码标准以及CES标准,两者均基于SGML标记语言研究

指不只有一种语言的语料库。分为平行语料库和对照语料库两种。平行语料库指库中的两种或多种文本互相是对方的译文,因此可以用于翻译或者机器翻译研究;对照语料库中两种或多种语言的文本不构成对译关系,只是领域相同,主题相近。通常只能用于两种或多种语言的对比。

就前两类研究来说,中国国内做了较多的跟踪研究工作,而对于第三类研究,即双语语料库尤其是涉及汉语的双语语料库的建设、编码和管理研究,探索工作似乎做的相对较少。

目前国内最大的语料交换平台是Tmxmall语料商城。

参考:语料库_百度百科

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

顺其自然~

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值