- 博客(17)
- 收藏
- 关注
RSS订阅翻译 StructBERT：将语言结构纳入深度语言理解的预训练中——中文翻译
最近，预训练语言模型 BERT（及其鲁棒优化版本 RoBERTa）在自然语言理解（NLU）领域引起了广泛关注，并在各种 NLU 任务中取得了最先进的准确度，例如 情感分类、自然语言推理、语义文本相似度和问答。受 Elman [8] 线性化探索工作的启发，我们通过将语言结构纳入预训练，将 BERT 扩展到一个新模型 StructBERT。具体来说，我们使用两个辅助任务对 StructBERT 进行预训练，以充分利用单词和句子的顺序，分别在单词和句子级别利用语言结构。
2023-04-20 19:41:05
467
翻译 BERT: 语言理解深度双向转换器的预训练——中文翻译
语言模型预训练已被证明可有效改善许多自然语言处理任务（Dai 和 Le，2015 年；Peters 等人，2018a；Radford 等人，2018 年；Howard 和 Ruder，2018 年）。这些包括自然语言推理（Bowman 等人，2015 年；
2023-03-31 20:03:53
384
翻译 TiBERT：藏语预训练语言模型——中文翻译
以BERT为代表的预训练语言模型改变了自然语言处理的研究范式。这些模型可以在大规模无标记语料库上进行预训练，获得丰富的上下文表征，通过迁移学习，具有小规模标记数据集的下游任务也可以获得更好的性能，解决了低资源语言中标记数据较少的问题。因此，预训练的语言模型对于藏语等低资源语言至关重要。 目前，单语预训练语言模型主要集中在汉语和英语领域，资源较少，尚未得到充分应用。为了解决这个问题，谷歌发布了多语言模型[1]。多语言预训练模型可以同时处理多种语言，并为多种低资源语言的下游任务提供支持。
2023-03-27 21:54:35
2213
原创 Python编程：从入门到实践第九章类（class）笔记
Class 类9.1.1 创建和实用类#Dog类class Dog(object): def __init__(self, name, age): self.name = name self.age = age def sit(self): print(self.name.title()+' is sitting') def roll_over(self): print(self.name.ti
2022-05-12 12:59:01
319
原创 Python编程：从入门到实践第八章函数（function）笔记
函数命名-语义化形参和实参函数实参位置实参，顺序严格关键字实参，键值对一一对应，顺序无关默认参数，传参则覆盖多种结合数量匹配返回值让实参变成可选的，默认传一个空字符串，默认参数再非默认参数之后返回字典传递列表修改列表，传入列表本身切片法传入副本，不对原列表修改传入任意数量的实参使用任何数量的位置实参，定义空元组*parameters将收集的数据封装到元组中使用任意数量的关键字实参，定义空字
2022-05-08 11:27:38
156
原创 Python编程：从入门到实践第七章用户输入和while循环笔记
用户输入和while循环input()int()while 循环breakcontinueactive_status =True删除列表重复元素结合字典和列表7.1 input() int()message = input("hehehe:")#100num = int(message)+100print(num)#2007.2 even_or_odd %if int(input("num:"))%2==0: print(
2022-05-07 18:16:32
509
原创 JavaScript_基础
1、JS基础知识JavaScript是什么运行在客户端的脚本语言不需要编译，运行过程中由解释器逐行解释并执行也可以基于Node.js进行服务端编程JavaScript作用表单动态校验（密码强度检测）网页特效服务端开发（Node.js)桌面程序（Electron）App（Cordova）控制硬件-物联网（Ruff）游戏开发（cocos2d-js）浏览器组成渲染引擎：用来解析HTML和CSS，俗称内核，比如chrome浏览器的blink。JS引擎：俗称JS解释器，用来读取
2022-05-07 13:45:58
250
原创 Python编程：从入门到实践第六章字典（dictionary）笔记
字典键-值对键只能字符串值可以是python的各种对象修改字典修改值del 删除键值对遍历字典遍历键值对 for keyword,value in dict.items()遍历键 for keyword in dict.keys()遍历值 for value in dict.values()按顺序遍历 sorted()遍历值，去重复项 set() 每个数据独一无二字典列表 [{},{},{},…]
2022-05-07 13:40:57
434
原创 python编程：从入门到实践第五章IF语句笔记
IF语句< <= >= > != ==检查多个条件and 都true为true，有假即假，左边假右边的不计算or 有真即真，左真则右边不计算检查特定值in 检查特定值是否在列表中，在返回值Truenot in 检查特定值是否不在列表中，不在返回Trueif语句if …if … else …if … elif … else …if … elif … elif … else …满足一个if或elif则
2022-05-07 13:31:35
355
原创 Python编程：从入门到实践第四、五章列表（List）的定义及其基本操作笔记
列表三、列表简介用负数下标访问列表for循环插入insert(位序，值) 插入函数append() 末尾添加元素删除del 删除元素，无返回值pop 根据元素位序删除该元素（默认尾部），返回该元素值remove 根据值删除最先出现的第一个元素，不存在则报错排序sort() 永久排序（单调不减），reverse=True（逆向sorted() 临时排序，不改变列表位序reverse() 反转列表len() 列表长度四、
2022-05-07 13:26:58
827
原创 Python编程：从入门到实践第二章变量和数据类型笔记
变量由数字、字母和下划线组成，字母和下划线开头不能包含空格简短且语义清晰慎用小写字母l和大写字母O字符串upper()转为大写title()每个单词首字母大写lower()转为小写（+）字符串连接换行符 \n制表符 \tlstrip()去除最左端若干空格rstrip()去除最右端若干空格strip()去除最左、右两端空格单双引号配合输出单双引号数字整数运算 + - * / %乘方 **str()数值转字符串注释# 2.1 变量名ab=3abc_=
2022-05-07 13:20:36
205
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人