【总结报告】基于归纳知识图嵌入的元知识转移（Meta-Knowledge Transfer for Inductive Knowledge Graph Embedding 本文对论文 Meta-Knowledge Transfer for Inductive Knowledge Graph Embedding 做了简单的总结，主要总结了元知识的建模和获取这两部分。
Python 基础：使用 unittest 模块进行代码测试 在本文中，我们学习了：如何使用模块unittest中的工具来为函数和类编写测试，如何编写继承的类，以及如何编写测试方法，以核实函数和类的行为符合预期；如何使用方法setUp()来根据类高效地创建实例并设置其属性，以便在类的所有测试方法中使用。
Python 基础：用 json 模块存储和读取数据 用户关闭程序时，往往需要保存用户提供的信息，一种简单的方式是使用（JavaScript Object Notation）模块。这个模块最初是为 JavaScript 开发的，但随后成了一种常见格式，被包括 Python 在内的众多语言采用。这个模块让我们能够将简单的 Python 数据结构转储到文件中，并在程序再次运行时加载该文件中的数据。我们还可以使用 json 在 Python 程序之间分享数据。
Transformer 结构 这个部分类似于我们最开始讲的端到端模型中的注意力机制，它是为了帮助 Decoder 端每一步的生成都可以关注和整合每个 Encoder 端每个位置的信息。和 Encoder block 一样，这样的 Decoder block 也可以进行堆叠，如上图我右方标记了“Nx”。在原论文中，Decoder block 也是一共堆叠了 6 层。
Python 基础：异常 异常是程序运行时可能遇到的非预期情况，如除以零或文件未找到等。使用try-except代码块可以捕获并处理这些异常，防止程序因错误而中断而代码块则进一步允许在无异常发生时执行特定代码。静默失败是指程序在遇到错误时不显示任何错误信息，继续执行。合理使用异常处理机制，可以提高程序的健壮性和用户体验。
Python 基础：文件 虽然 open() 和 open() 搭配使用也可以，但是并非在任何情况下都能轻松确定关闭文件的恰当时机。如果非要在 with代码块外访问的话，可以先在 with 代码块内将文件的各行存储在一个。如果指定的文件不存在，Python 将创建一个空文件。为此，我们可以一次性读取文件的全部内容，也可以以每次一行的方式逐步读取。让我们只管打开文件，并在需要时使用它，Python 自会在合适的时候。如果要给文件添加内容，而不是覆盖原有的内容，可以以附加模式（要以每次一行的方式检查文件，可对文件对象使用。
BPE (Byte-Pair Encoding) Tokenization 我们其实也可以直接将每个单词作为一个单元来进行后续的训练，但是这样当我们处理新单词的时候就没有办法给出一个合适的表示，可能许多没有见过的所有的字都公用同一个表示。将文本数据集中的所有实例中的选定字符对替换为新创建的词元，从 step 2 进行重复，直到达到预定的词汇表大小或无法进一步合并字符对。然而，作为真人的我们第一次看到生词的时候，并不是对它一无所知的，我们可以通过生词的组成来进行猜测意思。最终生成的词汇表包含了所有 token，包括原始的字符和合并后的 token。如果我们要处理一个没有见过的单词。
Python 基础：类 定义一个类非常简单，只需要使用class关键字，后面跟着类名（首字母大写），然后是冒号。类体中的代码块定义了类的属性和方法。class Car:return f"在上面的例子中，Car是一个类，它有三个属性：makemodel和year。__init__（开头结尾都有两个下划线）方法是一个特殊的方法，被称为类的构造器，它在创建类的新实例时自动调用。在这个方法中，形参self必不可少。
注意力机制 给定一个查询向量（query vector）和一组值向量（value vectors），注意力机制根据query计算value的加权和。计算相关性给定一个查询向量（query vector）和一组值向量（value vectors），首先计算query与每个value之间的相关性。通常可以使用点积、内积、余弦相似度等方法来度量相关性。计算结果可以表示为一个得分向量，其中每个得分表示query与对应value的相关性。计算注意力权重通过对得分向量进行归一化，可以得到value。
Seq2seq、编码器&解码器神经网络 Seq2seq（Sequence to Sequence）的作用是将一种序列转换为另一种序列，比如将英文句子翻译为中文句子，或者将一篇文章进行概括。一种解决 Seq2seq 问题的方法是编码器-解码器模型。下面我们以英语句子翻译为西班牙句子为例来进行介绍。
大模型基础 从GPT-3 (1750亿个参数) 中，我们可以看到大规模预训练语言模型中的丰富知识。之所以选择预训练语言模型，是因为之所以选择预训练语言模型在 GLUE 上的结果优于人类的表现，这反映了预训练语言模型的语言理解能力。基于以上的特点，使用预训练的语言模型现在是各种 NLP 任务的标准，与语言模型相关的研究也在 2018 年迅速发展了起来。在GPT-3中，许多复杂的任务，如编写代码和下棋，可以转化为基于预先训练的语言模型的动作序列生成。第二步：然后，我们可以使用特定任务的训练数据对预先训练的语言模型进行。
自然语言处理基础 自然语言处理（Natural Language Processing，简称NLP）是计算机科学与人工智能领域的一个重要研究方向，目的是让计算机能够理解、解析、生成和处理人类的自然语言。自然语言处理有着非常重要的意义，其一，我们认为人类语言是人类智能一个非常重要的体现；其二，NLP 是人工智能能够通过图灵测试的一个非常重要的工具。其中图灵测试（最开始的名字是 imitation game）是判断机器是否智能的一个非常重要的手段。
24二战上岸北邮计算机经验贴（初试+复试超详细） 我认为有直系学长学姐领路真的会少走很多弯路。我现在写下这个经验贴呢，也希望帮助到后面备考北邮的学子！也欢迎大家加入北邮计算机群进行讨论学习，里面都是一些同样备考的同学，还有很多在读北邮热心的学长学姐，会分享很多重要的北邮计算机考情资讯以及复试要注意的东西。
关注
