8.13+8.14

总结之前所看的论文中与知识向量相关的点

知识向量是一种表示知识的数学向量，用于将概念、实体、关系等抽象概念映射到向量空间中的点。知识向量的目标是捕捉和表示实体之间的语义关联和语义相似性。
在自然语言处理和知识图谱领域，知识向量通常用于将文本、实体和关系转化为向量表示，以便计算它们之间的相似度、关联度或执行其他语义推理任务。通过将知识映射到向量空间，可以利用向量之间的距离或角度来度量它们之间的语义关系。
通常，知识向量的生成涉及使用机器学习和深度学习技术对大规模的语料库或知识图谱进行训练。一种常见的方法是使用词嵌入模型（如Word2Vec、GloVe等）将单词映射到向量空间。对于知识图谱中的实体和关系，可以使用图嵌入模型（如TransE、TransR、DistMult等）来生成对应的向量表示。
通过将知识表示为向量，可以进行语义相似度计算、实体关系推理、问答系统、信息检索等任务。此外，知识向量还为知识图谱的表示学习、知识图谱补全和知识推理等提供了基础。

在用于事实核查的知识图谱比较推理中，使用了结构嵌入（将知识片段中的节点嵌入到高纬空间，同时保留其结构信息）和语义嵌入（使用语言模型Bert来学习每个节点的语义嵌入）。

结构嵌入是将知识表示为向量的方法。结构嵌入的目标是 将图中的节点和边表示为低维向量 ，以保留节点之间的结构和拓扑关系。结构嵌入方法可以利用节点的邻居信息、图的局部结构或全局结构等特征来生成节点的向量表示。这种方法可以用于图的节点分类、链接预测、社交网络分析等任务。常见的结构嵌入模型包括DeepWalk、Node2Vec、GraphSAGE等。

将图中的节点和边表示为低维向量
通常，图中的节点和边数量非常庞大，因此，为了降低计算复杂度和存储需求，可以将它们的表示压缩到一个低维向量中。
低维向量是指具有较少维度的向量，通常是几十到几百维。通过将节点和边映射到低维向量中，可以实现对图结构的紧凑表示，并且在向量空间中保留节点和边之间的结构和拓扑关系。
生成节点和边的低维向量表示的方法通常涉及使用图嵌入（Graph Embedding）技术。这些方法可以基于节点的邻居节点、图的局部结构或全局结构等信息来捕捉节点之间的相似性和关联性，并将其表示为低维向量。
一旦节点和边被表示为低维向量，可以在向量空间中进行各种计算和分析操作。例如，可以通过计算向量之间的距离或相似度来度量节点之间的相似性、找到具有相似特征的节点，或者在向量空间中进行聚类和分类等任务。

语义嵌入和知识向量是两个相关但不完全相同的概念。
语义嵌入是一种将语义信息转化为连续向量表示的技术，主要用于将词语、短语、句子或其他语义单位映射到向量空间中的点。它的目标是通过学习将语义相关的语义单位映射到向量空间中的相近位置，从而捕捉和表示语义的相似性和关联性。
语义嵌入和知识向量在某种程度上是相互关联的。语义嵌入技术可以用于生成知识向量的一部分，特别是在处理文本数据时，可以将文本中的词语和短语通过语义嵌入模型转换为向量表示。这些向量表示可以在知识图谱中进行进一步的分析和推理。同时，知识向量的生成也可以利用语义嵌入的思想，通过学习实体和关系的向量表示来捕捉它们之间的语义关联。

在基于规则指导的知识图谱推理协作代理学习中，将实体分为两个子主体——关系代理和实体代理。

在关系代理中，由于规则挖掘器提供了规则置信度分数，我们首先使用强化学习技术来使用分数对代理进行预训练，在训练过程中，关系代理运用预训练的策略并通过利用 嵌入提供的语义信息 来不断调整分布。

嵌入向量是一种将语义信息表示为连续向量的方法，用于捕捉和表示语义的相似性和关联性。而知识向量是一种将知识表示为向量的方法，用于捕捉实体之间的语义关联和语义相似性。
嵌入向量通过在大规模语料库上进行训练，使用上下文信息、共现统计等方法，将语义相关的语义单位（如词语、短语、句子）映射到向量空间中的相近位置。这些嵌入向量在向量空间中的距离和方向可以反映语义的相似性和关联性。例如，在词嵌入中，语义相似的词在向量空间中通常会有较小的距离。
知识向量则是将知识表示为向量的方法，主要应用于知识图谱领域。它通过将概念、实体和关系等抽象概念映射到向量空间中的点，来捕捉实体之间的语义关联和语义相似性。知识向量的生成通常涉及使用机器学习和深度学习技术，通过对大规模的语料库或知识图谱进行训练来生成实体和关系的向量表示。
可以看到，嵌入向量和知识向量都是将语义信息表示为向量的方法，目标是捕捉和表示语义的相似性和关联性。嵌入向量主要应用于自然语言处理领域，用于词义相似度计算、文本分类、机器翻译等任务，而知识向量主要应用于知识图谱领域，用于实体关系推理、问答系统等任务。
在某些情况下，嵌入向量和知识向量可以相互影响和结合。例如，在知识图谱中，可以使用嵌入向量将实体和关系映射到向量空间中，并利用向量的距离和方向来推断实体之间的关系。同时，知识向量的生成也可以受到嵌入向量的影响，通过在训练过程中使用嵌入向量的语义信息来提高知识向量的表示能力和语义关联性。

使用Debate Dynamics的论文，在辩论动态中，通常会有两个智能系统，分别扮演正方和反方的角色。它们通过交替提出论点、反驳对方观点，并尝试用合理的证据和逻辑来支持自己的立场。在这个过程中，这些智能系统需要理解和表达复杂的概念、推理能力和语言技巧。这就涉及到了 表示学习 的问题。在辩论动态中，智能系统需要学习一种有效的表示形式，将自然语言表达转换为适合于推理和辩论的表示形式。这种表示形式应该能够准确地捕捉论点、论据、逻辑关系等信息，并能够进行推理和反驳。表示学习方法可以通过深度学习等技术来学习这样的表示形式，将自然语言转换为向量表示，以便智能系统能够处理和推理。另外，表示学习还可以用于辩论动态中的其他方面，如论点的生成和选择、证据的挑选和评估等。通过学习到的表示形式，智能系统可以从大量的语料中学习到有效的论点和证据的表示，从而更好地参与辩论，并提供合理的论证和反驳。

表示学习（Representation Learning）是指通过学习将原始数据转换成一种更有意义、更容易处理的表示形式的过程。表示学习和知识向量之间存在密切的关系。表示学习的目标是学习到一种有效的表示形式，将原始数据转换成向量表示，使得这些向量能够准确地捕捉数据中的特征和结构，从而更好地表示数据的含义。这些向量可以被视为知识的表示，即知识向量。知识向量可以包含各种形式的知识或信息，例如语义关系、概念关联、领域知识等。表示学习可以通过学习到的向量表示来捕捉这些知识或信息，并将其编码成向量的形式。这些知识向量可以被用于推理、问题回答、语义搜索等任务，从而提高机器的智能和理解能力。

在KAGNET中，KagNet模型使用外部知识图谱作为知识资源，将知识图谱中的实体和关系与自然语言文本进行融合。知识图谱的每个实体和关系可以被表示为向量或嵌入，这些向量可以被视为知识向量。
KagNet模型通过将自然语言文本和知识图谱的知识向量输入到 图卷积网络中，利用图卷积网络的传递性和邻居信息传播的能力来对文本进行建模。图神经网络可以通过池化相邻节点的特征来更新节点向量，从而对结构化数据进行编码，捕捉文本中实体之间的关系、实体与知识图谱中的关系之间的联系，并将这些信息整合到模型的表示中。

图卷积网络是一种用于图数据的深度学习方法，和知识表示之间存在一些关系。
首先，图卷积网络可以用于学习图数据中节点的表示。在图数据中，每个节点可以表示为一个实体或概念，而节点之间的连接可以表示它们之间的关系或语义关联。图卷积网络通过在图上进行卷积操作，将节点的特征信息进行传播和聚合，从而学习到节点的表示。这些节点的表示可以被看作是知识的表示形式，即知识向量。
其次，图卷积网络可以结合外部知识来进行节点表示的增强。在知识表示中，外部知识可以以知识图谱、词典、知识库等形式存在。这些知识可以提供关于实体之间关系、语义信息等方面的额外知识。图卷积网络可以将外部知识与图数据进行融合，使得节点的表示能够更好地捕捉到知识的信息。例如，可以使用知识图谱中的实体嵌入或关系嵌入来增强节点的表示，从而更好地表示实体之间的关系和语义。
另外，知识表示也可以用于图卷积网络的输入特征。在构建图卷积网络时，可以使用节点的知识表示作为节点的初始特征。这样可以将外部知识的信息引入到图卷积网络中，从而帮助网络更好地学习节点的表示。知识表示可以提供更丰富的特征信息，使得图卷积网络在节点表示学习任务中表现更好。
总的来说，图卷积网络和知识表示之间存在密切的关系。图卷积网络可以用于学习图数据中节点的表示，而知识表示可以提供外部知识的信息来增强节点的表示。另外，知识表示也可以作为图卷积网络的输入特征，提供更丰富的特征信息。这些关系使得图卷积网络能够更好地处理图数据，并且可以将外部知识融入到节点表示学习中。