DKVMN知识追踪描述

由于在线学习课程的兴起，学习者在课程学习过程中有很多习题练习的记录，利用这些记录，知识追踪(Knowledge Tracing)希望通过对学习者过往练习的结果分析其当前对一些概念的掌握程度。知识追踪任务可以形式化为一个有监督的序列学习问题：即给定学习者过去的练习记录 X = {x1, x2,…,xt-1},预测学习者对一个新的练习回答正确的概率，即：p(rt=1|qt,X)。典型的知识追踪方法有：Bayesian Knowledge Tracing(BKT) 和 Deep Knowledge Tracing(DKT). 在第一种 Bayesian Knowledge Tracing 中，学习者的知识状态st由知识概念集合{sti}表示，每个知识概念(concept state)为二元取值，表示 known 和 unknown，然后用隐马尔可夫模型更新知识概念状态的后验分布。BKT的不足有两方面：1）由于每个知识概念是单独表示的，BKT无法捕捉不同概念之间的相关性。2）BKT模型可以输出学习者对于预定义的学习概念的掌握情况，但是无法捕捉未定义的概念。3）BKT 用简单的转换模型来描述学习者对于不同概念的掌握情况，这就导致了 BKT 无法有效表示复杂的概念状态转换。第二种方法 Deep Knowledge Tracing, 运用了典型的 RNN 模型 LSTM，LSTM 用高维连续的向量空间表示S来模拟知识状态，输入和状态(input-to-state)，状态和状态(state-to-state)之间的非线性转换使得DKT的表达能力比BKT更强，同时不需要人工对知识概念的标注，但是DKT将学习者当前对于所有概念的掌握情况用一个隐藏状态(hidden state)表示，这导致了DKT无法输出学习者对于具体概念的掌握情况。本文提出的 Dynamic Key-Value Memory Networks(DKVMN)模型借鉴了 MANN(memory-augmented neural networks),但是不像传统的MANN模型用单个记忆矩阵(memory matrix)或者两个静态记忆矩阵(static memory matrices)，DKVMN 用一个静态矩阵 key 存贮所有的知识概念(knowledge concept)和一个动态的矩阵 value 存储以及更新学习者对于概念的掌握程度。DKVMN模型在追踪不同概念的掌握状态的同时能捕捉不同概念之间的关系。它对每个知识概念维护了一个概念状态(concept state)，并且会自动学习当前的练习输入和各个知识概念之间的相关关系，当一个新的练习输入，DKVMN 会先选择和当前练习相关的知识概念，然后根据学习者的回答的正误情况更新相关知识概念的状态。

本文实验所用数据集有四个：Synthetic-5, ASSISTments2009, ASSISTment2015, Statics2011. 前一个为机器生成的数据集，后三个是从在线学习平台获取的真实的数据集。在四个数据集上的测试，DKVMN 较之 BKT，DKT，MANN 都有所提升。