一、背景介绍
人岗匹配系统是e成HR saas 服务的重要组成部分,主要场景是HR创建职位描述(job description,简称jd)后,从人才库或者用户主动投递的简历中通过匹配,排序得到最合适该jd的简历列表(cv list)。
人岗匹配的价值在于提高HR search人才的效率,这个场景可以看做用户输入query为jd长文本的搜索引擎,因此排序是这个系统最重要的一环,而基于用户反馈数据的LTR(learning to rank)算法已经被广泛地应用于各类排序问题。然而,LTR是基于当前线上展示结果的行为数据优化而得到的,受本身排序策略的影响,我们有大量的样本是没有被展现或者低频展现,所以LTR并不是真正的全局最优。
用户在浏览匹结果的过程中的行为会包括浏览、点击、邀约、翻页、离开这四个动作,而如何让机器和用户交互的过程中通过这些行为数据优化序列决策问题使得累积收益(Accumulative Rewards)最大,需要应用强化学习(Reinforcement Learning)来解决,后续第二部分介绍我们业务场景下的MDP(Markov Decision Process)建模过程。
二、问题建模
HR在系统中搜寻简历的行为不同于通用的搜索引擎,在通用的搜索引擎一般来说用户在越靠前的位置找到满意的结果系统的效果越好,而在我们的场景下,评价效果的好坏在于用户能够翻页搜寻到越多合适的人才,因此,我们对reward的定义需要调整。
马尔可夫决策过程(Markov Decision Process,MDP)是强化学习基本模型。MDP可以