Alphabet旗下的DeepMind推出了人工智能驱动的聊天机器人Sparrow,被称为该行业努力开发更安全的机器学习系统的里程碑。
据DeepMind称,与早期的神经网络相比,Sparrow可以更频繁地对用户的问题给出合理的答案。此外,这款聊天机器人还包括一些功能,可以显著降低偏见和有毒答案的风险。DeepMind希望它用于构建Sparrow的方法将促进更安全的人工智能系统的开发。
DeepMind的sparrow,这个工作发表时间稍晚于instructGPT,如果你仔细分析的话,大的技术思路和框架与instructGPT的三阶段基本类似,不过明显sparrow在人工标注方面的质量和工作量是不如instructGPT的。