Yelp：我们让AI干掉Bug，结果它把所有代码都删了！

近日，美国最大点评网站Yelp发布了一条令人捧腹的版本更新说明：

 

"对本周发生的程序问题深感歉意，我们尝试了训练神经网络来消除所有bug，但是它却选择了删掉所有内容...没办法我们只能进行版本回滚，不过好歹我们有了一个100%没有Bug的体验。"

 

 

事情是这样的：

 

原来Yelp本打算利用深度学习来消除已有的Bug、优化提升用户体验，但是实际效果却让人啼笑皆非，“调皮“的神经网络将所有的内容都做了删除。不得已，Yelp只能将版本进行了回滚。

 

针对此次Yelp的事故，以@澳洲李市民 @狸角兽 为代表的网友吐槽也相当精彩。

 

 

@-韩耿耿- ：感觉「Yelp」这个说明没什么毛病啊，神经网络看了看，「人类编的这是什么垃圾程序！」，索性把全部东西都删了准备重写，但这个意图被狡猾的人类发现并及时阻止了，避免了一场人机大战。

 

@偶尔写程序的刀刀兔 ：另一方面是不是也说明yelp的代码全是bug。

 

@Old_Panda ：深度学习经过思考后，为了有效杀灭所有bug，决定将代码库清零。

 

@北冥乘海生 ：深度学习的威力不小。

 

@互联网八卦民工 ：这不是一个简单的Rollback，Yelp在真实环境训练自己的人工智能神经网络去删除app中的bug，结果是人工智能把所有的都东西都删了，所以只能Rollback了。（Rollback指的是程序或数据处理错误，将程序或数据恢复到上一次正确状态的行为）官方自嘲说现在真的100%没有bug了。（回滚对程序员意味着非常严重的失误。）

 

抛开这个乌龙，作为美国最大的点评网站，Yelp在具体业务场景方面一直积极使用深度学习相关算法，比如对美食照片评分、图片分类等。

 

2017年，Yelp还曾向社会公开其内部数据集。在学术界，对Yelp等在线点评网站中的虚假评论判定也是深度学习研究者比较关心的问题。根据阿尔托大学的博士生Mika Juuti的描述，基于算法的虚假评论现在很容易，准确且快速生成。大多数时候，人们无法分辨真实和机器生成的虚假评论之间的区别。

 

基于此Juuti在去年（2018年）的一篇研究中提出了解决方法：他和相关研究者设计了一款分类器来鉴别虚假评论，该分类器表现良好，特别是在人类评估员在判断评论是否真实时最困难的情况下。但是尚未有相关报道跟踪Yelp方面是否有将其落地到实际应用中帮助用户过滤评论信息。

 

 

参考国内美团点评等类似公司，在线点评网站的深度学习应用也仍以文本分析、语义匹配、搜索引擎的推荐排序以及图像质量排序等业务场景为主。

 

像Yelp这种用真实数据集来做Bug删除但最终导致所有数据被删的乌龙场景实属罕见，至于这个神经网络当初在测试环境下的数据表现如何，Yelp未做详细解释说明，图灵君会关注后续动态。

 

去年（2018年）很多公司推出过AI自动测试Bug工具，比较有名的如Facebook的SapFix。不管各个公司公布的测试数据有多么漂亮，但至少从这个案例来看，AI帮助测试工程师检测并调试Bug并没有想象中那么容易。

更多大数据人工智能领域精彩内容，欢迎关注公众号图灵TOPIA（turingtopia）