2020年的5次AI和分析的灾难（事故）

在当今随着新技术的进步，我们都知道数据的重要性。数据是新的石油。它已成为数字生态系统中最重要的支柱之一。组织依赖于有助于实现业务目标的数据。每枚硬币都有两个方面，每一项积极的技术都会带来一些负面影响，这些负面影响可能会使组织在收入和声誉方面付出沉重的代价。

处理数据很重要。跟踪数据，理解数据并随其增长是至关重要的。但是同样重要的是，了解数据，了解最合适的工具并牢记公司目标至关重要。

在此文章中，我们将讨论对IT市场产生负面印象的5种分析和AI错误。

1. 因为超过电子表格数据限制导致丢失病例

2020年10月，负责清点新的COVID-19感染的英国政府机构英国公共卫生(PHE)透露，在9月25日至10月2日之间未报告近16,000例冠状病毒病例。Microsoft Excel中的数据限制。但是，由于Excel数据限制，仅在一个工作表中列出了16,384列和1,048,576行。PHE以列格式列出，最终丢失了记录转换成的记录。即使发现了数据，然后将报告发送给了患者，这种技术故障也扼杀了合同的追踪工作。

"小故障"并没有阻止接受测试的人接收其结果，但是它确实阻碍了联系追踪的工作，使英国国家卫生局(NHS)难以识别并通知与感染患者密切联系的个人。

2. 亚马逊AI招聘工具仅推荐男性

亚马逊在其招聘流程中使用基于AI的招聘工具，该工具可以轻松筛选成千上万张简历和个人资料，以找到最适合该职位的候选人，同时给出1到5的评分。该工具的缺点是训练数据集基于AI的工具中使用的大多数男性候选人。因此，该系统对女性申请人和首选男性申请人进行了处罚。

该公司试图编辑该工具以使其中立，但最终决定不能保证它不会学习其他分类候选人的歧视性方式，从而结束了该项目。

3. 训练有素的微软对话机器人发出种族主义推文

在2016年，微软使用Twitter交互来训练Chatbot机器学习算法，结果证明这是一场灾难。AI聊天机器人Tay是根据具有自然语言处理和机器学习功能的少女角色开发的，但最终发现超过95,000条推文，表明他们是厌恶，种族主义和反犹太人的推文。

微软研究与孵化公司副总裁彼得·李(Peter Lee)表示："对于泰伊(Tay)的无意冒犯性和令人发指的推文，我们深表歉意。这些推文并不代表我们是谁，我们代表什么，也不代表我们如何设计泰伊(Tay)。事件发生后，在Microsoft官方博客上的帖子中写道。

机器学习和人工智能如何改变电子商务的面貌?|数据驱动…如今，这家电子商务开发公司整合了先进技术，将客户体验提升到了一个新的高度……

4. 医疗算法忽略了黑人患者

2019年，《科学》杂志的一项研究表明，保险公司和医院使用的医疗保健预测算法最有可能在确定高风险护理管理计划的同时将黑人患者拒之门外。该计划的动机是培训初级保健和护理人员以监测慢性病患者，以降低严重并发症的发生率。但是，该算法建议白人患者，而黑人患者则处于高风险中。此算法包含一些因素，使其代表这样的结果，包括保险，低收入，医疗保健等。

研究发现，该算法使用医疗保健支出作为确定个人医疗保健需求的代理。但是根据《科学美国人》的报道，较病的黑人患者的医疗保健费用与较健康的白人的医疗费用相当，这意味着即使他们的需求更大，他们的风险评分也较低。

该研究的研究人员认为，可能有一些因素在起作用。首先，有色人种的收入较低的可能性更高，即使有保险，也可能使他们获得医疗服务的可能性降低。内隐的偏见也可能导致有色人种获得较低质量的护理。

5. Target 分析程序侵犯了隐私

深入了解客户世界的最简单方法是借助数据。借助预测分析，可以深入了解用户的状况。但是，Target的营销部门使用此算法来找到怀孕的客户。由于家庭中有关怀孕少女的最新消息导致令人毛骨悚然的结果，结果很快成为灾难。使用该算法的动机是分析用户的习惯，但结果却完全不同。

与所有其他大型零售商一样，塔吉特(Target)一直通过购物者代码，信用卡，调查等收集有关其客户的数据。它将数据与所购买的人口统计数据和第三方数据混合在一起。通过处理所有数据，Target的分析团队可以确定Target出售的大约25种产品可以一起分析以产生"怀孕预测"得分。然后，营销部门可以通过优惠券和营销信息来针对高分客户。

原文链接：

https://medium.com/datadriveninvestor/5-ai-and-analytics-disasters-in-2020-efcc8848bf78)