在软件开发中使用机器学习的担忧

资料品质

• 我们都处于构思和学习阶段。飞跃，寻找机会。数据并非特定于软件开发；它需要清洁和治理。能够使用高质量数据生成可信赖的见解。 
• 这是一个新领域，要求公司在SDLC周围如何收集和分析数据方面进行调整。从定性程序转变为定量程序。Selenium从未被设计为使用ML。 
• 关注数据，获取正确的数据以消除偏见，并考虑组织价值。模型尝试执行的操作和您尝试完成的操作的偏差。

偏压

• 有些训练数据集可能会导致固有的偏差。同样，某些模型可以产生更多的误报，在SDLC中使用ML时也是如此。选择正确的算法和工具将是在SDLC中利用ML的关键方面。现在，我们对未来有了更积极的看法：随着我们生活在一个时代，人工智能和机器学习正变得司空见惯（例如自动驾驶汽车），公司将开始怀疑是否真的需要人类开发人员。人工智能可以产生人工智能吗？智能系统是否可以自行生成可执行代码以实现既定目标？如果是这样，则大大减少了对人员的需求。AI和ML是否会取代当前的软件开发人员并否定对它们的需求？我认为在不久的将来这将成为一个相关的讨论；然而，

技能专长

• 对ML的思考与对应用程序的思考不同。底层系统正在发生变化，因为它们本质上是动态的。人们部署ML时，需要进行监督。确保专家有能力，并且他们接受持续的培训和认证。专家需要不断展示专业知识。制定适当的流程，以确保系统按预期运行并运行良好。
• 技能是一个问题。拥有正确应用ML的专业知识是当今所有技术公司的关键和首要考虑。另一个重要主题是拥有正确的数据集以及可用于应用程序的带有标签的干净数据。将AI和ML应用于SDLC中也固有的最终用户应用程序时，可能会出现某些问题。诸如在算法中引入意想不到的偏见等问题可能会扭曲您正在努力取得的成果，或者缺乏用于培训或优化的良好数据的可用性。我们所有人都必须注意的另一个方面是“黑匣子”方法。我们需要防止“关键人员依赖性”，并避免出现这样的情况：如果同事离开公司，整个团队都不会意识到程序员正在努力取得的成果。  

其他

• 有可能将ML看作是万能的，最终的解决方案，但事实并非如此。开发人员必须遵循传统的SDLC协议来生产高质量的产品。
• 开发和优化ML模型具有过多的超参数。很难将方法的失败与错误的参数选择区分开。如果模型用于多个任务，则很难确保一项任务的增量改进不会破坏其他任务。
• 当它失败时，会有太多的炒作，并且对它的工作方式没有足够的了解。AI ops不会转化为发展。这三个云平台都具有出色的教程。您可以学习如何进行算法训练和模型开发。
• 机器学习是一项令人难以置信的技术，但是在我们将机器学习用于医疗诊断或无人驾驶汽车等紧急情况的同时，我们需要思考问题出处的更深层问题。如何跟踪和确定根本原因。需要对此进行更多的工作和关注。需要考虑做出错误决定的成本。
• 我主要关心的是对要解决的问题的理解。首先，需要了解是否确实需要SDLC中的ML。您可以使用基于规则的基本方法做很多事情，ML会产生噪音，尤其是当您尝试做一些非常笼统而又广泛的事情时。我认为人们往往从对他们所需要的东西过大的东西开始。第二个问题是建立“一刀切”的解决方案。建立一个可以在问题存在的任何地方都可以应用的东西真的很困难，因为上下文始终很重要。始终首先关注非常具体和量身定制的用例。如果您能够很好地解决这些问题，那么请查看之后是否可以扩展并推广到其他人。