关于机器学习道德影响的思考

清图

于 2021-08-09 17:32:54 发布

阅读量551

点赞数

分类专栏： mlr tidyverse 人工智能文章标签：机器学习 r语言

本文链接：https://blog.csdn.net/qinghuawenkang/article/details/119542774

版权

人工智能同时被 3 个专栏收录

21 篇文章 2 订阅

订阅专栏

mlr

2 篇文章 0 订阅

订阅专栏

tidyverse

2 篇文章 0 订阅

订阅专栏

无论是在帮助人们理解大自然还是帮助组织更好地管理他们的资源方面，机器学习都可以助力。但机器学习也有可能造成巨大伤害。例如，2017年发表的一项研究表明，机器学习模型仅仅通过一个人的面部图像就可以预测这个人的性取向，并且准确性惊人。虽然开发人员没有恶意，但这项研究引起人们对机器学习可能被滥用的担忧。
关于机器学习研究的另一个道德问题是安全性和可信性。虽然机器学习看起来像是源自科幻电影中的技术，但对于机器学习的研究现在已经达到相当先进的程度。机器学习模型可以仅仅根据一个人的面部图像来创建这个人的讲话视频。想象一下，在一场刑事审判中，这项技术可用来伪造一份被告从未发表过的声明作为呈堂证供。类似的情况还包括人脸替换。
以上情形就涉及数据保护和数据使用权的问题。为了训练有用的、性能良好的机器学习模型，数据是必不可少的。但重要的是要考虑:使用的数据是否符合道德规范﹖数据是否包含个人信息、敏感信息或财务信息?数据是否专属于任何人﹖如果是，那么数据的使用是否经过数据所有人的同意?
此外，还有两个道德因素需要考虑:
●当机器学习模型提出一种特定的行动方针时，我们是应该盲目地遵循预测，还是应该三思而后行?
●当产生相关问题时，谁为此负责。
假设我们有一个机器学习模型，这个机器学习模型负责判别是否根据病人的诊断数据进行手术。如果以往所有案例都证明这个机器学习模型是正确的，那么你愿意接受它的建议吗?更进一步，如果这个机器学习模型用来预测被告是有罪还是无罪呢?你还会接受它的判断吗?这就引出了如下问题:人类应该参与由机器学习提供信息的决策过程吗?如果参与的话，人类应该如何参与这些过程?这些问题的答案取决于具体所做的决定，如何影响涉及的人，以及在决策过程中是否应该考虑人的情感因素。
另外，在罪行判处方面，当根据机器学习算法做出的决定导致伤害时，谁应该为此负责?在人类社会中，人们对自己的行为负责。当坏事发生时，不管是对还是错，我们都期望有人为此负责。但是，如果无人驾驶汽车与行人相撞并导致伤害，那么谁负责任?制造商?驾驶员?行人?这是否与行人乱穿马路有关系?在将这样的机器学习技术在世界范围内推广之前，人们需要考虑并认真解决类似的道德难题。

当训练机器学习模型时，请问以下五个问题:

●意图合乎道德规范吗?
●即使意图合乎道德规范，会有其他人利用机器学习模型作恶吗?

●机器学习模型是否有可能带来伤害或歧视?
●收集的数据是否符合道德要求?
一旦部署机器学习模型，人类将如何应对由它们做出的那些决策?
如果上面任何一个问题的答案让你感到不安，请仔细考虑你所做的是否合乎道德规范。我们能做某件事并不意味着我们就应该做这件事。如果想深入研究如何进行道德机器学习，推荐阅读由Paula Boddington撰写的Towards a Code of Ethics for Artificial Intelligence一书。