伦理困境下的计算机决策

伦理困境下的计算机决策

摘 要：随着无人驾驶技术受到持续的关注，未来可能将颠覆现有的交通模式，给人类出行带来极大的便利。当计算机从人类手中接过方向盘，在面临不可避免的碰撞时，可能会出现伦理困境。这一困境引发了人们对计算机该不该做决策的重新思考。通过分析Moor，Friedman对于计算机决策的看法，对于计算机决策的正当性和计算机决策的责任，计算机的决策能力到底在什么水平，如何判定计算机决策的能力，将决策权委托给计算机以及随之带来的伦理困境进行论述，提出了计算机决策采用道德的选择去解决伦理道德与法律之间的冲突的一般步骤。计算机决策能力无法超过人类决策的现实条件下，计算机伦理便依托于人类伦理的基石。然而现有的人类伦理对于无法避免的碰撞的困境下没有很好的办法，计算机决策也无法走出伦理困境。
关键词：计算机伦理；计算机决策；无人驾驶；伦理困境；道德选择

前言

2018年3月18日晚上，美国亚利桑那州一名横穿马路的女子被Uber自动驾驶汽车撞伤，之后不幸身亡。无人驾驶汽车是通过车载传感系统感知道路环境，由计算机系统自动规划行车路线并控制车辆到达预定目标的智能汽车。也许在某一天，计算机不仅仅是作为计算或协商的工具，而是在涉及人类福祉这些重要问题上成为成熟的决策者。人们希望专注于决策问题，在这个领域，计算机最有可能影响和控制民众的生活。而无人驾驶技术的发展，面对计算机伦理的困境，必须考虑计算机是否应该做出决定。

1.是人都会犯错

正所谓金无赤足，人无完人。是人都是会犯错的，在头脑发热时简单做出的决定，往往会带来巨大的灾难。
2002年7月1日，俄罗斯客机坠毁在德国货运飞机，全部罹难，大部分是学生[1]。俄罗斯客机的飞行记录器有一个自动防撞系统，指示飞行员飞得更高（飞越货机）。人类空中交通管制员告诉俄罗斯飞行员降低飞行速度（在喷气式飞机下飞行）。飞行员往往听从空中交通管制员，因为他们知道，这个人要保证他们的安全。”但是空中交通控制员会疲倦和劳累。而避碰计算机系统不“想”任何东西；计算机只是做出理性的判断。飞行员遵循了人类的决定，而不是计算机的，悲剧发生了。是人都会犯错，所以计算机决策可以有效的避免这些问题。

2.计算机是否可以做出决策？

狭义上来说，“做决策”只是选择的动作。决策的过程就被忽略了。例如一个人被要求在纸牌戏法中选择任何一张牌，那么简单地选择一张牌就构成了一个决定。
广义上说，“做决策”不仅指的是决策，还包括过程。因此，在广泛意义上，做出决定可能涉及调查可能的行动路线，评估备选战略，并根据这项调查和评价选择行动方针[2]。
例如，在玩跳棋时，一个人会考虑各种可能的动作，权衡各方面的利弊，最后根据这个分析选择一个动作。
对于计算机能不能做决策的问题，可以分为以下几步进行探讨：
第一、 计算机能不能成为一个决策者；
第二、 计算机的决策能力如何；
第三、 如何评判计算机的决策能力；
第四、 计算机能不能做作决策。
2.1 计算机是一个决策者
计算机是不是一个决策者一直存在争议，反对者认为计算机可能会做出狭义的决策，但是不能做出广义上的决策。计算机不是一种可以研究和评估代替策略以选择行动过程的机器。换句话说，计算机只能做出类似于抛硬币这样简单的决策。
摩尔认为这种说法是错误的，也许最开始计算机只能做一些简单的计算操作。然而，计算机的活动在很多情况下可以作为一种复杂的信息分析，从而导致选择行为的过程，在这些情况下，决策语言通常是非常自然的应用。
举个例子， A. L. Samuel的经典跳棋程序[3]。计算机使用Samuel程序不仅可以玩跳棋，还可以通过经验来改进它的游戏。计算机被认为是一个跳棋玩家，并且被描述为一个决策者。当轮到它的回合，计算机必须决定采取什么行动。而且电脑为了更好地玩跳棋，它必须根据复杂的决策过程来做出决定。正如Samuel所指出的，“目前还没有一种已知的算法能够保证在跳棋中获胜，而在棋盘游戏中对每一种可能路径的完整探索大概包含1040次的移动选择。如果每毫秒能做出3次选择，仍然需要1021个世纪的时间来考虑。使用Samuel程序的计算机，它的决定与人类不同，因为人会向前走几步，评估可能产生广阔的位置，但它与人类决策者不同的是，它直接评估广阔的位置。计算机根据一个多项式计算一个广阔的位置，每一个多项式都代表了游戏的一个参数。计算机通过玩很多游戏，有时把自己也当作对手，学会了哪些参数是重要的。通过改变参数的权重并尝试不同的参数，计算机的评价机制变得越来越好。尽管计算机最初玩得很差，但通过对抗的学习，计算机的能力提高到了能打败人类棋手的程度。
摩尔认为计算机使用多项式来决定移动棋子表明计算机是一个决策者，事实上，计算机和人类玩家是通过相同的方式来做出决定的。计算机玩跳棋就是一个非常明显的例子证明计算机可以做出广义上的决策。计算机必须分析情况，发现可用的操作步骤