GPT-4o的道德感超过人类专家？！

大家好，我是木易，一个持续关注AI领域的互联网技术产品经理，国内Top2本科，美国Top10 CS研究生，MBA。我坚信AI是普通人变强的“外挂”，所以创建了“AI信息Gap”这个公众号，专注于分享AI全维度知识，包括但不限于AI科普，AI工具测评，AI效率提升，AI行业洞察。关注我，AI之路不迷路，2024我们一起变强。

AI有道德感（moral sense）吗？近期一项很有趣的研究表明，大语言模型（LLM）能够以高准确度反映道德判断。随着LLM越来越多地被用于复杂的决策，真正的道德专业能力不仅需要判断一致，还需要清晰且值得信赖的道德推理（moral reasoning）。在这项研究中，研究人员推动了道德图灵测试（Moral Turing Test）的工作，并发现GPT-4o模型提供的建议在道德性、可信度、深思熟虑和正确性方面，比《纽约时报》“伦理学家”专栏中著名伦理学家的评价更高。这表明在某些方面，LLM已经达到了一定程度的道德专业水平。更有希望的是，它表明LLM可以补充人类在道德指导和决策方面的专业知识。

何为道德推理能力？

道德推理能力是指个体在面对道德困境或伦理问题时，能够运用理性思考和价值观进行分析、评估并做出决策的能力。这种能力不仅涉及识别问题中的道德维度，还包括对不同道德原则和价值观进行权衡，以及在特定情境下做出符合道德标准的选择。道德推理能力强的人通常能够清晰地表达他们的思考过程和决策依据，使他人能够理解和接受其判断。

一个经典的道德推理案例是“电车难题”（Trolley Problem）。在这个假设的情景中，一辆失控的电车沿着轨道快速行驶，前方轨道上有五个人无法及时