人工智能的伦理焦虑

大数据+互联网的快速发展，奠定了当今的人工智能算法时代，这一科技力量全面、广泛、深入嵌入每个人的生活和工作中，以不可阻挡之势改变着我们的社会。作为一名数据科学家，我在工作中逐渐感到人工智能工具的发展如果不经人工干预、引导其向善和负责，我们的生活，以及我们的下一代将会面临被算法统治的可能。

一边是科技企业高薪的工作，一边是做出的算法对于社会的极大影响，而我们现今又无力（或者还未重视）控制这种影响，这对于我个人的良知是一种煎熬。

发出这篇文章，希望有类似的焦虑、担心的同行们能够表达出来，同时希望非同行们（消费者们、终端用户们，等等）中意识到这个问题的朋友们可以提出你们的批评意见。集中大家的智慧，我们一起思考找到解决的办法，并行动起来让它们应用于我们的工作和社会当中。
让我们一起为创造造福人类社会的，而不是毁灭人类社会的人工智能工具而努力！

想要了解相关内容，可以参考：

电影

智能陷阱 The Social Dilemma 监视资本主义：智能陷阱 (豆瓣) 

“如果你没有为使用的产品付费时，那么你就是产品”，电影介绍了手机上各类APP如何通过收集用户的数据，结合各种算法，不断争夺你的注意力；并通过你使用越多，收集你的数据越多，更加了解你，可以定向投喂你喜欢的信息（+广告：这是他们的主要商业模式），让你束缚在信息茧房内，完全看不见不同意见；并且通过能够引发你强烈情感反馈（上瘾机制）的“信息”，可以使你极易被操纵，从而走向参与一些极端活动的道路上。社交媒体的点赞等机制，使得你比以往更加在意外人的评价，用的越多，反而导致不自信、空虚、焦虑，因此青少年自杀率在社交媒体推广后不断上升，等等。这是个人层面的问题。

后半部分介绍了由此引发的社会问题（量变到质变），引发严重担忧，这将毁灭人类。

最后，一些科技高管们因为看到了他们创造的产品对人们的心理健康、社会生活等产生了极大地负面影响，而产生了非常严重的愧疚和自责。因此联合起来，为了更加人性的科技而努力。

书籍

--《技术垄断（文化向技术投降）》Technopoly: The Surrender of Culture to Technology（美）尼尔.波斯曼 ISBN:978-7-521-70049-7 技术垄断 (豆瓣)

作者在1992年的这本书中抨击唯科学主义和信息失控的现实危害，并通过观察，断言美国已经进入了技术垄断时代，这将对美国社会和人类文化产生危害。最后一章，主张我们积极反抗“唯技术决定论”，人们必须知道技术并非万能，而且需要增强人类的批判思考能力。并给出了他对此的建议：通过学校教育，并把“人类的进步”作为构建教学计划的框架。因为“人类的进步”的主题，赋予教育一个非技术、非商业的定义，这个定义来自光荣的人文主义传统。

作为第一步，他建议课程设置是这样的：所有课程都作为人类发展的一个历史阶段来传授：科学、历史、语言、技术和宗教的理论都要讲；把重点放在艺术表现的古典形式上。他认为这种教学计划和技术垄断论的精神是截然对立的。或许这个计划有助于开启和维持一种认真的回话，使我们能够和技术思想世界拉开距离，并批评它，修正它。

--《算法的力量：人类如何共同生存》Future Politics: Living Together in a World Transformed by Tech（英）杰米.萨斯坎德 ISBN 978-7-5477-4111-5 算法的力量 (豆瓣)

本书从描述数字生活世界开始，逐项探讨了在算法作用下，未来的权力、自由、民主、正义和政治。“尽管我们很享受数字生活世界中这些令人炫目的新机会，但某些技术将会成为可怕的权力工具。一些技术能够迫使我们去做某些事情，... 有一些技术会通过控制我们对世界的感知来行使权力。”（这一判断已经在上述电影里呈现出来了，已经发展成为现实。）这给予账户哦这些技术的人以极其强大的权力。最直接的政治受惠者是科技公司和国家。

最后作者提出了个体责任+增压国家的权力+ 限制科技公司力量+ 监管的解决框架，并坚定地提出一个原则：有些事情是数字系统不应该做的，即使它们（在技术上）比人类做得更好。

--《金融伦理通识》巴曙松主编 ISBN:978-7-111-65329-5 金融伦理通识对于新兴技术从业者、

新兴行业领导者非常推荐的一本书，帮助你了解自身的历史责任；特别推荐金融科技行业的同行们、领导们阅读。

全书从企业伦理、职业伦理、金融市场伦理、技术伦理、营销伦理和投资伦理6部分介绍了金融科技相关的伦理问题，即便之前不知道自己的工作所涉及到的影响，也可以从这本书中了解到，除了追求经济利益，从业者们负有对于社会、国家乃至人类文明的责任，帮助你从更宏观、长远的角度了解到自己的工作和产品的历史责任感，提升个人伦理操守。

--《看不见的女性》Invisible Women: Exposing Data Bias in a World Designed for Men by Caroline Criado Perez ISBN: 978-7-513349611, 看不见的女性 (豆瓣)

英文版ISBN: 978-1-784741723 Invisible Women (豆瓣) 

当今社会能够被数字化的所有，都是偏向男性的，因为我们default（初始设定）（或者所谓无性别/gender neutral）就是男性，这包括各种产品的设计、医药、语音语义库、人物图片、简历等等。当我们拿着这些主要基于男性的数据来训练模型时，得到的一定是一个偏向男性的模型，这就进一步恶化了占到世界人口一半的女性的生存。

下面两本偏技术向：

-- 《Trustworthy AI: A Business Guide for Navigating Trust and Ethics in AI》（美）Beena Ammanath ISBN 978-1-119-867-920(hardback) 978-1-119-867-951(epub) Trustworthy AI (豆瓣)

整个企业（无论是否科技企业，只要是任何应用了大数据、算法、人工智能的公司）如何从人+制度+技术的角度搭建可信AI的体系，偏宏观、治理、应用角度，适合领导层阅读了解他们在人工智能时代办公司的独特历史责任。

-- 《Practicing Trustworthy Machine Learning - Consistent, Transparent, and Fair AI Pipelines》 by Yada Pruksachatkun, Matthew McAteer, and Subhabrata Majumdar ISBN 978-1-098-12027-6 暂无豆瓣链接。 ​​​​​​​

一讲在Transformer模型框架下，如何实现可信机器学习，举了实例和代码，非常技术。

补充一本关于伦理、正义vs市场的讨论的书：

《金钱不能买什么：金钱与公正的正面交锋》What Money Can't Buy: The Moral Limits of Markets【美】Michael Sandel ISBN: 978-7-508636597 

金钱不能买什么 (豆瓣)

这位哈佛教授当年的“Justice”课的录像，相信很多人都看多，里面讲的火车案例是否还记忆如新呢？

以上电影链接、书籍epub版本，如有需要的朋友请回复该贴，我稍后贴出。