“刷脸”虽然Cool，滥用有风险

文章经授权转载自中国电子报（ID：cena1984）

我国人脸识别技术尚处于发展初期。从应用领域上看，其适用领域主要集中在公共安防和商业领域，在社会生活领域方面的应用尚处于探索阶段;从功能上看，我国对人脸识别这种人工智能技术的应用也仅处于最初级的应用阶段。当人脸识别技术进入社会生活领域时，需要警惕因滥用而引发的法律、伦理道德及信息安全问题。

近来出现的利用人脸识别取厕纸、曝光行人闯红灯、监控学生表情等做法，在法律及道德层面引发了诸多争议。从根本上看，这种关乎个人隐私权与社会秩序、未成年人教育等公共利益之间的冲突并不是新问题，而是由来已久的问题，这涉及到权利冲突、利益冲突等深层次理论问题，需要依据法律规范、道德实践、社会文化等因素，通过利益衡量等方式予以解决。人脸识别是新型信息技术，基于大数据技术直接采集并使用个人影像数据，极容易侵犯到个人隐私，因而使得上述冲突变得更为凸显，使其成为人们日益关注的焦点。

人脸识别的此类社会生活应用方式，有的的确存在滥用之嫌，有的处于合理范围之内，需要依据法律法规、道德实践及其他具体情形予以判断。比如，利用人脸识别曝光穿红灯行人的完整姓名、户籍信息等做法，就属于暴露个人敏感数据从而侵犯个人隐私的做法，有滥用人脸识别技术之嫌，尤其随着大数据技术的发展，不法分子更加容易利用个人影像数据及相关信息识别定位公民个人，这实际上也对个人信息安全造成极大威胁;而利用人脸识别监控学生表情、识别取厕纸者的做法，只要符合知情、最小化等原则，采集内容仅限用于教学功能以及监督管理浪费厕纸行为，而未违法存储或者将信息影响大范围披露导致信息泄露或侵犯个人隐私，这并非法律所禁止的行为。

上述做法仅是人脸识别应用的初级阶段，未来，随着具有颠覆性、革命性的人工智能技术进一步发展，当人类将决策权和选择权让渡给人工智能时，人脸识别作为人工智能的重要分支亦将面临更为严峻和复杂的道德伦理问题。2017年，美国《自然》杂志发表的一项研究成果表明，智能算法也可能出现类似于人类偏见的刻板印象。这是因为，智能算法一旦进入到智能化预测或决策环节时，将不可避免引入人类为其所设定的规则来进行判断，这些规则涉及到以人类社会经验为基础的价值取向、伦理道德判断、结果导读等因素，从而在决策上带来诸多道德伦理问题。例如，近来，斯坦福大学研究人员开发出一套神经网络算法，可以通过人脸识别来判断出一个人的同性恋取向;美国麻省理工学院的最新研究论文，人脸识别系统对白人识别率达到99%，同时肤色越暗，发生错误率越高，尤其是黑人女性的错误识别率高达35%，这都导致了歧视问题。在我国，近来出现的依靠人工智能催债的做法也引发了很大的法律及道德争议。

人脸识别需要应对的不仅是道德伦理风险，它由于采集和利用的都是人像数据这种具有人类生物识别特征的关键信息，如果过度使用或者滥用，甚至可能引发更为严峻的数据泄露、数据滥用等信息安全问题。

因此，有必要对人脸识别的应用主体和应用领域加以限制。在主体方面，应围绕人脸识别的应用技术标准、安全标准，依据相关法律法规，为其应用主体设定资格条件;在应用领域方面，应当针对安防、金融、电商、支付、民生等不同应用领域及其重要性进行安全风险评估，逐步拓展应用范围，谨慎对待其在社会生活领域应用时所面临的道德伦理风险。此外，还应加强人脸识别技术应用的备案、监督、评估，构建人脸识别的监管体系，保证其应用发展的安全可控。对于其所涉及的法律及道德问题，对其利用必须坚持于法有据，谨慎对待其可能触及到的道德伦理风险，在不侵犯个人权益、社会利益的前提下，在社会道德伦理以及公民意识可接受的范围内逐步拓展其社会应用。

作者何明智，供职于赛迪智库软件产业研究所

END