算法应用风险与治理研究

摘要

随着信息技术的迅猛发展和深入应用，算法被广泛地运用到交通、医疗、电子商务、信息服务和公共管理等领域。但其自身呈现的数据依赖性、逻辑黑箱性和通用目的性等特征，也引发了算法训练中的数据滥用、公共管理中的算法歧视、信息服务中的算法操纵、市场竞争中的算法合谋等问题。为了应对算法应用带来的问题，各国积极采取措施，加强对算法应用的治理。推进算法的合规利用，有必要进一步强化顶层设计、完善治理格局、丰富治理手段、加强国际协作，不断健全算法治理体系。

关键词： 算法 ; 人工智能 ; 风险 ; 治理

0 引言

算法的概念在中西方均由来已久，主要是指某种运算规则的集合[1]。1970年前后，随着计算机的发展与普及，计算机算法得到广泛应用，先后经历技术化、产品化、工具化的演进过程。20世纪80年代后，生物学的神经网络和深度学习技术被创新性地应用到人工智能领域，由于算法能够不断从数据和经验中重构已有知识结构，大幅提升解决问题的能力，因而被更加广泛地应用于网络检索、信息推荐、对象识别、内容生成等自动化的决策和执行等方面。近10年，随着大数据、云计算、物联网、人工智能等信息技术的快速发展，算法技术作为智能时代的“控制中枢”得到深入应用。

从实践来看，当前计算机算法的大量应用是在推荐技术