语音助手再次敲响隐私保护警钟

来源： 中国科学报

智能手机内置的语音助手已成为人们生活中的亲密伙伴，大家习惯于让它完成报时、查询天气等日常任务甚至与它聊天解闷。 然而，近期多家科技公司被曝光以智能语音助手录制用户谈话，再通过人工对语音做标注和反馈，以训练语音助手。 这意味着生活中的隐私对话，可能在不经意间被陌生人“窃听”。

日前苹果、亚马逊、谷歌等公司已相继关停或收缩人工语音分析业务。 但消费者对于科技公司屡屡采取“马后炮”、而非事先完全告知的做法颇有诟病，对于隐私被泄露愤怒不已。

本月初，英国《卫报》报道美国苹果公司将部分用户与智能助手Siri的对话录音发送给该公司全球范围内的承包商，用于分析Siri反应是否合理、服务是否到位。 尽管苹果公司回应称只有1%的录音被用于分析，录音长度只有“几秒钟”，但不少用户认为难免会有涉及位置、医疗信息、家庭对话等敏感内容被泄露。 目前苹果已停止人工语音分析业务，但在被曝光前该公司并未在隐私政策中告知这一操作。

无独有偶，德国联邦议院上月发布评估报告称，美国亚马逊公司的“亚历克萨（Alexa）”语音系统对用户有风险。 当地媒体曝光该系统录制用户谈话用于训练提升相关产品。 对此上周亚马逊在其语音助手设置中增加了一个新选项，允许用户选择自己的录音不被“人工分析”，但这一选项隐藏在隐私设置的子菜单中，不特意选择往往留意不到。

同在上月，谷歌公司也承认其雇佣的外包合同工会听取用户与其人工智能语音助手的对话，用于让语音服务支持更多语言、音调和方言。 据比利时弗拉芒广播电视台报道，已有超1000个谷歌智能助手录音内容被承包商泄露。

人工智能类产品开发高度依赖数据，数据量越大越可训练出精确模型。 从技术开发角度看，收集更多语音数据的确能帮助不断优化产品。 但在未明确告知的前提下就抓取数据，这侵犯了用户的知情权与隐私权。 而此次“窃听”风波，更涉及真人对用户对话的听取分析，令消费者产生心理阴影。

专家认为，对各种应用程序（App）隐私条款的授权，消费者应谨慎对待。 有些科技公司为收集更多数据训练自家产品，会通过后台偷偷启动摄像头、麦克风等方式窃取用户数据，或将授权使用协议隐藏在冗长说明中。 一些保护意识淡薄的用户往往在安装App时都没仔细阅读隐私授权条款就拉到最后点“同意”，直到相关新闻曝光后才惊觉数据隐私被利用。

中国人工智能语音技术公司思必驰首席运营官龙梦竹说，用户如果不允许“默认开启麦克风”，这种“窃听”其实无法实现。 对于那些压根没有语音功能却要求授权麦克风使用的应用程序，消费者尤其需要提高警惕。

“对用户来说，需要重视App的授权和隐私说明，关闭不必要的授权，这不仅对人工智能方向的App适用，对所有产品都适用。 ”龙梦竹说。
厂商本身也应加强自律，需提前明确告知用户数据可能被用作体验改善计划，而不应该设置为默认允许，因为“凡是没有被用户清晰确认过的默认行为，都涉及隐私安全”。 语音助手泄露用户隐私已引起一些监管部门重视。 德国数据监管部门汉堡数据保护与信息自由委员会近日要求谷歌语音助手停止对欧洲用户语音数据的收集和人工分析，并敦促欧盟监管机构按照欧盟《通用数据保护条例》采取妥善措施处理亚马逊、苹果等其他智能语音服务提供商的相关问题。

相关问题并非国外独有。 龙梦竹说，对于中国这样一个数据大国，也应及时出台相关监管法律法规，才能推动行业正向、积极向前。

张亚勤、刘慈欣、周鸿祎、王飞跃、约翰.翰兹联合推荐

这是一部力图破解21世纪前沿科技大爆发背后的规律与秘密，深度解读数十亿群体智能与数百亿机器智能如何经过50年形成互联网大脑模型，详细阐述互联网大脑为代表的超级智能如何深刻影响人类社会、产业与科技未来的最新著作。

《崛起的超级智能;互联网大脑如何影响科技未来》2019年7月中信出版社出版。刘锋著。了解详情请点击：【新书】崛起的超级智能：互联网大脑如何影响科技未来

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能，互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）云脑研究计划，构建互联网（城市）云脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”