生成式人工智能对个人信息安全的挑战及应对策略

目录

0 引言

1 生成式AI服务的特点

1.1 服务形态多元

1.2 交互方式革新

1.3 服务模式复杂

2 生成式AI服务对个人信息安全的影响及挑战

2.1 收集信息多样化、场景化

2.2 生态主体复杂化

2.3 AI模型自身带来的风险

2.3.1 透明度低、可解释性差

2.3.2 训练数据难清理

2.3.3 防御措施不全面

2.3.4 遗忘能力难评估

3 相关建议

3.1 监管治理层面

3.2 标准规范层面

图1

3.3 企业管理层面

4 结束语

---

摘要

基于生成式人工智能的强通用能力、交互能力和生成能力,结合当前产业现状,总结了面向用户的生成式人工智能服务具有服务形态多元、交互方式革新、服务模式复杂的特点,梳理了生成式人工智能技术应用对个人信息安全带来的全方位影响及生成式人工智能模型本身带来的挑战。在此基础上,从监管治理、标准规范、企业管理层面给出提升个人信息安全的具体建议和方案。

关键词： 生成式人工智能; 人工智能; 个人信息安全; 大模型

0 引言

生成式人工智能(Artificial Intelligence,AI)基于训练数据以及用户提示词创建新内容的能力,在教育、娱乐、医疗保健和科学研究等多个领域提供变革潜力,激发起前所未有的关注度和创造力浪潮,引发公众、学术和政府层面的广泛讨论[1⇓-3]。生成式AI作为AI演化过程中的重要突破,为引领产业革新和数字化变革奠定了坚实的基础。根据麦肯锡报告,生成式AI每年或将为全球GDP增加2.6万亿~4.4万亿美元。

生成式AI表现出较强的通用、交互和生成能力,在创新服务形态、增强人机交互、丰富产品生态等方面给产业界带来深刻影响。区别于以往常应用于图像识别、推荐系统、语音识别等任务的决策式AI[4],生成式AI可以完成更加自然的对话、更加快速的内容创建,具有更强的逻辑和组织能力[5],实现了从简单感知到内容创造的跃迁,是迈向通用AI的重要技术探索。生成式AI在文本、图像、代码、音频、视频和3D模型等领域展现出强大的能力,可处理和关联多种模态的多源异构数据,实现跨模态任务处理,如给定文本生成一段对应的声音、图像/视频与文本的相互检索或生成等。生成式AI实现了高质量、高效率、多样化的内容生产,能够实现信息的快速收集、筛选、整合和推理,可作为技术底座,垂直应用于各产业和复杂场景,重塑和影响未来生活。

2023年3月,意大利个人数据保护局对外宣称,ChatGPT平台已出现用户对话数据和支付信息泄露情况,故而宣布封锁ChatGPT[4]。各国政府普遍认识到生成式AI的变革性影响,正积极应对由此带来的风险挑战。根据经济合作与发展组织(Organization for Economic Co-operation and Development,OECD)人工智能政策观察站统计,已有70个国家和地区发布800多项AI治理相关政策。其中,防止用户隐私泄露、加强个人信息保护是各国治理政策中的重点关注议题。

1 生成式AI服务的特点

1.1 服务形态多元

生成式AI基于通用和跨场景能力,形成多元化的服务形态。在应用层面,传统的应用服务正在借助生成式AI的理解、生成、逻辑和记忆能力快速更新,以更加智能、高效、便捷的方式为用户提供服务,或将迎来应用上的爆发式增长[6]。例如,搜索服务不再只是给用户提供链接,而是通过对内容的理解,生成文字、图片、动态图表的多模态回答,让用户一步获取;文档服务通过对海量文档、图片和视频的理解和再生成,能够帮助用户提炼文章主旨和要点,快速生成演讲稿、宣传文案、调研报告等。在操作系统层面,操作系统基于AI能力探索应用生态新范式,具备更强的计算和存储能力、更高效的网络连接和处理速度。例如,vivo基于生成式AI技术自研蓝河操作系统(BlueOS),为智能家居、智能交通以及智能办公等多种场景提供了强大的支持,致力构建新的平台生态。在终端设备层面,生成式AI不仅快速赋能智能手机、电脑、手表、扩展现实设备等已有终端