生成式人工智能的快速发展带来了机遇与挑战,预计到2026年,生成式人工智能市场将从2021年的15亿美元增长到65亿美元。
然而,随着技术的快速发展,也带来了一系列新问题与挑战。
AI换脸软件ZAO因违规收集人脸数据被约谈下架
微软和OpenAI因未经同意收集用户个人信息被起诉。
2023年1月,全球知名图片提供商华盖创意起诉热门人工智能绘画工具Stable Diffusion,称其未经许可从网站上窃取了数百万张图片,用于训练其人工智能。......
这些大企业的AI产品都会频频翻车说明,AI产品需要进行合规备案作为关键前提!
以下问题需要重视:
生成式人工智能服务提供者在使用用户输入信息用于训练时,需要满足以下要求:
1、事前约定:应与用户事先约定是否可以将用户输入信息用于训练。这通常在用户协议中获取用户授权。
2、提供关闭选项:应设置关闭用户输入信息用于训练的选项,并确保用户易于找到该选项,操作次数不超过4次点击。
3、明显告知用户:应显著告知用户收集用户输入的状态,以及关闭用户输入信息用于训练的方式。
4、获得用户同意:在收集用户输入信息前,应获得用户的真实、完整、准确的告知并取得用户的自主选择同意或单独同意(涉及敏感个人信息)。
5、个人信息保护:在收集用户输入信息时,应获得用户同意,并在收集后对个人信息进行匿名化、加密等处理。
6、限制访问权限:严格限制数据处理人员的访问权限,并妥善处理用户查阅、复制、更正、补充、删除其个人信息的请求。
7、数据安全措施:发现数据安全风险时,应及时采取补救措施并告知用户。
《生成式人工智能服务安全基本要求(征求意见稿)》在个人信息保护方面对生成式人工智能服务提供者提出了如下要求:
1、使用包含个人信息的数据时,获得对应个人信息主体的授权同意,或满足其他合法使用该个人信息的条件;
2、使用包含敏感个人信息的数据时,获得对应个人信息主体的单独授权同意,或满足其他合法使用该敏感个人信息的条件;
3、使用包含人脸等生物特征信息的数据时,获得对应个人信息主体的书面授权同意,或满足其他合法使用该生物特征信息的条件。生成式人工智能是科技发展的重要成果,其使用带来机遇的同时也伴随着风险。
每一位AI从业者都有责任确保服务的安全与合规。如果您是AI从业者,在合规备案问题上存在困难或疑问,请扫描图中二维码或后台私信【AI咨询】即可获得A