生成式人工智能的快速发展带来了机遇与挑战，预计到2026年，生成式人工智能市场将从2021年的15亿美元增长到65亿美元。
然而，随着技术的快速发展，也带来了一系列新问题与挑战。
AI换脸软件ZAO因违规收集人脸数据被约谈下架
微软和OpenAI因未经同意收集用户个人信息被起诉。
2023年1月，全球知名图片提供商华盖创意起诉热门人工智能绘画工具Stable Diffusion，称其未经许可从网站上窃取了数百万张图片，用于训练其人工智能。......
这些大企业的AI产品都会频频翻车说明，AI产品需要进行合规备案作为关键前提！
以下问题需要重视：
生成式人工智能服务提供者在使用用户输入信息用于训练时，需要满足以下要求：
1、事前约定：应与用户事先约定是否可以将用户输入信息用于训练。这通常在用户协议中获取用户授权。
2、提供关闭选项：应设置关闭用户输入信息用于训练的选项，并确保用户易于找到该选项，操作次数不超过4次点击。
3、明显告知用户：应显著告知用户收集用户输入的状态，以及关闭用户输入信息用于训练的方式。
4、获得用户同意：在收集用户输入信息前，应获得用户的真实、完整、准确的告知并取得用户的自主选择同意或单独同意（涉及敏感个人信息）。
5、个人信息保护：在收集用户输入信息时，应获得用户同意，并在收集后对个人信息进行匿名化、加密等处理。
6、限制访问权限：严格限制数据处理人员的访问权限，并妥善处理用户查阅、复制、更正、补充、删除其个人信息的请求。
7、数据安全措施：发现数据安全风险时，应及时采取补救措施并告知用户。
《生成式人工智能服务安全基本要求（征求意见稿）》在个人信息保护方面对生成式人工智能服务提供者提出了如下要求：
1、使用包含个人信息的数据时，获得对应个人信息主体的授权同意，或满足其他合法使用该个人信息的条件；
2、使用包含敏感个人信息的数据时，获得对应个人信息主体的单独授权同意，或满足其他合法使用该敏感个人信息的条件；
3、使用包含人脸等生物特征信息的数据时，获得对应个人信息主体的书面授权同意，或满足其他合法使用该生物特征信息的条件。生成式人工智能是科技发展的重要成果，其使用带来机遇的同时也伴随着风险。
每一位AI从业者都有责任确保服务的安全与合规。如果您是AI从业者，在合规备案问题上存在困难或疑问，请扫描图中二维码或后台私信【AI咨询】即可获得A
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
