AI合规| AI产品为何会被下架？算法备案是前置条件

目前，生成式人工智能如AI绘画、自然语言生成和音视频生成等成为新的风口，据统计，预计到2026年，生成式人工智能市场将从2021年的15亿美元增长到65亿美元，复合年增长率达34.9%。生成式人工智能行业目前是一片蓝海，但带来巨大机遇的同时，也伴随着法律风险——每一位生成式人工智能服务提供者都需关注这些监管法规与风险：

 

• · 目前有哪些法律约束生成式人工智能服务？

1、《生成式人工智能服务管理暂行办法》

2、《互联网信息服务深度合成管理规定》

3、《互联网信息服务算法推荐管理规定》

4、《具有舆论属性或社会动员能力的户互联网信息服务安全评估规定》

5、《生成式人工智能服务安全基本要求（征求意见稿）》

 

• 生成式人工智能服务提供者都会面临哪些法律风险？

1、数据风险：包括数据来源风险、数据质量风险、数据安全风险以及数据出境风险。涉及非法获取或使用个人信息，以及数据质量不佳导致生成虚假信息等。

2、算法模型风险：由于算法的透明度不足、鲁棒性差以及存在偏见和歧视，可能导致算法应用出现问题。

3、伦理风险：包括失控性风险、社会性风险、侵权性风险、歧视性风险和责任性风险。

知识产权风险：主要涉及在训练数据库的输入和输出阶段可能侵犯他人的复制权和改编权。

4、内容安全风险：生成式人工智能可能生成违反社会主义核心价值观、歧视性内容、商业违规内容等，存在安全隐患。

5、滥用风险：不法分子利用生成式人工智能制作虚假信息，用于诈骗、sq等违法犯罪活动。

 

• 生成式人工智能服务风险实例：

AI换脸软件ZAO因违规收集人脸数据被约谈下架

微软和OpenAI因未经同意收集用户个人信息被起诉。

ChatGPT生成的错误信息被用户分享到Stack Overflow网站，导致网站暂时禁止分享ChatGPT生成的回答。

人工智能生成的蘑菇觅食科普书籍存在错误，可能导致严重后果。

Midjourney因未经同意使用网络图像训练人工智能而被起诉。

2023年1月，全球知名图片提供商华盖创意起诉热门人工智能绘画工具Stable Diffusion，称其未经许可从网站上窃取了数百万张图片，用于训练其人工智能。

近日，北京卫健委日前牵头组织制定了《北京市互联网诊疗监管实施办法（试行）》，严禁使用人工智能自动生成处方。

 

以上实例都说明：

生成式人工智能是科技发展的重要成果，其使用带来机遇的同时也伴随着风险。每一位AI从业者都有责任确保服务的安全与合规。

如果您是AI从业者，在合规备案问题上存在困难或疑问，请扫描图中二维码或后台私信【AI咨询】即可获得AI合规一对一咨询！限时免费！