生成式人工智能服务大模型备案安全措施要求

1）模型适用人群、场合、用途方面：

应充分论证在服务范围内各领域应用生成式人工智能的必要性、适用性以及安全性。

服务用于关键信息基础设施、自动控制、医疗信息服务、心理咨询等重要场合的，应具备与风险程度以及场景相适应的保护措施。

2）服务适用未成年人方面：

• 应允许监护人设定未成年人防沉迷措施，删除并通过密码保护。

• 删除限制未成年人单日对话次数与时长，若超过使用次数或时长需输入管理密码。

• 不应向未成年人提供与其民事行为能力不符的付费服务 （有修改表述）。

• 应积极展示有益未成年人身心健康的内容 （有修改表述）。

• 由服务提供者结合通常标准自行论证是否适用未成年人。

• 服务不适用未成年人的，应采取技术或管理措施防止未成年人使用。

• 3）服务透明度方面：

  以交互界面提供服务的，应在网站首页等显著位置向社会公开服务适用的人群、场合、用途等信息，宜同时公开基础模型使用情况，基础模型使用情况修改为宜。

  以交互界面提供服务的，应在网站首页、服务协议等便于查看的位置向使用者公开以下信息：服务的局限性；所使用的模型、算法等方面的概要信息；新增所采集的个人信息及其在服务中的用途。易盾专家tip：注意面向“社会”和“使用者”公开信息时存在不同。

  以可编程接口形式提供服务的，应在说明文档中公开面向“社会”和“使用者”的公开信息。

  采取技术或管理措施防止未成年人使用。