国家互联网信息办公室公布最新一批生成式人工智能服务已备案信息,其中包括江苏汇智智能数字科技有限公司的CarrotAI大模型、智慧芽信息科技(苏州)有限公司的芽仔大模型。截至目前,江苏已有8款AI大模型通过国家网信办备案,南京、苏州各占一半。
江苏8款大模型通过备案
1、智慧助手(小艺)大模型(华为软件技术有限公司)
2、东风(DFM)语言大模型(思必驰科技股份有限公司)
3、炎帝大模型(南京硅基智能有限公司)
4、Aryn GPT(苏州清睿智能科技股份有限公司)
5、启真大模型(南京有零科技有限公司)
6、程心大模型(同程网络科技股份有限)
7、CarrotAI大模型(江苏汇智智能数字科技有限公司)
8、芽仔大模型(智慧芽信息科技(苏州)有限公司)
据了解,基于自主研发的CarrotAI大模型和专利的“数字生命技术”,汇智智能推出“Agent云”智能体云服务平台,针对中小型企业提供具体场景解决方案,打通大模型落地的最后一公里。目前,Agent云已面向零售、文旅、教育、金融等不同行业打造了AI导购、AI导游、AI助教、AI投资顾问等典型场景。
作为垂直领域大模型,芽仔大模型专注于研发创新与知识产权领域,能够帮助用户通过自然语言对话的形式探索技术方案、自动撰写技术交底书及专利检索策略、一键生成技术预研报告与药物调研报告等,助其提升工作效能,加速创新进程。目前,“芽仔”已经在智慧芽研发情报库、专利数据库、新药情报库、生物序列数据库等产品中上线。
上海AI大模型落地提速:34款已备案,17款正在备案
上海市委网信办总工程师杨海军透露,截至目前,全国已经有188款大模型完成备案,上海市共34款,其中徐汇区21款。目前,上海还有两批次17款大模型正在备案流程中。模速空间生态集聚效应显现。记者注意到,截至8月30日,上海市累计已完成30款生成式人工智能服务登记。
2022年底以来,以大语言模型为代表的生成式人工智能技术与应用快速发展,服务公众,赋能行业。同时,大模型也引发业界和公众对人工智能安全和伦理的担忧。
杨海军说,为应对生成式人工智能带来的风险挑战,国家及上海市持续出台相应法规政策,促进创新与依法治理相结合。2023年8月15日,国家网信办等七部委联合出台的《生成式人工智能服务管理暂行办法》正式施行,成为全球生成式人工智能服务监管立法的先行者。
一、大模型备案前准备
了解法规和政策
1、熟悉《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》等相关法律法规对大模型备案的要求和规定。
2、明确备案的主管部门(通常是网信部门等)。
政策要求
自评估和准备材料
1、语料安全评估
(1)评估文本训练语料规模(存储大小、词元计数等)。
(2)明确各类型语料规模(不同语言文本、代码、多媒体等) 。
(3)梳理训练语料来源(开源、自采、商业等分类及来源地等)。
(4)统计语料标注数量(文本和图片标注等)。
(5)明确标注人员情况(数量、类型、培训等)。
(6)制定和检查标注规则(是否符合相关办法要求)。
(7)核验标注内容准确性。
(8)分析语料合法性(有无侵权、违法违规信息等)。
2、模型安全评估:
(1)语料内容评估(人工、关键词、分类模型抽检及合格率等)。
(2)生成内容评估(类似抽检及合格率等)。
(3)涉知识产权、商业秘密等方面的评估(方法、标准、结果)。
(4)涉民族、信仰、性别等方面的评估。
(5)涉透明性、准确性、可靠性等的评估。
3、安全措施评估:
(1)明确模型适用人群(如是否适用未成年人等)、场合(关键信息基础设施等相关敏感场合)、用途(限定领域与否)。
(2)梳理服务过程中收集保存个人信息情况(类型、数量、用途、保存期限)。
(3)确定收集个人信息征得个人同意情况(方式)。
(4)明确受理处理使用者查阅、复制、更正、补充、删除个人信息请求的情况(条件和途径方法)。
(5)规划好图片、视频标识情况(样式、位置、频度等)。
(6)建立接受公众或使用者投诉举报情况(途径及反馈方式)。
(7)完善服务协议(将上述多方面内容写入)。
(8)建立非法内容拦截措施(监看人员数量、预置关键词拦截列表、分类模型检测及准确性等)。
(9)统计拒答率(拒绝回答等数量占比)。
(10)规划模型更新、升级条件(如发现频繁非法等情况时)。
4、材料准备(以下是常见材料举例):
(1)《算法备案承诺书》 。
(2)《落实算法安全主体责任基本情况》 。
(3)《算法安全自评估报告》(较复杂且重要,100页左右,包含附录各种证明材料等;需明确算法原理和逻辑、数据来源合规性、算法透明度和可解释性、安全漏洞检测与应对等)。
安全评估报告摸板
(4)《拟公示内容》。
(5)大模型上线备案表:
大模型上线备案表
基本情况:模型名称、主要功能、适用人群、服务范围等。
模型研制:模型备案情况、训练算力资源(自研模型)、训练语料和标注语料来源与规模、语料合法性、算法模型的架构和训练框架等。
服务与安全防范:推理算力资源、服务方式及对象等、非法内容拦截措施、模型更新升级信息等。
安全评估:基本情况、评估情况。
自愿承诺:承诺所填信息真实性,并签字确认。
附件及备注:附件包括安全评估报告、模型服务协议、语料标注规则、拦截关键词列表、评估测试题。
(6)安全评估报告(涵盖语料安全评估、模型安全评估以及安全措施评估,并形成整体评估结论)。
(7)模型服务协议(包含产品及服务的各项规则及隐私条款等,需协同法务共同制定提交)。
(8)语料标注规则(包括标注团队介绍、功能性及安全性标注细则,标注流程等)。
(9)拦截关键词列表(总规模不宜少于10000个,应至少覆盖《生成式人工智能服务安全基本要求》a.1以及a.2中17种安全风险,a.1中每一种安全风险的关键词均不宜少于200个,a.2中每一种安全风险的关键词均不宜少于100个)。
部分关键词实例
(10)评估测试题集:
评估测试题部分实例
包括生成内容测试题库、拒答内容测试题库、非拒答测试题库。
要严格覆盖TC260的5大类,31小类。
二、大模型备案流程详细解读
1、向属地网信办提交备案申请:
2、通常在官方备案平台提交备案表、安全评估报告、服务协议、标注规则、关键词库等材料(如果有线上系统的话),目前大模型备案都是线下申请。
3、申请通过后会给到你相关资料。拿到资料后根据自己企业的具体情况撰写资料。
4、再去网信办预约审核
审核材料的完整性、准确性等。
进行技术测试(如对提交的模型进行安全测试,测试内容包括敏感词检测、涉政内容的生成等 。
5、反馈和整改
如果审核过程中发现问题,备案主体会收到反馈要求在规定时间内进行整改。整改内容可能包括补充材料、调整模型安全策略等。
6、审核通过
若材料审核和技术测试等都通过,属地上报中央网信办。
中央网信办进行材料复审及技术评审,通过后企业获得备案号。
三、大模型备案后要做的工作
1、持续管理和监控
2、建立内容监控体系,对关键词分级管理、制定内容撤回策略等。
3、进行账号运营管理,如定期检查、制定账号违规处置策略等。
4、在重要节假日、重大事件期间做好内容安全保障等。
5、配合检查和更新备案
6、主管部门可能会不定期检查备案后的落实情况。
7、如果大模型有重大升级、服务范围变更等情况,可能需要重新备案或更新备案信息。
补充说明:需要注意的是,整个备案过程可能需要一定时间(如大模型备案周期按批次审核通过,一般一个半月至两个月左右一批2),并且备案要求和流程处于动态调整和完善中。