AI资讯|《生成式人工智能服务安全基本要求》全面解读

 

AI资讯 | 《生成式人工智能服务安全基本要求》全面解读!

 

【重磅发布】2024年3月4日,全国网络安全标准化技术委员会发布《生成式人工智能服务安全基本要求》(以下简称“《基本要求》”),为《生成式人工智能服务管理暂行办法》(以下简称“《暂行办法》”)的落地提供了具体的操作指引

AI从业者需要开展合规备案工作,抓紧获得产品上线通行证!!!

 

【全面解读】

一、哪些主体需要进行算法备案和安全评估?

1、向中华人民共和国境内公众提供生成式人工智能服务的主体,无论位于境内还是境外。

2、具有舆论属性或者社会动员能力的生成式人工智能服务提供者

二、需要提交的备案材料有哪些?

1、主体信息:包括服务提供商的基本信息。

2、算法信息:具体包括算法类别、名称、功能、技术原理等。

3、产品及功能(或技术服务)信息:涵盖产品的名称、功能、使用场景等,以及技术服务的具体内容。

 

三、安全评估的主要内容有哪些?

安全评估的主要内容涵盖以下几个方面:

1、语料安全:评估语料的来源、内容、标准是否符合安全要求。

2、模型安全:评估已备案的基础模型以及生成的具体内容在安全方面是否符合要求。

3、安全措施:评估模型的适用性、服务的透明度、输入信息的合规性、内容的标识、计算系统的评估以及投诉举报的接受和反馈等方面。

4、其他要求:评估关键词库、生成内容测试题库、拒答测试题库、分类模型等是否符合要求。

 

【AI咨询】

生成式人工智能是科技发展的重要成果,每一位AI从业者都有责任确保服务的安全与合规。

如果您是AI从业者,在合规备案问题上存在困难,请扫描图中二维码或后台私信【AI咨询】即可获得AI合规一对一咨询!限时免费!bc3846ae8a2e447da5059274cc8a3b47.png

 

  • 6
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
ChatGPT语言底层框架: Transformer是一个由深度神经网络组成的多层网络,其模型的结构类似于神经元,Transformer 模型主要分为两大部分,分别是 Encoder 和 Decoder,建立了词与词之间的复杂关系,其参数之多,可以说其本身的语言模型已经接近人类,Transformer的训练时并行的,大大增加了效率; ChatGPT的训练过程: 首先进行监督学习,就是是指利用一组已知类别的样本调整分类器的参数,使其达到所要求性能的过程,简单说就是在已知“答案”的情况下,训练机器输出的答案和标准答案的差距,通过不断的调整参数,达到训练效果的一种学习方式; 其次,奖励模型,针对一个问题,机器生成多个不同的回答,人工进行打分排序,训练奖励模型; 最后,强化学习,又称再励学习、评价学习或增强学习,使训练对象与环境不断进行交互,得到环境的反馈信息并调整自己的策略,最终完成特定的目标或者使得某个行为利益最大化,ChatGPT就是结合奖励奖励模型,不断的通过强化学习,更新预训练模型参数。 ChatGPT是一种由OpenAI开发的预训练语言模型,它是基于Transformer架构并使用了大量的文本数据训练而成。 首先,2017年,谷歌大脑团队发表了论文《Attention is all you need》,提出Transformer模型,打下了GPT的基础; 2018年,基于Transformer 架构,OpenAI发布了GPT-1模型,基于Transformer的生成式预训练语言模型。它有1.17亿个参数,用于回答给定的问题 ; 2019年,OpenAI发布了GPT-2模型,具有1.5亿个参数,可以生成一些简单的文本,但是不够强大,对于很多问题无法做出处理; 2020年,OpenAI发布了GPT-3模型,具有1.75万亿个参数,相对于GPT-2模型,功能更加强大,可以流畅的生成一些文本,可称为人工智能的划时代标志; 2022年,OpenAI推出ChatGPT,基于GPT-3的基础上开发出来的人工智能对话机器人,发布的那一刻,瞬间席卷全球,功能基本达到完善,已经可以独立处理多个领域的日常问题,满足了人们对于未来智能机器人的幻想,更有甚者,产生了“人工智能是否会取代人类日常工作”的恐惧心理。
具体内容如下: AI 在短视频创作与理解上的应用.pdf AI技术在教育智能硬件上的应用实践.pdf eBay智能营销中的AI一体化大数据平台实践.pdf Nullmax对构建自动驾驶中间件的一些探索.pdf 万亿参数推荐模型预估架构演进之路.pdf 中文文本自动校对技术的研究与应用.pdf 京东多模态商品营销文案自动生成实践.pdf 人工智能与机器学习2021共39份.zip 人机结合_产业互联网智能化之路1123.pdf 内容安全中的多模态模型训练实践.pdf 决策规划在自动驾驶系统中的挑战与探索.pdf 出门问问端到端语音合成系统的研究与应用 .pdf 图神经网络及其在电商的应用.pdf 基于 Glancing Transformer 的并行文本生成技术.pdf 基于深度学习的个性化推荐系统实时化改造与升级.pdf 多表自动机器学习应用研究.pdf 大数据 AI 检索技术的应用.pdf 大规模预训练模型高效训练的构架实践.pdf 如何利用强化学习技术提高游戏可玩性和真实性.pdf 字节跳动泛舆情域智能监控中台架构解读及实践 .pdf 客户微细分:架起结构化数据与深度学习的桥梁.pdf 对话式AI数据赋能企业数字化转型.pdf 小米业务场景下知识计算的探索和应用.pdf 必应搜索问答系统在全球化过程中的挑战与方法.pdf 快手端到端语音识别技术的探索与实践.pdf 快手精排CTR模型实践.pdf 智能语音在字节跳动内容平台上的应用.pdf 爱奇艺Bigdata+AI统一架构探索与实践.pdf 知识图谱在结构化知识中台的实践应用.pdf 知识驱动机器翻译研究和实践.pdf 第四范式 OpenMLDB 的机器学习实时应用最佳实践.pdf 美团大脑系列:新零售场景下商品知识图谱的构建及应用.pdf 联邦学习在金融领域的落地和应用.pdf 腾讯新闻信息流推荐技术实战.pdf 自然语言处理技术范式迁徙之路.pdf 视觉智能的平台之路.pdf 视频分析算法在安防中的应用.pdf 语音合成在字节跳动平台的应用探索.pdf 超大规模多模态预训练模型M6实践.pdf 面向亿级用户的小布助手对话式ai算法系统实践与思考.pdf

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值