- 博客(15)
- 收藏
- 关注
RSS订阅原创 关于合成算法备案，同一平台，多个不同的模型支持不同的功能，该如何做备案？优劣势有那些
根据中国《生成式人工智能服务管理暂行办法》和《互联网信息服务算法推荐管理规定》，平台接入四个不同功能的生成式模型（生图、生视频、语音生成、文字生成）时，备案策略需结合技术特性、风险等级和监管要求综合决策。
2025-04-20 10:00:00
1004
原创 哪五大类算法需要备案，又是怎么分类的嘛？
在中国，根据《互联网信息服务算法推荐管理规定》等相关法规，算法备案制度要求企业对特定类型的算法进行备案，以规范算法应用、保障用户权益。：用于生成或合成文本、图像、音频、视频等内容的算法（如AI生成、深度伪造技术）。：需确保公平性，避免算法歧视（如性别、地域歧视），并允许用户申诉。：提交算法类型、功能描述、应用场景、数据来源、安全评估报告等。算法自评估报告（含算法原理、数据安全措施、用户权益保护方案）。：对信息或服务进行排序、精选、置顶、热搜等操作的算法。内容平台的敏感信息过滤（如涉黄、涉暴、谣言识别）。
2025-04-18 09:30:00
657
原创 大模型文生图安全评估指南
是否建立跨模态审核系统（文本→图像→视频联动分析）[评估维度图标]（此处可插入盾牌/天平图标）启用降噪重定向技术（NSFW内容自动模糊化）建立可信度评分系统（0-100分可视化展示）是否实现动态内容分级（PG13/R18等）语境语义分析（识别拆解/谐音规避）添加动态水印标注"AI生成内容"是否有定期伦理审查委员会评审机制。实时监测潜在违规内容生成路径。生成结果自动关联权威知识图谱。是否配备生成溯源追踪ID系统。▶ 实现自适应风险预测。▶ 构建跨平台治理生态。▶ 建立基础安全框架。
2025-04-17 09:30:00
235
原创 大模型安全评估：关键注意事项与常见问题解答（FAQ）
大模型安全评估需贯穿开发、部署、运营全生命周期，建议企业建立“评估-修复-监控”闭环流程，并关注行业动态（如NIST AI风险管理框架更新）。使用免费工具：如Google的Perspective API（内容毒性检测）、Microsoft的Counterfit（对抗攻击测试）。：定义安全评估的范围（如隐私保护、内容合规性、对抗攻击防御等），避免“一刀切”式的评估。：模拟对抗样本攻击（如输入篡改、诱导性提问），评估模型的抗干扰能力。：根据业务场景划分风险等级（如高、中、低），针对性设计测试用例。
2025-04-15 09:00:00
290
原创 大模型文生文安全评估指南
检测生成内容是否涉及暴力描述、犯罪指导、违禁品交易等。识别隐晦或直接的性暗示、色情描写、低俗语言。核查是否存在种族、性别、宗教、地域等歧视性言论。过滤涉及国家主权、领导人、敏感历史事件的不当言论。验证生成内容的客观性，防止传播谣言或伪科学内容。
2025-04-14 16:38:44
127
原创 大模型安全检测：必要性分析与常见问题解答
2023年中国大模型数量突破200个，市场规模达216亿元（工信部数据）。GPT-4、文心一言等模型在政务、金融、教育等领域的深度应用，使安全风险呈指数级增长。"安全不是发展的绊脚石，而是智能时代的通行证"——中国科学院人工智能伦理委员会。：某问答平台大模型在测试中产生虚假医疗建议的概率达12%：2023年国内某开源模型被检出包含1.3%的歧视性内容。《人工智能安全标准化白皮书》（2024版新增大模型专项）：首批国家大模型安全测试平台已落地北京、上海、深圳。未通过安全检测的模型平均整改成本增加40%
2025-03-23 10:00:00
464
原创 算法备案及生成式算法合规要求
算法备案是中国针对互联网信息服务中使用的算法技术实施的监管制度，依据《互联网信息服务算法推荐管理规定》（2022年3月1日生效）和《生成式人工智能服务管理暂行办法》（2023年8月15日生效），要求算法服务提供者向国家网信部门备案其算法类型、应用场景、安全机制等信息，旨在规范算法应用、防范技术滥用、保护用户权益。适用范围具有舆论属性或社会动员能力的算法（如推荐算法、排序算法、生成式算法）；生成式人工智能（AIGC）算法，如文本生成、图像生成、视频合成等。备案流程提交算法基本信息（名称、功能、应用场景）；
2025-03-22 10:30:00
314
原创 国内 “大模型安全检测” 必要性及 FAQ
大模型安全检测是技术发展的必然要求，也是产业健康演进的基石。通过政策引导、技术创新与生态协同，我国正逐步构建覆盖全生命周期的安全防护体系。未来，随着标准的完善和技术的迭代，安全检测将成为大模型规模化应用的 “刚需”，为智能时代的可持续发展保驾护航。
2025-03-21 13:00:00
368
原创 算法备案的必要性
生成式算法可能输出虚假信息、侵权内容或违背伦理的内容（如深度伪造、虚假新闻），备案要求企业建立内容过滤、人工审核等机制，降低内容失控风险。，备案通过内容安全审查、数据合规证明和伦理约束，将不可控的AI输出纳入可控框架，既保护用户权益，也为企业赢得政策支持与市场空间。通过备案的算法需标识AI生成内容（如水印）、拦截违法信息，防止技术滥用对社会秩序造成冲击（如虚假舆情、金融欺诈）。生成式算法（如文本、图像、视频生成）因输出内容的不可控性，被列为监管重点，备案是法律明确要求的准入门槛。
2025-03-19 09:00:00
489
原创 AI 生成内容将 “持证上岗”：我国构建安全可信数字生态的关键一步
2025 年 3 月，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），并将于同年 9 月 1 日正式实施。这一举措标志着我国在人工智能安全治理领域迈出重要步伐，通过构建全流程内容标识体系，为防范虚假信息传播、维护网络空间秩序提供了制度保障。
2025-03-18 08:30:00
763
原创 生成式AI算法备案流程及FAQ
所有面向公众的生成式AI服务均需备案，包括API接口、小程序、网页应用等。需由符合资质的第三方测评机构出具，内容涵盖算法安全性、数据合规性、意识形态风险等。若算法原理、功能、安全机制等发生重大变更，需在变更后10个工作日内更新备案信息。根据《暂行办法》，未履行备案手续的，可能面临责令整改、罚款、暂停服务等处罚。：需通过第三方评估机构的安全评估（包括数据安全、内容合规、隐私保护等）。按系统要求逐项填写算法基本信息、安全机制、数据来源、服务场景等内容。审核通过后，备案信息将在备案系统中公示，生成备案编号。
2025-03-15 09:30:00
1571
原创 大模型创业者血泪警告：这3个红线碰不得
杭州某创业团队耗时2年研发医疗大模型，因未通过**《生成式人工智能服务管理暂行办法》**第四章第21条备案要求，被投资方紧急叫停1.2亿B轮融资，创始人朋友圈发文："技术再强，合规为零就是死！2024年监管利剑出鞘，这份生死线指南，可能救你千万融资！"你说'用户协议已授权'？：深创投内部数据流出，2023年Q4过审企业获投率超80%监管："请明确告知数据用于模型训练，且需。用户："我同意服务条款"
2025-03-13 21:43:26
371
原创 中国大模型市场：规模爆发与本土化创新的双重竞速
大模型之争本质是国家科技竞争力的角力场。当技术突破与合规要求同步升级，当市场狂热与理性部署交织并存，中国大模型企业需要以“技术攻坚构筑护城河，合规运营守住生命线”的双重策略，在这场智能革命中抢占制高点。毕竟，没有安全底线的创新如同无舵之舟，而脱离技术突破的合规只能是空中楼阁。
2025-03-13 21:43:13
770
原创 大模型备案，90%的企业都踩了这些坑！[特殊字符]
作为帮企业“排雷”的备案材料撰写老手，今天我必须说点大实话！实际上：没经验的人搞备案，分分钟被退回，耽误时间还影响业务！注重细节：材料格式、内容逻辑、风险评估，一个都不能少！实际上：后续监管越来越严，不合规随时可能被“点名”！材料不齐全：少一份文件，直接被打回，从头再来！找对人：专业的事交给专业的人，省时省力还靠谱！提前规划：备案不是临时抱佛脚，早准备早通过！持续合规：备案只是开始，后续监管更要重视！材料撰写：专业团队撰写，100%符合要求！后续支持：备案通过后，持续提供合规建议！
2025-03-13 08:00:00
169
原创 生成式人工智能大模型备案流程简明教程（附常见问题答疑）
大模型备案要求中，要对以上各项内容分别进行安全评作,以证明大模型技术提供者和服务提供者（企业）和产品服务的安全性、可靠性、稳定性，撰写形成规定的安全评估和备案申请材料，主要包括生成式人工智能（大语言模型）上线备案表、安全评估报告、模型使用协议、语料标注规则、敏感关键词库、测试问题库等其他相关材料。我们根据为大模型公司进行备案辅导服务的工作经验，撰写了此篇大模型备案简明教程，帮助大家熟悉大模型安全风险、梳理大模型上线备案流程，方便大家快速通过备案，取得备案批号，顺利上线运营。5.4 正式提交大模型备案申请。
2025-03-12 15:13:47
889
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人