从 0 到 1 了解大模型备案拦截关键词列表，一文就够

大模型的拦截关键词列表是保障内容安全的关键防线。如果你在大模型备案有任何经验或疑问，欢迎在评论区交流分享！

一、什么是拦截关键词列表？

拦截关键词列表是一份包含大量特定词汇的清单。

在大模型运行时，系统会自动将生成内容和用户输入与清单中的关键词进行比对，一旦检测到匹配词汇，就会采取过滤、屏蔽或拒答等措施，限制其输出有害内容。

二、拦截关键词列表涵盖的重要内容

（一）违法信息类关键词

1. 危害国家安全：像 “颠覆国家政权”“分裂国家” 这类词，若大模型输出涉及这些，会严重威胁国家主权与安全，破坏国家稳定发展根基，拦截它们能维护国家的统一和稳定 。
2. 损害英烈名誉：例如 “侮辱英雄烈士”，英雄烈士为国家和社会做出巨大贡献，诋毁他们会伤害民族情感，破坏社会公序良俗，拦截可捍卫英烈尊严。
3. 宣扬恐怖极端：“恐怖主义组织” 等，传播此类信息会引发社会恐慌，危害公众生命财产安全，拦截这类关键词能有效防范恐怖主义思想扩散。
4. 破坏民族团结：如 “民族仇恨”“民族歧视”，大模型若传播这类内容，易挑起民族矛盾，破坏民族团结，拦截是维护多民族和谐共处的必要手段。
5. 违法犯罪：包含 “教唆犯罪”“淫秽色情” 等，大模型若诱导此类行为，会腐蚀社会风气，危害社会治安，拦截可避免不良行为被诱导发生。

（二）不良信息类关键词

1. 标题党与虚假：像 “夸张标题”“虚假新闻”，大模型若生成这类内容，会误导公众认知，干扰正常信息传播秩序，拦截可保证信息真实可靠。
2. 低俗媚俗：“低俗段子”“性暗示内容”，此类内容拉低社会文化格调，影响用户心理健康，拦截能促使大模型输出积极健康内容。
3. 血腥惊悚：“血腥暴力场景描述”，过度渲染此类内容会给用户带来心理不适，甚至可能引发不良行为模仿，拦截可营造舒适的内容环境。
4. 歧视类：“地域歧视”“人群歧视”，大模型传播这类信息会破坏社会公平和谐，拦截有助于倡导平等、包容的价值观。
5. 不良诱导：“诱导未成年人不良嗜好”，未成年人身心发育不成熟，易受不良影响，拦截可保护未成年人健康成长。

三、怎么整理拦截关键词列表？

1. 参考TC260标准，明确分类框架
2. 在法规文件中收集初始关键词
3. 通过寻找同义词、近义词拓展细化关键词
4. 审核筛选关键词，确保关键词准确无误，避免过于宽泛或狭窄
5. 整理编排关键词，并统一格式

四、拦截关键词列表更新维护

1. 设定固定的更新周期，如每月或每季度进行全面审查，同时建立实时监测机制，及时捕捉新出现的安全风险。
2. 在大模型运行过程中，收集内容过滤的反馈信息，针对未被有效拦截的有害信息，分析原因并优化关键词列表。

大模型拦截关键词列表至关重要，若你有相关经验或疑问，欢迎交流。