游戏内容合规风险|具备强社交性的游戏，由文本、图片、音视频内容带来的内容安全风险要如何应对治理？

近年来，随着游戏产业的高速发展，游戏不仅成为了人们休闲娱乐了的工具，同时也扮演着文化传播的内容载体。伴随着类似于《蛋仔派对》这样的开放式派对游戏的火爆，游戏内容创作不仅包含了游戏厂商的产出，同时玩家也在游戏内容创作中发挥着越来越大的价值。

同时，游戏具有极强的社交属性，游戏玩家在游戏中通过语音、文字、表情等形式进行团队配合、交友“唠嗑”、招募队友等等。

内容创作：创意也需要在规则内

在开放角色形象、场景等创作的游戏场景中，游戏厂商与玩家共同创作出了大量的内容，一方面好的创意被传播，另一方面一些违反社会伦理法律、暴力、色情、恐怖主义等不良内容也伴随而生。一旦内容被不法分子加以利用后则会很大程度影响游戏正向价值与持续运营，游戏企业不仅需要在内容创意上加强审核与审查，同时对于游戏内玩家创作内容也需要谨慎审核和审查，确保内容合法、合规、合理。

山川同异：重视文化风俗与地域差异

我国幅员辽阔，多名族混居，游戏内的场景、角色、服装等等应该尊重不同的地域风俗、文化习俗，同时弘扬文化繁荣。例如，在MMORPG、MOBA游戏中涉及的场景、人物形象、语音语料等应该尽量符合文化习俗规范，杜绝恶搞、挑衅等内容，避免违反相关法律法规。

社交聊天：言论自由不等于百无禁忌

游戏平台的社交属性决定了其自然而然会产生大量的社交内容，包括玩家头像、玩家昵称、玩家社群、互动聊天室、公共世界等。热门游戏和游戏社区很容易被某些玩家作为发泄情绪、散播谣言的主要阵地，游戏运营者不仅需要做好内容的监控，同时还需要做好实时的审核与治理。

拉人引流：热门游戏正成为拉新渠道

许多热门游戏由于在前期买量和游戏运营中投入了较好的资源，使得游戏玩家上量非常快。随着国内存量市场的竞争，热门游戏也会成为其他平台获取玩家/用户资源的一种渠道，他们通过在平台中发送相关的拉人、引流广告，引导玩家到其他平台试玩，而此类广告通畅又会有非常多的变种，较难识别，游戏平台如果不进行监管，则会导致用户逐步流失，进而影响游戏收益。

常见违规内容载体

游戏的垃圾信息包含多种多样，从形式上来看我们可以理解为文字、图片（含表情包）、音频为主，部分游戏内还存在视频载体内容。

文本内容：常规违规内容较多

文本内容作为最为常见的游戏互动载体，主要的违规内容包含色情、违禁、广告和谩骂，主要因为此类内容文本较为容易理解，且能够直接被其他玩家获取和感知。

文本内容会出现较多的变种类型，比如数字、字母、密码组合等，通过这样的方式传播违规信息。

图片内容：视觉化素材更具冲击力

游戏内的图片类素材主要是以玩家头像、表情包和群聊内的.jpg格式图片为主，图片素材由于更为容易被理解且有传播性，所以图片类违规内容会增加更多的变形，比如二维码、恶心物、暴恐等，对于这类图片，游戏运营方需要第一时间进行处理封禁，特别是对于部分游戏允许自定义表情包上传。

音频内容：谩骂与色情占据主导

游戏的音频内容我们可以理解包含了游戏NPC语音、游戏动画语音、玩家单条语音，玩家实时互语音，相对来说最为常见的是玩家的互动语音，这类语音多见以谩骂为主，特别是在FPS游戏中，甚至一些团战类中，语音的谩骂较为常见。

违规内容治理难度

国内游戏中的违规内容由于涉及数量巨大，类型多样，更新快等特点，同时游戏违规内容又涉及各类监管问题，所以在治理难度上相对于其他载体更为困难，具体来说：

• 数量巨大

违规内容的量级很大，且影响的用户群体广泛。解决这些问题需要处理大量数据和信息，投入大量时间和资源。

• 类型多样

违规内容包括色情、广告、谩骂、违禁等多种类型，并且游戏场景也各不相同，因此针对不同的游戏场景和违规类型，需要采用不同的处理方法和技术，依赖高效精细的治理体系。

• 更新快

黑灰产常常采用文字变种、分段发布等方式，以绕开反垃圾策略，这使得平台需要持续攻防，增加了打击违规行为的难度。

最近阅读了网易易盾发布的《2023 年度游戏安全观察与实践报告》，报告中提出关于游戏违规内容治理建议：针对各类游戏内存在的内容风险问题，网易易盾内容安全团队在多年实践中积累了大量的经验。针对具体的游戏安全风险，网易易盾对于不同的内容载体进行了精细化的运营方式与拆解。

类型	问题	处理方式
文本审核	色情低俗、谩骂嘲讽、拉人引流	采用百万级别人工标注的游戏语料训练NLP模型，结合十万量级敏感词库能力，有效地检测和拦截内容中的色情低俗、谩骂嘲讽、拉人引流等有害信息
图片\视频审核	色情低俗、广告、违禁人物	采用上百个子分类CV模型，结合百万量级图库能力，可精细化检测拦截内容中包含的色情、性感低俗、广告、违禁人物等有害信息
语音审核	色情低俗、谩骂嘲讽、违禁人物	采用娇喘asmr、声纹识别以及ASR技术，结合违禁音频库，有效地识别音频中的娇喘呻吟声、违禁人物声音以及其他在文本审核中常见的违规有害信息

欢迎关注【游戏智眼】，我来自网易~ 是你最得力的游戏行业战略家，也是最硬核的游戏技术布道师，一起让技术发光~ 欢迎各位游戏人一起探讨交流~

tips: 想要查看完整干货报告，欢迎在评论区留言免费领取！