网络黑灰产业，网络水军，网络暴力犯罪的综合治理研究

网络黑灰产业，网络水军，网络暴力犯罪的综合治理研究

郭*泽、刘*逸、李*杰、余*年

***********************************

南京大学，南京市栖霞区仙林大道163号210023

北京邮电大学，北京市海淀区北太平庄西土城路10号100876

北京大学，北京市海淀区颐和园路5号100091）

摘  要

        网络黑灰产业、网络水军和网络暴力犯罪是当前互联网治理治理面临的主要挑战之一。黑灰产业链条长、工具多样化,非法利益巨大，及不利于社会稳定，网络水军可以干扰企业和政府的声警，网络暴力犯罪直接威胁个人和社会安全。但由于制度和技术滞后，目前治理这些问题的手段和方法还不够有效。本文主要分析了当前网络黑灰产业、网络水军和网络暴力犯罪的关系、现状及其治理不足，并从法律规制、技术手段，协同参与等方面提出相应的具体治理对策，以期为互联网犯罪的综合治理提供一些新的思路和建议。

关键词：网络黑灰产业、网络水军、网络暴力、网络犯罪综合治理

• 网络黑灰产业、网络水军、网络暴力的概念及其相关特征

• 网络水军概念及相关特征

网络水军是指一群有组织、有目的个人或团体组织利用网络平台来给特定事物（如产品、品牌、事件等）刷好评、黑评、发布虚假内容实现控评对舆论进行引导、网络信息进行扰乱、操纵和干扰行为的群体。

1. 网络水军主要构成

网络水军的构成主要包括四部分。一是通过程序控制大量虚拟账号，自动发布评论和转发内容的机器水军。二是通过聘请大量低廉的劳动力进行手工操作，以达到刷评论、点赞等目的的人力水军。三是由公司内部员工或雇佣的第三方机构负责管理和维护，以实现对舆情的监控和舆论引导的内部水军。以及被片面且具有主观性网络舆论所误导的缺乏对网络信息进行理性判断而盲目跟风进行舆论导向的网民，既“伪水军”。根据调研发现“伪水军”的盛行不仅与被动触发的舆论导向原因有关，还与其个人的负面心理特征有关[1][2]。此类人群的对网络信息的辨查能力较弱，被除易被煽动外，还易在网络平台宣泄负面情绪的同时引发他人与其共同宣泄不满或进行大面积的网络引战活动。由此也可将其看作是是自媒体平台发展下产生的人力水军另一种体现形式。

1. 网络水军的其主要形式

网络水军的形式是多样的，就目前常见形式来讲。一是通过大量注册虚假账号，模拟真实用户并提升账号关注数量。二是利用机器人软件或雇佣人员，在文章、视频或其他内容下迅速刷出大量点击量和评论，制造热度和引导舆论方向。三是故意发布虚假新闻、谣言、不实评论等，以扰乱公众对事件的认知，操纵舆论导向，并达到某种目的。四是利用匿名身份，在社交媒体上进行辱骂、恶意攻击和人身攻击，试图摧毁他人声誉，制造仇恨情绪或引起公众关注。无是在论坛、社交媒体等平台上编辑、篡改他人发布的信息，以改变原本的意思或制造混乱，进而影响舆论的走向[1[4]]。

1. 网络水军的主要特点

网络水军的主要特点同样是多方面，此处我们只对其根本特点做阐述。一是难监察性，即网络水军操作者可借助网络空间本身属性的匿名性来隐蔽身份并轻松躲避被追究责任。二是大规模性，即水军自身可以通过程序或人力快速地在网络上投放大量信息，制造出虚假的舆论氛围。三是灵活性，即网络水军可随时根据需要调整策略和方向，以便对舆论进行针对性的引导的[2]。四是构成复杂性，网络水军组成复杂，难以细加分类，导致治理时的对象局部模糊且难以下手。

1. 网络水军的主要渠道和活动平台

网络水军的活动渠道和平台主要包括三点。一是微博、论坛和贴吧、微信公众号、抖音、知乎等在内的广受用户关注的社交媒体平台和新闻网站评论区以及移动应用。二是网络水军实现为共同行动以达到特定目标来利用虚假身份创建大量社交媒体账号并组建或加入的水军群组。三是网络水军为提高特定内容的曝光度和热度的专属内容推广平台[3]。此外需要指出的是，近年来自媒体凭借自身多元性和互动性等特质逐渐占据大众传媒的主流市场，又另加其用户平台的开放性、匿名性、传播效应及经济套利机会的消极面，为网络水军提供了便利和动机，使得社交自媒体平台逐渐成为目前网络水军进行操作和传播的主要途径和手段[4]。

• 网络黑灰产业来源及发展趋势

网络黑灰产业可以被定义为一种通过网络渠道来进行非法交易的产业，这其中包括了网络诈骗、网络赌博、恶意软件以及黑客攻击等，其中尤以网络诈骗为盛。

1. 网络黑灰产业链的主要来源

网络黑灰产业的主要来源包括五点。一为黑客技术，网络黑灰产业链中的黑客是产生影响力和利益的关键角色之一。他们利用计算机技术漏洞、恶意软件等手段入侵系统、窃取个人信息、发动网络攻击，并将这些行为转化为经济利益。二是非法软件和工具，黑灰产业链还依赖于大量的非法软件和工具，包括显卡矿工、DDoS攻击工具、木马程序等。这些工具可以被用于各种非法活动，如破解密码、进行网络攻击或实施欺诈行为。三是数据泄露和贩卖，黑灰产业链中的数据泄露和贩卖环节是一个重要的利润来源，黑客通过攻击和盗取机构或个人的敏感数据，然后将这些数据出售给有兴趣的买家，用于实施诈骗、身份盗窃等活动。四为恶意广告和钓鱼网站，黑灰产业链也涉及到恶意广告和钓鱼网站，黑客或骗子可以通过发布虚假广告、制作伪造的网站来欺骗用户，并获取他们的个人信息和财务信息，从而牟取利益。五是网络赌博和赌球行业，经调研发现网络黑灰产业链还与网络赌博和赌球行业有关，这些非法赌博平台利用互联网技术，提供各种赌博服务，并通过线上交易赚取巨额利润。由此可知，非法赌博网站、网络钓鱼攻击、恶意软件分发、个人信息贩卖、黑客攻击等都是网络黑灰产业链的常见来源，这些活动常常涉及非法获取他人的财产、隐私和信息，并都通过互联网进行传播或牟利[5]。

1. 网络黑灰产业目前的主要发展趋势

网络黑灰产业作为一个金字塔型组织结构庞大非法利益产业，目前的发展主要趋势有五点。一是技术化和专业化，网络黑灰产业借助先进技术，如恶意软件、网络攻击工具等，进行犯罪活动。它们不断创新和改进技术手段，提高攻击的效果和成功率。二是组织化和分工明确化，网络黑灰产业通常以组织为基础，内部分工明确，各个环节相互配合，形成完整的犯罪链条。这些组织往往有严密的组织结构和层级关系。三是隐蔽性和难辨察性，网络黑灰产业利用匿名身份、虚拟货币、加密通信等手段隐藏真实身份，使得其行为更加隐蔽和难以被追踪。四是跨国性和跨界性，网络黑灰产业不受地域限制，跨越国家和地区，涉及多个领域和行业。它们通过跨国合作、销售渠道的扩展等方式扩大影响力和盈利空间。五为创新性和快速演进性，网络黑灰产业具有强大的适应能力，随着技术的发展，其犯罪手段也不断演进和更新。它们迅速调整策略、突破防御，不断寻找新的利益驱动点[5]。

• 网络暴力及其痕迹

网络暴力是指利用网络渠道进行侮辱、谩骂、恐吓、诽谤等形式的言语暴力行为。暴力痕迹的了解对网络暴力的监察和证据固定都有重要意义，但却少有学者做相关研究，笔者对近五年互联网平台的主要暴力事件中的暴力痕迹进行归纳梳理发现，现有网络暴力痕迹主要包括六点。一是恶意言论和攻击，网络暴力常以恶意言语和攻击他人为特征，包括辱骂、侮辱、威胁等。这种攻击可能直接针对个人，也可能是针对特定群体或社区。二是虚假信息和谣言，网络暴力经常伴随着虚假信息的散布和谣言的传播，这些虚假信息可能损害个人的名誉和信誉，扩大负面影响，并产生误导和混淆。三是个人隐私泄露，网络暴力可能涉及公开、泄露或滥用个人的隐私信息，这包括个人照片、地址、电话号码等的曝光，造成对个人安全和隐私的侵犯。四是群体追责和围攻，在某些情况下，网络暴力可以转变为针对特定个体或群体的集体行动，形成围攻的局面，这种群体追责可能导致受害者遭受更大的压力和伤害。五是垃圾或骚扰信息，网络暴力还可体现为大量的垃圾邮件、骚扰电话或信息等。这些恶意行为会严重干扰个人和组织的正常生活秩序。六是网络仇恨和歧视，网络暴力还可能涉及针对某一特定群体的仇恨和歧视言论，这类言论不仅造成心理伤害，也加剧社会分裂和对立。

• 网络黑灰产业、网络水军、网络暴力的相互关系

 网络黑灰产业、网络水军和网络暴力之间存在着紧密的关系，简单来说即网络黑灰产业可以为网络水军提供技术和服务。网络水军则是黑灰产业中的雇佣劳动力，主要为企业或个人提供虚假的网络口碑推广、网络舆情导向等服务。而网络暴力则是水军和黑灰产业中使用的重要手段之一，可以通过网络攻击、谣言散布等方式实现其目的。具体可以归纳为以下三种类型：

其一是依存关系。网络水军是网络黑灰产业的重要组成部分之一，黑灰产业需要网络水军的支持，才能更加高效地在社交媒体和其他网站上进行虚假信息传播和品牌推广，从而获取更多的收益。同时，网络水军也需要网络黑灰产业提供技术支持和资金保障，以完成其任务。

其二为促进关系。网络水军通过发布大量虚假信息和评论为网络暴力提供了强有力的支持，帮助恶意刷屏和抹黑他人。同时，网络暴力又会进一步助长网络水军的影响力和号召力，促进其更为高效地进行虚假信息传播和品牌宣传。

其三则是协同作用关系。黑灰产业作为幕后的支持者，利用网络水军进行网上舆情引导和品牌宣传，而网络暴力则是其中常用的手段之一。网络水军和网络暴力又有密不可分的关系，二者协同作用起来，对被攻击对象造成的负面影响更加强烈，让黑灰产业得以在舆论市场中获得更大的利润。

要注意的是网络黑灰产业作为互联网环境中非法或不正当获取利益的主要经济活动，是这种复杂联动的主要根源，网络水军和网络暴力是其中的一部分问题，但又不全部被包含其中，找出黑灰产业利益链条是重点。由于其高强的交互性，在协同治理三者的同时皆可形成“顺藤摸瓜”的效果，即通过易察觉的网络暴力和网络水军的治理去溯源背后的黑灰产业链。清除其背后的黑灰产业链，便毁坏网络暴力和网络水军卷土再来的根基。

• 网络黑灰产业、网络水军、网络暴力的治理困境分析

接由上文的分析，我们可以清晰地认识到网络黑灰产业、网络水军、网络暴力之间是确切的存在着复杂的相互关联和的互动。如果单独治理某一环节只能起到局部的效果，想要深层次的管控必须采取系统性的治理措施，即我们现在所讲的进行网络犯罪的全产业链治理。综合整个网络黑灰产业、网络水军、网络暴力的治理来看，全产业链的治理也确实是网络犯罪治理的新切入口，这个新的“切入口”既是复杂的链式也是交互的网式，因而我们在理清网络黑灰产业、水军、暴力各节点关系的同时也必然要厘清目前整体治理的困难点，从而去追根溯源，切入源头。基于网络黑灰产业、网络水军、网络暴力的概念及其相关特征，可得目前的治理困境主要包括以下几点。

       其一是犯罪追踪，网络犯罪分子通常会采取各种反侦查措施来防止被追踪和发现，使得追踪和定位他们变得困难。他们一般使用虚拟身份和匿名技术，如来代理服务器、虚拟专用网络、加密通信等工具来遮盖自己的位置。此外，他们也会使用加密通信、匿名支付方式、分散式服务器，去中心化的非法数字结算等手段避开与犯罪证据的关联[6]。

其二是网络犯罪通常涉及高度复杂的技术手段和工具，例如黑客攻击、数据篡改、数据泄露等。这些技术要求执法机构具备相应的专业知识和技能来进行调查和追踪，而公安机关这方面的高精尖专业人才往往比较稀缺，致使技术逆差问题的出现。此外网络犯罪分子在行动过程中可不断的寻找一些平台的算法漏洞来规避现有的监管和监测，这使得我们的治理往往是被动的，技术发展和监管也是滞后的。

其三是网络犯罪行为可以跨越国界进行，犯罪分子可能位于其他国家或地区，这增加了调查和追踪的复杂性。执法机构必需要与其他国家的执法机构合作和衔接，并达成共识进行信息共享和协作才能有效打击跨境网络犯罪的跨境作案，大大增加办案的能力，尤其是办案时机上的误事失。

其四是平台做法，网络水军、网络暴力等问题依托于互联网平台，而平台往往是商业化的，为了增加用户粘性，有时候不得不宽容甚至纵容这些问题的存在，对于治理带来巨大的困难。

其五是社会观念，网络暴力等问题与一些人的价值观念、思想文化等紧密相关，难以通过简单的技术或法律手段解决，这可能与目前世间各国的经济发展也有关联，此外涉及价值观念和思想上的问题是必然需要中长期的教育、舆论引导等综合措施，而探寻解决之道必然是漫长的。

其中第四点相较其他几点来说是目前最易解决的，另外要特别指出的是在治理网络暴力和网络水军过程中，执法机构需要获取相关数据和信息来追踪嫌疑人。这涉及到个人隐私和数据保护的问题，一方面需要平衡言论自由与保护个人隐私权的关系。另一方面还要坚守不能牺牲言论自由和个人隐私权的原则[7]，在采取措施时，平衡利益，并注重依法治理，确保公平公正，这便对相关治理制度提出极大的要求。

• 网络黑灰产业、网络水军、网络暴力的综合治理对策

1. 违法犯罪的边界认定促进于法律法规的完善

在治理打击方面，我们首先要对违法犯罪行为进行判定 但具体认定网络黑灰产业、网络水军和网络暴力的违法边界需要依据相关的法律法规来进行判断，就一些通常违法的边界认定原则来讲，一要看其否有明确的违法行为，涉及网络黑灰产业、网络水军和网络暴力的行为，如果违反了国家相关法律法规的规定，比如侵犯他人合法权益、虚假宣传、网络暴力等，就可以被认定为违法行为。二是看其否有恶意目的，网络黑灰产业、网络水军和网络暴力的行为通常具有明确的恶意目的，包括损害他人声誉、扰乱社会秩序、传播谣言、煽动仇恨等。当行为人以虚假身份进行组织、策划和实施时，可能会构成违法行为[8]。三是要看是否具有社会危害性，网络黑灰产业、网络水军和网络暴力行为若对社会和公众产生危害和负面影响。这些行为可能导致社会秩序的混乱、公众利益的损害，甚至对个人身心健康造成伤害。四是要看，是否有直接受害人产生，从受害人的角度出发去结合相关法律进行判断。此外，单就网络暴力的而言，除上述原则外，我们还可结合上文提到的网络暴力痕迹来辅助对相关事件或人员进行违法犯罪行为的认定。

此外特别要注意是，对于网络黑灰产业、网络水军、网络暴力等违法行为中目前存在的“法不责众”现象，一直是在治理网络黑灰产业中常存的规则漏洞，个别人员在网络环境中实施违法行为时，虽不能直接将其归咎于互联网平台或其他广大用户，但黑灰产业者恰借此漏洞并偏爱“借刀杀人”，即只稍做舆论引导，便能误导广大不明真相的群众从而产生网络暴力和网络水军方面的“蝴蝶效应”。这从本质上讲根源依然是网络黑灰产业的煽动者违法行为，根源上的解决办法，一方面是相关机关对焦点事件进行正确处理，给大众一个明确且合理的解释，重新建立相关的公信或做澄清，另一方面是溯源背后的网络黑灰产业的煽动者。在这过程中对于极个别不理智的被煽动者，可用上述的四个个标准对其进行评判。就被煽动者的行为而言，这好比，刀子是坏人给的，但伤人终究还是拿刀者，二者皆不应该免于法律制裁。因此，在相关的法律法规完善上，可对这方面的规制进行完善。

1. 技术手段推进智能化的监测和治理

在网络水军和网络暴方面，我们尤以识别和排除策略为主，力求将网络水军和网络暴力的不恰当言论在未产生恶劣影响前便消除。具体技术选型可利用大数据分析和挖掘技术，来识别和监测网络黑灰产业、网络水军和网络暴力行为。通过云计算和大数据，分析大规模的用户行为数据、社交媒体内容和关系网络，及早发现异常疑点和恶意行为。与此同时加强验证机制，要求社交媒体平台引入更加严格的用户验证机制，例如手机号码验证、身份证验证等，以降低网络水军的注册门槛和活动空间。此外也可利用人工智能技术如自然语言处理、机器学习和深度学习等，通过构建智能算法和模型，可以实现对恶意信息、虚假账号和冒充行为的自动识别和过滤，提升对违规行为的检测效率和准确性[9]。在识别和排除的过程中，笔者建议利用多维度指标评估，结合用户活跃度、社交互动、账号信息等多个指标，对用户真实性和可信度进行综合评估。而后通过图谱分析构建用户关系图谱，分析用户之间的连接关系，发现水军账号之间的关联性，有针对性地排除水军行为。在监测方面利用人工审核和机器辅助的方式，对用户发布的内容进行审核，监控用户异常行为，以便及时发现可疑活动的同时措施的快速响应，包括暂时封禁账号、删除虚假信息等。

在网络黑灰产业上，我们以安全防治为主，网络黑灰产业的体现形式主要便是网络诈骗，因此强化安全防护是保护网络免受黑灰产业和恶意攻击的关键措施，防护措施是多方面的。其一是可使用防火墙，通过配置和启用防火墙来监控和控制网络进出流量，来阻止未经授权的访问和恶意流量。其二是更新和维护系统，及时安装操作系统、应用程序和设备的补丁和更新，以修复已知漏洞和弱点，防止被黑客入侵利用。其三是强化身份验证，使用复杂的密码策略，笔者推荐使用多因素身份验证来增加登录安全性。四是 建立访问控制，限制对敏感数据和重要系统的访问权限，为每个用户分配适当的权限，并定期审查和修改权限设置。其五是数据加密，对敏感数据进行加密存储和传输，确保数据在传输和存储过程中的安全[11]。其六是通过部署入侵检测和预防系统，使用IDS/IPS技术来监视和检测潜在的网络攻击和异常活动，以便及时采取相应措施进行防御和应对。其七是建立备份和恢复机制，定期备份重要数据，并测试和验证恢复机制的可行性，以便在发生数据损坏、灾难性事件或勒索软件攻击时能够迅速还原数据。其八是实施网络流量监控和日志记录，通过持续监控网络流量和记录关键系统日志，以检测异常活动、及时发现入侵行为、进行溯源和调查[10]。我们需要明白的的是，安全防护是一个持续的过程，我们始终要保持与危险环境同步，定期评估和更新安全策略，并严格遵循最佳安全实践以便应对新出现的安全漏洞和危险。

区块链技术在网络黑灰产业、网络暴力和网络水军治理方面也可拓展一些应用。其一是应用区块链溯源能力，区块链可以提供去中心化的交易记录和数据存储，通过对网络黑灰产业进行溯源，可以追踪交易和活动的来源和流向，增加透明度和可追溯性，从而有助于打击有害行为。其二是应用区域链的去中心化身份验证，区块链技术可以帮助建立去中心化的身份验证系统，确保参与网络交互的各个主体的身份真实可信。这有助于减少网络暴力和网络水军的活动，因为匿名行为和虚假身份将更难以实施。其三是应用区域链对数据共享与监管的能力[11]，区块链可以创建可信的数据共享平台，使多个参与方能够安全地共享信息，并确保数据的不可篡改性。这对于相关部门监管网络黑灰产业和打击网络暴力行为很有帮助。最后可应用区域链的智能合约执行能力，区块链上的智能合约可以自动执行事先设定的规则和条件，无需中介机构介入。这可以帮助限制网络黑灰产业和网络暴力事件的发生，并提高治理效率。区块链技术是有以上领域具备潜力，但笔者认为其应用仍处于起步阶段，需要进一步的研究和实践。同时，也要注意避免技术应用中可能出现的新问题和挑战。

除此之外，结合目前现有的反网络黑灰产业诈骗的APP分析，笔者建议，在有效拦截和警告异常信息的同时，增加网络链接的审查功能，即用户将陌生链接输入到网络链接审查窗口后，APP自动显示网络链接相关信息，并对网络链接安全信息进行评估同时反馈到用户，对于高威胁链接（尤其高风险转账链接），平台自动判断是否进行直接的暂时封查，并交由人工审核确定其实际性质。网络链接是网络黑灰产业的主要犯罪手段和方式，通过此法有效减少网络诈骗等网络黑灰产业对群众的毒害。笔者期望有关部门可以考虑并将此建议落地执行。

1. 多方参与推进网络空间的共建共治共享

网络黑灰产业、网络水军和网络暴力治理需要跨平台、多方合作的机制来进行有效应对，对此网络空间的协同治理泽需要相关部门和机构为主导的同时要融合多方大众和社交媒体平台的参与和作用。同时多方参与网络治理也可以推动相关法律法规的制定和落地实施，更好地保护网络用户的合法权益。

在政府等相关部门方面，总体来说，要起到对网络犯罪的主力军和领头羊作用，不断提升自身反网络犯罪能力，如通过加强监管和执法力度，通过积极追寻和采用新技术手段和举报机制等方式，促进网络空间健康有序发展。其实相关部门在前文所述的方式中已然在采取目前可行的诸多措施，但此外，基于网络媒体平台，网络水军的频繁乱象现象和Chat GPT为代表的人工智能对中文互联网的污染[12]。笔者建议，公安部门建立独立自我的传媒体系，普法传法的同时，同样以传媒的手段，保证及时获取鲜活的网络信息，并及时以官方名义对短时间内迅速发酵的不实舆论和垃圾信息进行调查和“官方打假”，减缓鱼龙混杂的自媒体对网络环境和娱乐的影响。

在公众参与方面，要充分发挥民主参与，舆论监督，社会监督，信息反馈的作用，促进民主决策和权力制衡，增加对网络环境的监督和管理力度，促使网络平台主动改善服务质量，减少不良信息的传播，推动网络水军、网络暴力和网络黑灰产业的曝光和打击，发挥社会力量监督网络平台、社交媒体等各方，形成全社会的合力，帮助政府和相关机构更好地了解问题，实现多元共治，以改善治理效果。与此同时相关部门也要注意加强对大众的网络安全意识和知识普及，加强网络素养教育，培养公众正确使用互联网、辨别网络水军和网络暴力的能力。过广泛的宣传教育活动，向公众普及网络黑灰产业的危害，呼吁共同参与治理，方可形成更加健康、积极的网络氛围[13]。

在社会组织与企业的参与与合作方面，鼓励社会组织积极参与网络水军、网络暴力和网络黑灰产业的调查研究、舆论监督等活动。各个社交媒体平台、政府机构、学术界和行业协会等应加强合作与共享，共同研究和探索治理网络水军的方法和技术，并汇集不同利益主体的声音，寻求各方平衡、权衡和妥协，实现网络治理的多元化和公正性。形成联合防范网络犯罪的力量[14]。

在平台做法方面，笔者建议相关平台拓展自律机制，推动规范化运营和内容审核。对此，其一要加强用户验证机制，引入多种身份验证方式，手机号码、身份证信息等，提高用户真实性，以降低网络水军的注册门槛和活动空间。其二要引导用户行为，增加正面声音，可以通过推送正能量内容、优质用户推荐等方式，引导用户积极参与，减少网络水军和网络暴力的影响力。其三通过建立举报机制加强社区管理，鼓励用户积极举报网络违法犯罪行为，并提供便捷的举报渠道，以便及时对犯罪信息进行处理。

此外对于网络的共治共享我们不得不提到的是威胁情报共享与协同防御[15]。这是一种通过各方之间的信息共享、风险警示和联动处置的安全防护体系，其核心理念是各方积极加强合作、信息共享和资源互助，以此实现更全面地感知和防御各类网络威胁，有效降低潜在风险，进而提高整体网络安全的能力和效果[16]。针对网络共享共治的本质要求，笔者建议在网络黑灰产业，网络水军，网络暴力的综合治理中建立威胁情报共享与协同防御机制，通过建立威胁情报平台[17]，收集和分享关于网络犯罪的威胁情报信息，以便执法机构、安全公司和其他相关组织实现情报共享，提升整体安全防护能力并及时了解网络犯罪的最新动态，实现对网络犯罪的高效率反制。

1. 加强国际合作与跨境治理

基于网络黑灰产业活动的跨国特点，仅依靠单一国家的努力难以取得显著成效，因此在网络黑灰产业、网络水军和网络暴力的协同治理上，加强国际合作与跨境治理也尤为重要。笔者认为强国际合作的最主要方法就是建立跨国数据共享和合作建设机制。就跨国数据共享和合作建设机制的建立方法具体来讲，笔者建议一是各国可以通过签署国际协定或意向书，明确数据共享与合作的原则、目标和框架，这些协定可涵盖数据保护、隐私权、信息安全等方面的规定，以确保跨国数据共享和合作的合法性和安全性。二是提供搭建跨国合作组织或平台，来促进不同国家之间的合作与交流，这些组织或平台负责提供一个便捷的合作机制，用于共享情报、交流经验和探讨解决方案。例如，政府间组织、国际非营利组织或专门的网络安全合作平台。三是制定统一的数据分类与标准化规范，以便不同国家间进行数据共享和交流时能够达到相互理解和兼容的目的，这有助于减少数据处理的复杂性和冗余度，并提高数据利用的效率[18]。四是就司法合作方面，加强跨国执法合作，在信息共享机制的基础上建立执法协作机制和案件移交程序，加强警务合作。五是技术支持与能力建设，合作方互相提供技术支持和培训，帮助各国提高数据处理和安全防护能力，以更好地应对跨国数据共享和合作中的技术挑战和安全风险。六是共同研究与创新，鼓励各国在跨国数据共享和合作领域进行共同研究与创新，通过合作研究项目、技术创新竞赛等方式，推动科技进步和解决实际问题，促进全球共享成功经验和最佳实践。

此机制的建立，必然会使数据的跨境流动与分享在网络黑灰产业为主的网络犯罪的根源与规模的分析和识别及对跨境追逃和司法合作上产生重要意义。但建立跨国数据共享和合作建设机制是一个复杂而长期的过程，需要政府、国际组织、企业和公民之间的共同努力与合作。在信息共享和合作过程中，也必然涉及到合作国家间的敏感信息和数据的传输和存储，对此，我们也需要建立明确的授权机制和隐私保护措施防止滥用或非法获取[19]，确保数据仅限于合法用途，确保在数据共享和合作过程中，可以兼顾国家间的重要隐私信息安全保护。

另外，跨国公司在网络社会中也扮演着重要角色，其社会责任和合规管理也是不可忽视的方面。跨国公司应当认识到其在网络空间中的影响力和责任，严格遵守相关法律法规，积极履行社会责任，推动企业自律与规范化发展，为网络治理提供积极的示范与引领。

• 总结和展望

本文首先通过深入分析网络黑灰产业、网络水军和网络暴力的相关特征，论证出三者间所存在的相互作用关系，并例举目前综合治理的难点所在，而后就治理难点提出了一系列解决措施，包括法律法规完善的方向、技术手段应用多方共治的网络治理模式等，为网络黑灰产业、网络水军和网络暴力的治理工作提供了参考。此外全文对相关问题的分析的同时也或多或少揭示了它们对社会稳定和信息环境的负面影响，以此提醒人们重视。

然而网络的综合治理是一个复杂的系统工程，在实践过程中可能面临许多困难和挑战，这也是本文研究的局限性。尽管我们提出了一些解决方案，但其实施和效果还需要进一步验证和完善。但由于互联网环境的快速变化和创新，网络黑灰产业、网络水军和网络暴力的形式和方式也在不断演变。我们需要不断更新研究内容，以应对新形势下出现的问题。另外如何平衡言论自由和信息安全之间的关系，如何进行有效监管和纠正不良行为，具体又如何提升多方共治程度的方式等。这些问题需要进一步深入研究和探索更加合理和可行的解决措施。最后协同防御机制作为一种有潜力的网络安全治理手段，通过多方合作与协调，虽然可以提高整体网络的安全水平，但其成功实施离不开解决技术、组织和法律等多个方面的挑战，这仍需要各方共同努力和持续探索创新。

综上所述，未来的研究除基于本文的细致局限性出发外还可以从以下几个方面展开。首先，应加强国际合作和经验交流，借鉴其他国家在网络治理方面的成功做法。通过学习和分享，可以更好地推动我国网络空间的发展和治理。其次，应加强技术创新，迭代研发更加智能和高效的工具和方法，用于实时监测、识别和遏制网络黑灰产业、网络水军和网络暴力。最后，应加强社会共治意识的培养，相关部门和官方媒体担自身责任，通过积极向上的教育宣传和舆论引导，提高公众对网络风险和威胁的认知，树立正确的理智的网民态度并规范行为规范。

参考文献

1. 莫倩，杨珂.网络水军的识别研究[J].《软件学报》， 2014，007：1505-1526
2. 网信办:2023年将重点整治“自媒体”乱象、网络水军等九方面问题[D].新闻论坛,20232,118-118
3. 周启阳:对网络水军传播乱象的透视[J].传播力研究,2021,001:P.128-128130
4. 王长杰:网络水军的社会危害及治理路径研究[J].辽宁警专学报,2021,002, 59-66
5.  张雯, 颜君:“刷流量”网络黑灰产业的监管与规制——以司法纠纷解决路径为切入点[J].中国应用法学,2019,005: P.105-115
6. 孙仕:基于人工智能技术治理网络暴力的探析[J].中国传媒科技,2023,1: 64-68
7. 莫小可:网络暴力下言论治理的法治化[J].时代人物,2022,31:0084-0086
8. 贾建慧:互联网时代下公众对网络暴力的认知程度和行为立场研究[J].新闻研究导刊, 2023,4: 35-39
9. 陈昌凤：商业性网络水军的全链条治理[J].《人民论坛》2019,32; 120-122
10. 马金强; 田俊静; 苗志宏;我国暗网犯罪分析与综合治理研究[J].武警学院学报,2021,012: 27-32
11. 梁艳丽,凌捷：基于区块链的云存储加密数据共享方案[J]. 计算机工程与应用, 2020,56(17):41-47.
12. Ilia Shumailov, Zakhar Shumaylov, Yiren Zhao, Yarin Gal, Nicolas Papernot, Ross Anderson：The Curse of Recursion: Training on Generated Data Makes Models Forget，arXiv:2305.17493
13. 杨百川：新型网络犯罪联动治理机制联动治理机制研究[D].山东省青岛市:青岛大学,2019
14. 连斌:推动完善网络犯罪综合治理体系[J].中国信息安全,2018,6:39-42
15. 李建华：网络空间威胁情报感知、共享与分析技术综述[J].网络与信息安全学报,2016, 2(2):16 29)
16. 林肘，刘鹏，王鹤，王文杰：网络安全威胁情报共享与交换研究综述[J].计算机研究与发展,2020,57(10):2050-2062
17. 薄明霞, 唐洪玉：冯晓冬;基于大数据的安全威胁情报分析与共享平台技术架构研究[J].《电信技术》,2019,011: 5-9
18. FIELD J,BANGHART S,WALTERMIRE D. Resource-Orien-ted Lightweight Information Exchange draft-ietf-mile-rolie-01[EB/OL].(2015-12-02).
19. 杨沛安，武杨，苏莉娅，刘宝旭:网络空间威胁情报共享技术综述 [J].计算机科学,2018,006: 9-18,26

Research on the comprehensive management of online black and gray industry, online trolls, and online violent crimes

GUO Fenze, LIU Xuanyi, YU Niannian, LI Junjie, ZHANG Jianze

Summary

The online black and gray industry, online trolls and online violent crimes are one of the main challenges facing the current Internet governance governance. The black and gray industry chain is long, the tools are diversified, the illegal interests are huge, and it is not conducive to social stability, the online trolls can interfere with the alarm of enterprises and governments, and online violent crimes directly threaten personal and social security. However, due to institutional and technological lags, the current means and methods of managing these problems are not effective enough. This paper mainly analyzes the relationship, current situation and insufficient governance of the current network black ash industry, online trolls and online violent crime, and puts forward corresponding specific governance countermeasures from the aspects of legal regulation, technical means and coordinated participation, in order to provide some new ideas and suggestions for the comprehensive management of Internet crime.

Keywords: online black ash industry, online trolls, online violence, comprehensive management of cyber crimes

作者简介; 刘**，男，南京大学，法学。郭**，男，***大学，空间信息科学与技术。李**,男，北京邮电大学，人工智能。余**，北京大学，教育学。作者通讯：***********