“两高一部”出手严惩网络暴力, 网易易盾携手用AI对抗

20世纪，美国人靠计算机让导弹飞行地更精准，如今我们却把键盘当武器，在互联网上对我们的同胞发起战争。

01 网络暴力，是一场众人之罪

近期，网络暴力事件频发，并且还在持续不断发酵，其产生的恶劣影响也在快速扩大。从寻亲男孩刘学州，到染头发女孩郑灵华，再到前几天震惊全网的5.25校园交通事故，被撞身亡的六岁小学生母亲因网暴而选择轻生，甚至是近日的“国企高管牵手异性逛街”网络反腐事件，都已演变成了一场对男女当事人的“网暴狂欢”。

在网络世界中，施暴者躲在角落，无所顾忌地发表言论，将键盘当作“利刃”随意攻击着别人。然而，躲在一张张“匿名”面具之后的他们，大多数只是现实中的普通人，他们在网络上表现出了极度的冷酷、漠然。有心理学家对网暴者的心理进行分析，认为他们多为“两面人”：现实生活中的“羊”、虚拟世界中的“狼”。

网络暴力的侵害形式主要包括威胁、骚扰、侮辱和社会性孤立等，行为通常伴有侵犯他人名誉、披露他人隐私等情况。由于违法成本低，社交媒体、网络集体性地放大了人性阴暗的一面，网暴对公众人身权利造成的实质性伤害，已经远远超出了网络舆论的边界。

02 网络空间，不存在法外之地

网络空间，不存在法外之地。倘若人人都可以躲在屏幕背后，披着匿名的壳子，或抱着无知者无罪、法不责众的心态，不带任何思量就去任意一次次地敲下回车键，去伤害一个陌生人，这不仅是道德败坏行为，更是一种私人执法行为，是对法律威严的无视。

网暴顽疾由来已久，这一顽疾的复杂程度、治理难度，确实超乎想象。迄今为止，没有任何国家、任何企业成功根治网暴。与传统违法犯罪不同，网络暴力往往针对素不相识的陌生人实施，被害人在确认侵害人、收集证据等方面存在现实困难，维权成本极高，同时也存在着定性难、监管难的问题。法律定罪需要完成的证据链，在落地过程中往往需要耗费巨大的成本和资源。所以世界各国往往会采用政府监管、企业互动、社会自治和教育等“组合拳”形式推动网络生态的健康发展。

作为最早对网络作出规范的国家，1997年6月，德国联邦议院通过了世界上首部全面规范网络的法律《多媒体法》(德文简称IUKDG)，该法实施的目的在于保护用户公民权利和公共利益，并以专门篇幅对网络服务商的责任、义务作出具体规定。

在美国，对网络暴力没有明确的界定，理论上主要是分为网络欺凌、网络跟踪和网络骚扰。2009年4月，美国出台了历史上第一部针对青少年网络欺凌的专项法律，将青少年网络隐私安全作为防治青少年网络欺凌工作的重心，出台的法律不仅限制网络上有害信息的传播，还保护儿童在网络世界的隐私安全，从而有效保护青少年免受或少受网络欺凌的威胁。

这些年，中国始终高度重视互联网的发展，从来没有停止过对网络环境的治理。2022年，国家网信办就发布《关于切实加强网络暴力治理的通知》，明确要求禁止针对个人集中发布侮辱谩骂、造谣诽谤、侵犯隐私等违法信息及其他不友善信息;禁止侵害他人合法权益，扰乱正常网络秩序;要求网站平台压实主体责任，健全完善长效工作机制，有效保障广大网民合法权益。

近日，最高人民法院、最高人民检察院、公安部三部门起草了《关于依法惩治网络暴力违法犯罪的指导意见(征求意见稿)》，向社会公开征求意见，对在信息网络上制造、散布谣言，采取肆意谩骂、恶毒攻击、披露隐私等方式公然侮辱他人的行为将进行依法严惩。此次“两高一部”的联合动作，可能迎来史上最严厉的网络暴力惩治法规。

“两高一部”的《征求意见》将重点针对以下行为和人群：

1.重点打击行为: 对于网络诽谤、网络侮辱、侵扰公民个人信息、线下滋扰以及借网暴事件进行恶意营销炒作的，将依法进行严惩。比如网络诽谤行为，将以诽谤罪定罪处罚，网络侮辱行为，将以侮辱罪定罪处罚。

2. 重点打击对象：对恶意发起者、组织者、推波助澜以及屡教不改的群体，将坚持严格执法，对于网络暴力违法犯罪，应当依法严肃追究，切实矫正“法不责众”错误倾向。

3.重点犯罪情形：(1)针对未成年人、残疾人实施的;(2)组织“水军“、“打手”实施的;(3)编造“涉性”话题侵害他人人格尊严的;(4)利用“深度合成”技术发布违法或者不良信息，违背公序良俗、伦理道德的;(5)网络服务提供者发起、组织的。对实施以上的网络暴力违法犯罪，将从重处罚。

因为网暴而造成被害人精神失常、自 杀等严重后果的，将会被认定为刑法第 246 条的「严重危害社会秩序」罪。

从《征求意见》中所覆盖的重点人群和违法行为中可以看出，目前网络暴力的施加者不仅仅包括普通网民，也包含了网络暴力团伙、有组织性的网络黑产等群体。这些群体在利益的驱动下，通常会绕开平台的相关机制，进行有组织、有手段地实施网络暴力行为，比如通过注册运营大量社交账号，通过社交平台相互推广引流，或者通过鼓动网民、水军造势等方式使舆论发酵，以此牟利。

对平台企业来说，平台生态恶化及社会舆论带来负面声誉足以让企业产生巨大的运营商业风险。当商业与社会现实摆在面前，平台如何以法律为准绳，并通过技术、平台规则和机制等手段去解决这些异化现象，重新衡量、规划和引导平台空间与用户的行为关系，让平台回归健康的生态运营是目前无法逃避的一个问题。

03 用 AI 技术，对抗网暴

网易易盾，依托于网易集团20多年的技术沉淀与传媒行业的深厚积累，在网络舆论的风险控制和平台不良内容的监测管理上有丰富的实践经验，可以通过舆情预警、建设【人工+AI+举报】三级审核流程、建立审核员培训制度维护平台内容的生态治理和风险管控，有效减少平台不良言论，控制网络暴力的影响力和危害性。

其中舆情预警建设是放在首位的，易盾可以帮助平台打造舆情系统，实时搜索网络传播中的热点问题及有害言论，并将敏感信息录入形成相应规避词与舆情工作报告，上报主管部门，直接规避用户在平台上发出存有规避词的信息。

同时，易盾的AI能力在帮助网暴治理方面可发挥出重要作用，其中，对嘲讽、低俗内容的识别以及情感正负面判断等能力，是AI技术的重要应用之一。

首先，AI可以利用自然语言处理技术识别出带有嘲讽、低俗成分的言论，并对其进行分类与标记。通过对这些言论进行识别和分类，网络管理人员可以更快速地发现和处理违规言论，从而减少网暴事件的发生。其次，AI可以通过情感分析技术对言论的情感正负面进行判断，从而更好地评估言论的影响力和危害程度。例如，对于带有负面情感的言论，AI可以快速判断其可能会引起的社会影响，从而更好地采取应对措施，保障公关安全与社会稳定。

在用户管理方面，易盾还可以帮助平台进行用户的实名认证来限制匿名用户发布的不良言论。对用户产生的内容方面做分层处理，建立不同层级违规、违法内容数据库，再用AI技术对违规、违法等内容进行识别算法建模，并不断完善模型数据库。当用户发出内容后， 可以结合内容与数据库做对照，将违规内容直接筛出。

我们相信人性有向善的本能，但就像向日葵一样，面对阳光才能生长。网络暴力的背后，不管人心之恶、技术之恶还是资本之恶，易盾一直希望能成为那道可以驱散黑暗的阳光，给网民一个阳光、向上、温暖的网络空间。