一些见不得光的恶意将一个 16 岁的少年逼上了绝路。
Carson Bride 在自杀前搜索的最后一个词条是「 如何显示 Yolo 用户名」。
Yolo 是一个匿名社交应用，因为它的设置，使用者永远无法知道背后发送消息的人是谁。可以说这是一个完全不受拘束的神秘空间。而当它背后充斥着恶意的时候，铺天盖地的信息也会让你有一种不被世界所容的错觉。
Yolo 是一个匿名应用
Carson 在连续数月收到来自 Yolo 的匿名负面信息后选择结束自己的生命。他的母亲并没有通过媒体向各个平台施压，要求他们公示对儿子进行长期辱骂、逼迫之人的名单，而是起诉了儿子使用的社交平台 Snap、Yolo、LMK。在她看来，这些公司没有遵守自己的服务条款和政策，违反了消费者保护法，且助长了欺凌行为。
这就是故事的结局，一个母亲因为儿子的自杀起诉了网暴者借之宣泄恶意的平台，而非平台背后的人。
这次，平台不再隐身
阳 光照在海面，我也归于大海。 从这里结束自己的一生，也带走了这个世界上最美的风景。
寻亲男孩刘学州最后在微博诉说了自己被生父母出卖、养父母身亡、遭受校园欺凌猥亵以及被网暴的一生；确诊新冠病毒的周女士个人信息在网络被疯传，不少人通过公众平台嘲讽她「千里送毒」；江歌的母亲在维权过程中遭到了部分网友的辱骂，她 5 年起诉了 10 名网友。
网络暴力已经不是个别问题. 图片来自：comminit
以往发生网暴事件，总有人出现呼吁真善美，让每个人规范自己的行为不要成为「压倒骆驼的最后一根稻草」。个体的行为在网暴事件中被反复的提及，平台固然会受到批评，但被指责的更多是通过平台隐藏自己的人。
只是越来越多人在拿起法律武器反击时不仅针对背后的施暴者，也开始要求平台能发挥更大的作用。Carson 的母亲并不是孤例，隐藏在平台背后的人固然可恨，但没有及时保护用户、制止暴行的平台同样不能独善其身。
一位法学从业者表示，面对网络暴力，平台和自然人都需要承担应有的责任。《刑法》就规定，网络暴力行为涉嫌诽谤罪和侮辱罪，可处以 3 年以下有期徒刑、拘役、管制或者剥夺政治权利。只是落在一个个具体的案例中，网暴行为导致的「情节严重」的情况都较难确定。
图片来自：rsearch blog
平台也有《网络信息内容生态治理规定》做出了限制，不得制作发布侮辱或诽谤他人，侵害他人名誉、隐私和其他合法权益的内容；应当采取措施防范、抵制制作展现血腥、惊悚、残忍等致人身心不适的内容。
如果只是谈到网络暴力的提前预防和保护，那从平台和用户的角度来说，针对平台去做产品的优化升级也要比限制用户来得更容易。毕竟用户千千万，而平台就只有那几个。所以不管是政策的要求还是平台自己的迭代，我们都能看到越来越多平台在主动做出改变。
各显身手，制网暴
中国互联网平台对网暴越发关注是从今年开始的。
2022 年 1 月开展的清朗行动中列出了重点整治的五个方面，其中首先被提及的就是「网络暴力、散播谣言等问题」。在这个行动后，越来越多平台上线了有着不同命名的防网暴功能或模式。
网暴来自屏幕背后看不见的手. 图片来自：Mingyongcheng
反应最快的是微博，1 月 24 日，微博在回应刘学州事件时就表示平台拟上线一键开启「防暴模式」，用户可以在隐私设置里对评论博文和私信的人加以限制；还可以开启「评论防火墙」，由系统自动屏蔽人身攻击和恶意骚扰的内容。
微博在 3 月 11 日就正式上线了这一模式，相较于其他平台，微博这一模式最大的不同在于「将综合考虑评论、私信等各个场景的不同行为特征，提前发现潜在被攻击用户，做好前置环节的预警提示，引导高风险用户主动开启一键防护功能，进一步减少和预防用户遭受言论攻击的情况。」
微博一月底曾预告「防暴模式」
平台：微博 功能名称：一键防护 上线日期：3 月 11 日 防护日期：7 天 主要功能：7 天内不接收未关注人的私信，未关注人将无法评论你的微博，未关注人转发你微博的记录将不会展示在转发列表中 打开方式：「我」-「隐私设置」-「一键防护」；引导高风险用户主动开启
一键防护开启界面
和微博为用户构建防护墙不同，抖音还会主动出击，向那些内容发布者示警。用户在评论区发布的违规/低质评论会被模型匹配校验，收到评论弹窗「该评论可能对他人造成负面影响」，引导用户重新编辑。若用户选择继续发布，则评论也会不公开可见，进入审核环节内合规才能放出。
抖音将自己称为首个上线「评论发文警示」的平台
平台：抖音 功能名称：发文警示 上线日期：2 月 23 日 防护日期：持续 主要功能：系统模型判定已发送的评论存在问题，则会推送弹窗提醒，建议发送者重新编辑，去除不当言论；若发送者坚持发送，则该条评论不会在评论区出现 打开方式：平台模型自动校验
抖音的「评论发文警示」功能
紧接着的是豆瓣，它对于用户在平台过往内容的保护更为详尽。不仅用户无法回复内容、收藏内容，你未关注的人也无法查看你的个人主页，无法查看往期内容，能够有效隔绝潜在的「挖坟」行为。
平台：豆瓣 功能名称：应急防护模式 上线日期：3 月 25 日 防护日期：3 天、7 天、14 天 主要功能：隔离窥视（仅关注者可查看个人主页内容）；预防骚扰（陌生人未经同意无法私信，非友善评论自动隐藏）；控制传播（仅关注人可回复内容，可禁止该内容的转发收藏） 打开方式：「设置」-「隐私设置」-「应急防护模式」
应急防护模式可选择防护持续时间
这是目前已经上线了防治网暴整合方案的平台。其中很多功能可能是原本应用就已有的功能，例如不同平台均可设置禁止关注 X 天内用户评论、限制转发等等。
知乎就有强制关闭评论、强制开启评论预审等功能，系统 + 人工双重安全评估的模式在一定程度上可以过滤一些攻击性内容；B 站也有私信智能拦截、私信垃圾箱、防骚扰模式帮用户隔绝不良信息；小红书、快手等平台也能对互动、关系进行更多的限制和选择。
但平台能够提供一个完整的解决方案依旧是不同的。
B 站这样的非社交平台也有私信智能拦截的功能
让用户打开应急的方案
豆瓣对爱范儿表示，他们在设计「应急防护模式」的功能时，是对用户遭受网暴、隐私威胁一般路径的观察来进行规划的。
常见的网络暴力包括言语攻击、人身侮辱、人肉搜索、传播谣言等，那豆瓣就选择通过保护受害者的个人历史和隐私（隔绝窥视）、减少直接的言论攻击（预防骚扰）、降低二次传播的几率（控制传播）这几方面去重点防护，切断惯常网暴者对受害者信息收集和信息轰炸的链路。
豆瓣
打开这个模式，意味着他人无法查看你过去在社交网络留下的只言片语，也没办法根据你过去的互联网历史编造、再创作出侮辱性的内容。同时，那些最为恶毒的言语攻击也无法展现在你面前，私信、评论、转发的道路被堵住了，没人可以隔着屏幕给你的心扎上一刀。
人人都在说互联网的互联互通，但每一个平台的防网暴模式反而构建了一间难得的安全屋。用户在短时间内看到的内容都是经过处理审核的，恶语无法伤人，只能在屏幕后宣泄自己的恶意，而这些恶意也会受到惩罚。
已经有了越来越多的受害者通过诉讼维护了自己的合法权益，让网暴者赔偿、道歉。但诉讼的高成本和一句脱口而出的恶意似乎并不相抵，并非所有的受害者都愿意花时间精力去做这件事。平台在这个阶段也能发挥作用，不管是禁言处罚用户，还是给用户进行警告，平台干预的成本是更低的。
被造谣出轨的受害者就选择通过诉讼维护自身权益
微博在上线「一键防护」模式外，就透露了平台正在开发建设行为监测模型的消息。有了模型的加持，平台可以通过分析用户不友善评论、举报数量频次等数据，准确识别网暴苗头，从机制上、源头上来解决问题。
在清理违规信息的同时，我们也会依据不同行为性质，采取阶梯式处置：针对参与网络暴力的账号，采取批量禁言、限制功能等处置，对首发、多发、煽动发布网暴信息的账号，采取永久禁言等措施，对涉嫌违法犯罪的，移交有关部门依法追究法律责任。
微博
只是功能跟上了，宣传也得跟上。一位曾经因为一条内容问题而收到网友私信辱骂的人表示，她认为这个功能管用，但也质疑用户会不会主动打开它。
「其实专门私信骂我的就三个，但我都受不了，忍不住去看有没有支持的言论，看到其他人也在说我有问题就很 emo，那几天都很不爽。」提及自身经历，这位曾经接受过负面信息冲击的用户也提出了自己的质疑：「所以我觉得还有一个很重要的问题是，他们（用户）能不能知道这个功能，愿不愿意不看其他人的评论，打开这个功能？」
在防网暴模式上线没多久的今天，功能普及率和用户主动打开的意愿都属于未知。在这种时候，像微博、抖音这样可以主动出击的平台也能发挥自己的作用，前者引导用户打开这一功能，后者主动为用户在评论区构建一堵安全墙，让恶语无法攻破。微博就对爱范儿表示：
我们也正在开发完善系统自动提醒机制，对高风险用户做出主动提醒，引导用户开启，进一步减少和预防用户遭受言论攻击的情况。
图片来自：Omidyar Network
从为用户提供隐私设置的选择，到为防治网暴建立一套系统的升级方案，再通过宣传引导用户使用这一功能、了解这一功能，平台的变化经过了很多年。但这依旧可能是开始，而非结束，每一个平台在运营过程中也在收集用户的反馈，等待下一次的升级和迭代。
豆瓣也对爱范儿表示：
这几个方向其实是对目前防护模式策略的一个概括，但并不是对于网络暴力治理措施的穷尽。
本文来自微信公众号 “爱范儿”（ID：ifanr），作者：冷思真，36氪经授权发布。
