網(wǎng)絡(luò)暴力發(fā)生原因復雜，平臺被認為是“第一道防線”。

澎湃新聞旗下的“湃客工坊”發(fā)布的一篇文章稱，在其梳理的311個網(wǎng)暴案例中，網(wǎng)暴事件多肇始于社交媒體平臺。

北京航空航天大學法學院副教授趙精武撰文指出，在網(wǎng)絡(luò)暴力治理活動中，最有可能并且最有能力干涉網(wǎng)絡(luò)暴力事件發(fā)生的治理主體是平臺運營者。在他看來，平臺運營者能夠更早知曉潛在的網(wǎng)絡(luò)暴力風險以及平臺內(nèi)存在的網(wǎng)絡(luò)暴力信息，并且也能夠通過封禁賬號，屏蔽、刪除信息等方式對網(wǎng)絡(luò)暴力信息采取直接攔截。

2022年4月，中央網(wǎng)信辦開展“清朗·網(wǎng)絡(luò)暴力專項治理行動”，開始介入網(wǎng)絡(luò)暴力治理。其后又出臺多部涉網(wǎng)絡(luò)暴力的部門規(guī)章、規(guī)范性文件，強調(diào)壓實平臺(網(wǎng)絡(luò)服務(wù)提供者)主體責任。

“對方關(guān)注或回復你之前，24小時內(nèi)最多只能發(fā)1條文字消息”。記者注意到，社交媒體平臺已對來自陌生人的私信進行限制。據(jù)了解，用戶還可主動打開“一鍵防護”，開啟防護的用戶不會再收到來自陌生人的消息。此前，很多網(wǎng)暴信息都來自陌生人私信。

在政策倡導下，2022年起各大平臺陸續(xù)推出一鍵式網(wǎng)暴防護功能。開啟防護的用戶還可以通過設(shè)置評論權(quán)限、添加屏蔽詞等方式來自行隔絕負面信息，保護自己。

為進一步提升網(wǎng)絡(luò)暴力信息治理效能，今年6月，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合公安部、文化和旅游部、國家廣播電視總局公布了《網(wǎng)絡(luò)暴力信息治理規(guī)定》，構(gòu)建事前事中事后網(wǎng)絡(luò)暴力信息治理機制，對平臺提出全流程治理要求。

平臺面臨治理困境

“這UP主在國外生活過，屁股歪”“我認為這個曲子作者是抄襲的，因為印象中這歌在哪兒聽過”等。在中國政法大學數(shù)據(jù)法治研究院教授張凌寒看來，一方面，這些“誅心之詞”很有可能使得被評論者陷入挫敗、失望、憤怒、抑郁之中，客觀上產(chǎn)生網(wǎng)絡(luò)暴力的傷害效果;另一方面，這些信息也有可能屬于公民正常的言論表達之范疇，難以設(shè)立統(tǒng)一明確的規(guī)范以區(qū)分合理的推測懷疑與惡意的揣測攻擊。她表示，對這類網(wǎng)絡(luò)暴力信息“治理難度最大”。

吉林大學法學院助理研究員朱笑延發(fā)現(xiàn)，數(shù)字時代的網(wǎng)絡(luò)暴力信息已經(jīng)從“傷害性不大，侮辱性極強”為主的違法信息轉(zhuǎn)向以“侮辱性不大，傷害性極強”為主的不良信息。

《網(wǎng)絡(luò)暴力信息治理規(guī)定》對網(wǎng)絡(luò)暴力信息給出了定義，既包括含有侮辱謾罵、造謠誹謗、煽動仇恨、威逼脅迫、侵犯隱私內(nèi)容的違法信息，也包括影響身心健康的指責嘲諷、貶低歧視等內(nèi)容的不良信息。

據(jù)朱笑延觀察，在強調(diào)娛樂至上、玩梗戲謔的數(shù)字化社交媒體環(huán)境下，網(wǎng)絡(luò)暴力中不良信息的比重越來越高。與網(wǎng)絡(luò)侮辱、誹謗信息不同，這些不良信息更多地表現(xiàn)為道德指責、陰陽怪氣、主觀臆測、“三俗”等情緒化色彩的表達 。

平臺能否處置好“不良信息”，目前還存有疑問?！芭瓤凸し弧钡臏y試結(jié)果表明，平臺多能攔截含有明確辱罵詞匯的極端言論，但對隱晦和諷刺性網(wǎng)暴信息攔截效果不佳。

在武漢被撞學生媽媽被網(wǎng)暴事件中，“妝容精致”“三天換兩雙香奈兒鞋”等與網(wǎng)民日常的言論表達極為接近。在朱笑延看來，社交媒體平臺無法在語言識別模型的設(shè)計中窮盡列舉所有網(wǎng)絡(luò)暴力信息，又難以在技術(shù)上區(qū)分網(wǎng)絡(luò)暴力信息與其他情緒化的言論表達。如果仍要求平臺全面審核處置海量的網(wǎng)絡(luò)暴力信息，將帶來巨大的治理壓力，或者可能傷及網(wǎng)絡(luò)空間的言論表達。

審核重點轉(zhuǎn)向重塑平臺生態(tài)

動輒群嘲“國男”“普信男”，不加區(qū)分冠以“小仙女”“撈女”，在一些社交媒體平臺已成常態(tài)。設(shè)置沖突議題、侮辱誹謗他人，成為一些自媒體的流量密碼。

朱笑延分析說，按照流量進行內(nèi)容分發(fā)的運營模式下，平臺有意無意搭建了鼓勵偏激言論生產(chǎn)、放大極端情緒擴散、助推輿論走向異化的媒介環(huán)境，這種異化“合理化”了網(wǎng)絡(luò)暴力信息并被網(wǎng)民普遍接受。

平臺難以通過技術(shù)手段完全管控大量網(wǎng)絡(luò)暴力信息。在朱笑延看來，治理就需轉(zhuǎn)變思維，將重心從網(wǎng)絡(luò)暴力信息本身轉(zhuǎn)向誘發(fā)網(wǎng)絡(luò)暴力信息生成傳播的環(huán)境機制上。“社交媒體平臺的治理責任在于將其開啟、強化的網(wǎng)絡(luò)暴力信息風險控制在合理的范圍之內(nèi)，而不是對所有的網(wǎng)絡(luò)暴力信息負責?！彼硎尽?/p>

朱笑延對平臺事前預警、事中處置、損害防治義務(wù)賦予了新內(nèi)涵：如事前識別各類誘導網(wǎng)民群體生成網(wǎng)絡(luò)暴力信息的話題營銷、賬號發(fā)言、熱搜組織、直播運營等內(nèi)容業(yè)務(wù)，精準排查歪樓引戰(zhàn)、制造對立、激化矛盾的重點賬號;事中采取多樣化治理策略，賦予理性發(fā)言和多元化的信息更多的傳播影響力，阻止極端化、情緒化的網(wǎng)絡(luò)暴力信息;事后履行被害保護義務(wù)，削弱網(wǎng)絡(luò)暴力信息的輿論宰制能力。并據(jù)此對平臺的義務(wù)履行標準全面調(diào)整。

“讓各平臺都有穩(wěn)定預期，重塑網(wǎng)絡(luò)生態(tài)，才能系統(tǒng)地減少網(wǎng)暴信息的生成、傳播和異化。” 朱笑延表示。