近年來，恐怖組織和極端勢力越來越多地將社交媒體作為工具，傳播暴恐思想、進(jìn)行招募培訓(xùn)、相互傳遞訊息、組織恐怖活動等。一些青少年因長期受網(wǎng)絡(luò)暴恐內(nèi)容毒害，導(dǎo)致思想極化，甚至淪為恐怖活動幫兇。各國和地區(qū)越來越認(rèn)識到，社交媒體暴恐內(nèi)容已經(jīng)嚴(yán)重威脅國家安全，給國際反恐行動帶來巨大挑戰(zhàn)，必須加強治理、重拳打擊。

　　一、社交媒體暴恐內(nèi)容國際治理的現(xiàn)狀

　　目前，國際社會在社交媒體暴恐內(nèi)容治理方面沒有統(tǒng)一和權(quán)威的國際法。歐洲委員會于 2005 年發(fā)布的《防止恐怖主義公約》（European Conventionon the Prevention of Terrorism）要求締約國將“公開煽動恐怖主義行為”（public provocation to commita terrorist offence）定罪懲治。但是，聯(lián)合國及其他多邊框架下的 30 多個反恐公約，沒有一項明確要求成員國打擊網(wǎng)絡(luò)暴恐內(nèi)容。聯(lián)合國、亞非法協(xié)等多邊組織曾就網(wǎng)絡(luò)有害內(nèi)容的國際治理組織過一些討論，但沒有實質(zhì)的國際立法動作。2019 年新西蘭清真寺槍擊案后，在新西蘭總理阿德恩與法國總統(tǒng)馬克龍共同推動下，英國、加拿大等 18 個國家的政要與臉書、微軟等 8 家社交媒體平臺及科技公司的代表共同簽署《克賴斯特徹奇倡議》（ChristchurchCall），承諾加強協(xié)調(diào)合作，采取更有力措施及時刪除社交媒體上的暴恐內(nèi)容，遏制暴力極端主義的網(wǎng)上擴散。2021 年 5 月，阿德恩與馬克龍共同主持召開《克賴斯特徹奇倡議》簽署兩周年峰會，特朗普時期一直拒絕加入的美國政府宣布加入倡議。至此，倡議簽署國達(dá)到 60 個，企業(yè)達(dá)到 10 個，臉書、谷歌、推特、微軟、亞馬遜等均在其中。但總體看，參與倡議的國家和企業(yè)數(shù)量仍比較有限，倡議本身也不具法律約束力，極大制約了其在社交媒體暴恐內(nèi)容治理方面的作用。

　　對暴恐內(nèi)容的治理現(xiàn)階段仍主要依賴平臺自律和各國法律的規(guī)制。美國的《通信規(guī)范法》（Communication Decency Act）第 230 節(jié)使社交媒體得以對用戶發(fā)布的內(nèi)容豁免民事責(zé)任，同時將網(wǎng)絡(luò)內(nèi)容的監(jiān)管和處置權(quán)幾乎完全交予社交媒體。社交媒體在新用戶注冊時，會要求用戶接受統(tǒng)一適用的“社區(qū)守則”，絕大多數(shù)“社區(qū)守則”禁止用戶在平臺上散布恐怖主義或仇恨言論。平臺通過網(wǎng)絡(luò)內(nèi)容審核機制，依據(jù)“社區(qū)守則”對暴恐內(nèi)容采取屏蔽、刪除等處理措施，甚至直接封禁發(fā)布此類內(nèi)容的用戶賬號，以阻止其傳播擴散。一些大的社交媒體也加強了在處置暴恐內(nèi)容方面的合作。例如，臉書、推特、谷歌和微軟于 2016 年共同發(fā)起成立“全球互聯(lián)網(wǎng)反恐論壇”，建立了一個甄別暴恐內(nèi)容的哈希共享數(shù)據(jù)庫，并承諾與加入該論壇的各國企業(yè)分享該技術(shù)。加入論壇的任何一家企業(yè)如發(fā)現(xiàn)相關(guān)暴恐內(nèi)容，首先自己會刪除，然后還會將該內(nèi)容的哈希值放入數(shù)據(jù)庫，其他成員公司可以查看這個哈希值，從自己的平臺查找和刪除相同的內(nèi)容，這有利于提升企業(yè)間的協(xié)作，在更廣范圍遏制暴恐內(nèi)容的傳播。

　　隨著社交媒體上暴恐內(nèi)容的泛濫，各國也加強了打擊力度。一些國家將在社交媒體傳播暴恐內(nèi)容的行為規(guī)定為網(wǎng)絡(luò)犯罪。歐洲傳統(tǒng)上將言論和表達(dá)自由作為基本人權(quán)，對網(wǎng)絡(luò)內(nèi)容的監(jiān)管態(tài)度寬松，主要依靠社交媒體通過自律處理，政府很少介入。但近年來網(wǎng)絡(luò)暴恐內(nèi)容泛濫使政府的監(jiān)管變得更加積極主動。例如，德國聯(lián)邦議會于 2017 年 6 月通過了《改進(jìn)社交網(wǎng)絡(luò)中的法律執(zhí)行的法案》（NetzDG Law），明確將建立恐怖組織、煽動族群仇恨的網(wǎng)絡(luò)言論規(guī)定為“違法內(nèi)容”，要求平臺對其進(jìn)行通報并及時刪除，否則將追究法律責(zé)任。法國國民議會于 2020 年 5 月通過《打擊網(wǎng)絡(luò)仇恨言論法》（Online Hate SpeechLaw），將包含煽動恐怖主義行為、為恐怖主義罪辯護(hù)、鼓動仇恨的內(nèi)容認(rèn)定為非法，強制平臺在 24 小時內(nèi)刪除，否則就承擔(dān)法律責(zé)任。歐盟于 2021 年通過的《防止恐怖主義內(nèi)容在線傳播條例》（Terrorist ContentOnline：Council Agrees on Regulation）（將于 2022 年5 月生效）規(guī)定，歐盟任一成員國均有權(quán)向在歐盟境內(nèi)運營的社交媒體發(fā)出指令，命令其在一小時內(nèi)刪除相關(guān)恐怖主義內(nèi)容，或確保所有歐盟成員國無法訪問該內(nèi)容，否則將對其處以最高可達(dá)全年營業(yè)額 4%的罰款。英國 2019 年發(fā)布《在線危害白皮書》（OnlineHarms White Paper），提議立法強化社交媒體自我監(jiān)管，以保護(hù)用戶免受恐怖主義等有害內(nèi)容影響。根據(jù)媒體報道，英國議會正擬定《在線危害法案》OnlineHarms Bill），預(yù)計于 2021 年內(nèi)出臺。

　　歐洲之外的其他西方國家在這方面也有很多動作。澳大利亞政府于 2019 年通過刑法修正案，強化打擊網(wǎng)絡(luò)暴恐內(nèi)容，對社交媒體克以嚴(yán)格的內(nèi)容監(jiān)管責(zé)任。新西蘭、馬來西亞、新加坡等國也都紛紛通過立法等手段，加強對社交媒體平臺暴恐等有害內(nèi)容的監(jiān)管。加拿大政府正在推進(jìn)打擊恐怖主義等有害內(nèi)容的立法。

　　二、社交媒體暴恐內(nèi)容國際治理的難點

　　一是暴恐內(nèi)容難界定。國際層面對暴力極端主義和恐怖主義的定義缺乏普遍共識。2001 年提交聯(lián)大的《關(guān)于國際恐怖主義的全面公約》（ComprehensiveConvention on International Terrorism）草案對恐怖主義進(jìn)行了定義，但也正因各國對該定義存在分歧，公約談判進(jìn)程陷入停滯。目前，對暴恐內(nèi)容的界定很大程度上由各個成員國自主決定，其中難免隱含政治性成分，且受到各國不同文化、風(fēng)俗、價值觀深度影響。從社交媒體角度而言，一些暴恐內(nèi)容處于“社區(qū)守則”的灰色地帶，作出處理決定常常很困難。例如，社交媒體上不少支持恐怖主義的言論多含有政治宣示、自我表達(dá)等成分，在美國受到憲法第一修正案保護(hù)，社交媒體采取刪除等措施十分謹(jǐn)慎。

　　二是不同管網(wǎng)治網(wǎng)理念難協(xié)調(diào)。不同國家對網(wǎng)絡(luò)內(nèi)容的治理理念和模式存在差異。政府管理互聯(lián)網(wǎng)上與暴恐相關(guān)內(nèi)容的權(quán)力邊界何在，一直都存在爭議。中國和俄羅斯等國家強調(diào)依法管理互聯(lián)網(wǎng)的主權(quán)權(quán)力，嚴(yán)格規(guī)管網(wǎng)絡(luò)有害內(nèi)容，希望營造安全有序的網(wǎng)絡(luò)空間。而美國等西方國家則強調(diào)所謂“網(wǎng)絡(luò)言論自由”，反對政府過度介入網(wǎng)絡(luò)內(nèi)容監(jiān)管，主張“無為而治”，通過平臺自律處理網(wǎng)絡(luò)有害內(nèi)容。在這一背景下，當(dāng)一個國家要求刪除它認(rèn)為的暴恐內(nèi)容，但這些內(nèi)容托管在另一個管網(wǎng)治網(wǎng)理念完全不同的國家的服務(wù)器上時，這種沖突常會在個案中被擺上桌面。

　　三是平衡內(nèi)容審核與保障人權(quán)難。社交媒體刪除或屏蔽網(wǎng)絡(luò)內(nèi)容主要與用戶的言論和表達(dá)自由相關(guān)。根據(jù)《世界人權(quán)宣言》（Universal Declarationof Human Rights）和《公民和政治權(quán)利國際公約》（International Covenant on Civil and PoliticalRights），人人享有言論和表達(dá)自由，國家應(yīng)當(dāng)保護(hù)此項人權(quán)?！稓W洲人權(quán)公約》（European Conventionon Human Rights）等其他區(qū)域人權(quán)條約也有類似條款。這些人權(quán)條約的締約國承擔(dān)保護(hù)言論與表達(dá)自由的國際法義務(wù)，具體到社交媒體內(nèi)容治理，則是通過立法監(jiān)督本國社交媒體在審核用戶內(nèi)容時不侵犯言論與表達(dá)自由。

　　社交媒體平臺也有“尊重人權(quán)”的責(zé)任。根據(jù)聯(lián)合國人權(quán)理事會的《工商企業(yè)與人權(quán)：實施聯(lián)合國“保護(hù)、尊重和補救”框架指導(dǎo)原則》（Guiding Principles on Business and Human Rights:Implementing the United Nations“Protect, Respect andRemedy”Framework），企業(yè)應(yīng)切實尊重人權(quán)，將其內(nèi)化為戰(zhàn)略、愿景或文化，綜合評估其活動對人權(quán)的潛在影響，在已造成負(fù)面影響后積極補救。行使言論和表達(dá)自由也要受到國際人權(quán)法的一些限制。例如，出于保障國家安全或公共秩序的需要，或在宣布了“緊急狀態(tài)”情況下，國家可以對言論與表達(dá)自由進(jìn)行合法限制。煽動民族、種族或宗教仇恨的言論也不受言論與表達(dá)自由的保護(hù)。在社交媒體煽動恐怖主義以號召更多人支持暴恐行動，是暴力極端勢力和恐怖組織常用的戰(zhàn)略。而禁止煽動恐怖主義是保護(hù)國家安全和公共秩序的應(yīng)有之義，構(gòu)成上述限制言論與表達(dá)自由的合法理由。

　　更突出的挑戰(zhàn)在于，很多網(wǎng)絡(luò)內(nèi)容游走在“煽動恐怖主義”的邊緣，國家既要審慎處理這些言論，又要確保相關(guān)的措施是必要和相稱的。聯(lián)合國《互聯(lián)網(wǎng)被用于恐怖主義》報告（The Use of the Internetfor Terrorist Purposes）也指出，在評估對網(wǎng)絡(luò)內(nèi)容的干預(yù)辦法和水平時，政府需考慮有關(guān)言論自由權(quán)的憲法或其他保障等多種因素。此外，對暴恐內(nèi)容的認(rèn)定往往涉及法律、倫理、價值觀等層面，一些社交媒體用來審核內(nèi)容的網(wǎng)絡(luò)過濾、內(nèi)容 ID、算法等技術(shù)可能導(dǎo)致過度刪除或算法歧視等問題，存在引發(fā)人權(quán)和倫理問題的風(fēng)險。

　　四是國際合作難?；ヂ?lián)網(wǎng)的全球聯(lián)通使社交媒體內(nèi)容治理天然就是跨國問題，但完善的國際合作機制卻尚未建立。實體上，各國認(rèn)定網(wǎng)絡(luò)暴恐內(nèi)容的標(biāo)準(zhǔn)存在差異。經(jīng)常出現(xiàn)的情況是，同一個涉嫌暴恐的內(nèi)容在一國可能違法并會被平臺移除，但在另一國可能不違法。為調(diào)查網(wǎng)絡(luò)暴恐內(nèi)容，一國經(jīng)常需要向另一國提出司法協(xié)助請求，調(diào)取某些重要的數(shù)據(jù)，但如果相關(guān)內(nèi)容在被請求國不構(gòu)成暴恐內(nèi)容，就會被拒絕。程序上，國家對網(wǎng)絡(luò)暴恐內(nèi)容的管轄權(quán)需要協(xié)調(diào)，根據(jù)屬地管轄原則，一國只對本國境內(nèi)的網(wǎng)絡(luò)有害內(nèi)容有管轄權(quán)，可以要求平臺采取屏蔽、刪除等活動。2019年，歐盟法院在皮斯?jié)煽耍≒iesczek）訴臉書一案中開創(chuàng)性地提出了歐盟對網(wǎng)絡(luò)內(nèi)容的域外管轄權(quán)。根據(jù)這個判決，社交媒體的內(nèi)容如果被歐盟或其任一成員國認(rèn)定為非法，則社交媒體不僅應(yīng)在歐盟境內(nèi)刪除非法內(nèi)容，還應(yīng)在全球范圍內(nèi)刪除。歐盟法院的這一判決在國際上引起了很多非議，側(cè)面反映了各國對“全球刪帖”仍持消極態(tài)度。對域外的網(wǎng)絡(luò)有害內(nèi)容如何處理，仍將是各國長期頭疼的難題。社交媒體之間的合作也有局限性，類似“全球互聯(lián)網(wǎng)反恐論壇”的信息共享與合作機制只能對各家企業(yè)存在共識的有害內(nèi)容發(fā)揮作用，但不同社交媒體認(rèn)定有害內(nèi)容的標(biāo)準(zhǔn)常常并不一致。

　　三、社交媒體暴恐內(nèi)容國際治理的前景展望

　　雖然對社交媒體暴恐內(nèi)容的國際治理面臨各種挑戰(zhàn)，但各國的合作共識正逐步凝聚。2017 年的 G7峰會呼吁社交媒體平臺加大合作力度，共同治理網(wǎng)絡(luò)暴恐內(nèi)容，提升平臺自動檢測此類內(nèi)容的能力。2019 年的 G20 峰會發(fā)布《關(guān)于防止利用互聯(lián)網(wǎng)從事恐怖主義和暴力極端主義活動的聲明》（G20 OsakaLeaders' Statement on Preventing Exploitation of theInternet for Terrorism and Violent Extremism Conduciveto Terrorism），強調(diào)各國政府有責(zé)任加強與網(wǎng)絡(luò)平臺的合作，防止恐怖主義勢力利用網(wǎng)絡(luò)進(jìn)行恐怖活動。2005 年 7 月 倫敦恐襲后，聯(lián)合國安理會通過第 1642號決議，呼吁各國預(yù)防和禁止“煽動恐怖主義”的行為。

　　打擊網(wǎng)絡(luò)暴恐內(nèi)容的國際法雖然發(fā)展緩慢，但也并非全無建樹。歐盟正計劃就打擊仇恨言論立法，將有助于進(jìn)一步明確仇恨言論和暴恐言論的關(guān)聯(lián)與區(qū)別?！犊速囁固貜仄娉h》的簽署國逐年增加，有成為某種程度的國際標(biāo)準(zhǔn)的潛力。正如外交部涉外安全事務(wù)專員程國平在《全球網(wǎng)絡(luò)反恐格局中的中國力量》一文中所言，在應(yīng)對網(wǎng)絡(luò)恐怖主義問題上，沒有哪個國家能夠獨善其身，也沒有哪個政府或組織能夠單獨應(yīng)對，需要在全球、區(qū)域和國家各層面采取協(xié)調(diào)一致的行動。由于各國逐漸認(rèn)識到打擊網(wǎng)絡(luò)暴恐內(nèi)容的緊迫性，在該問題上也有較高的政治共識，未來預(yù)計將在不同多邊平臺圍繞暴恐內(nèi)容的認(rèn)定標(biāo)準(zhǔn)與國際合作等關(guān)鍵問題展開討論，甚至不排除開啟一個國際談判進(jìn)程。

　　隨著互聯(lián)網(wǎng)領(lǐng)域多利益攸關(guān)方的治理模式獲得更多認(rèn)可，社交媒體暴恐內(nèi)容的國際治理未來也將日益呈現(xiàn)國家、企業(yè)、技術(shù)社群等不同主體多方共治的特點。國家要承擔(dān)主導(dǎo)角色，推進(jìn)相關(guān)政策與立法的出臺和完善，積極參與網(wǎng)絡(luò)有害內(nèi)容治理的國際討論，推動形成打擊網(wǎng)絡(luò)有害內(nèi)容的國際規(guī)則。平臺企業(yè)要提升內(nèi)容審核技術(shù)和能力，更迅速、精準(zhǔn)地識別和處理暴恐內(nèi)容，加強與其他平臺的信息共享，針對打擊暴恐內(nèi)容的需要改進(jìn)內(nèi)容政策，主動參與行業(yè)標(biāo)準(zhǔn)和規(guī)則的制定。只有各方共同努力，才能在社交媒體上徹底清除暴恐內(nèi)容，打贏網(wǎng)絡(luò)反恐的一場硬仗。