編者按：2022年5月在美國(guó)布法羅市發(fā)生的槍擊案震驚了全美，槍手佩頓·金德倫通過網(wǎng)絡(luò)平臺(tái)全程直播其犯罪過程的行為也引發(fā)了大量討論。金德倫更是在網(wǎng)絡(luò)平臺(tái)上發(fā)表了犯罪宣言，其中大肆傳播白人至上主義以及種族置換陰謀論。對(duì)此，許多人表示應(yīng)該加強(qiáng)平臺(tái)的審查力度，杜絕此類危險(xiǎn)言論的傳播。然而，得克薩斯州的一項(xiàng)新法律則將限制社交媒體公司審查極端主義內(nèi)容、暴力圖像以及系統(tǒng)性虛假信息的努力。這一法案規(guī)定社交媒體公司不能“根據(jù)用戶或他人的觀點(diǎn)審查用戶、用戶的表達(dá)或用戶接收他人表達(dá)的能力”，并要求大型社交媒體平臺(tái)全面公布其內(nèi)容審查政策。這一法律很可能為散播極端主義思想的群體提供庇護(hù)，并且通過分析平臺(tái)的審查政策來規(guī)避監(jiān)管。可以預(yù)見的是，這一法律帶來的影響將遠(yuǎn)遠(yuǎn)超過得州范圍，并引發(fā)新一輪的審查問題。盡管目前最高法院叫停了這一法案，但共和黨將不會(huì)停止他們干預(yù)審查的努力。本文原載于《外交政策》，作者Daveed Gartenstein-Ross和Varsha Koduvayur。

當(dāng)?shù)貢r(shí)間5月15日，佩頓·金德倫在紐約布法羅的一家超市殘忍地殺害了10名黑人受害者，并在Twitch平臺(tái)上直播了槍擊事件。Twitch平臺(tái)迅速做出回應(yīng)，在兩分鐘內(nèi)將這段可怕的視頻撤下。但此舉未能阻止該視頻在臉書、推特和其他地方被分享傳播。對(duì)于金德倫而言，社交媒體的曝光是其白人至上主義種族戰(zhàn)爭(zhēng)的核心。他在自己的宣言中指出，對(duì)襲擊進(jìn)行直播是為了“增加報(bào)道，傳播信仰”。許多人指出，金德倫傳播仇恨犯罪的行為表明，盡管社交媒體平臺(tái)上的內(nèi)容篩查經(jīng)常受到誹謗，且并不完美，卻有著重要的社會(huì)效益。

但美國(guó)得州的一項(xiàng)新法律將對(duì)社交媒體公司遏制極端主義內(nèi)容、暴力圖像和系統(tǒng)性虛假信息的初期努力施加重大限制。這一舉措可能會(huì)產(chǎn)生全球影響。得州這項(xiàng)限制內(nèi)容審核的新法律將產(chǎn)生遠(yuǎn)超地區(qū)性的連鎖反應(yīng)。現(xiàn)在，仇恨言論、虛假信息和支持恐怖主義可能在得克薩斯州受到保護(hù)。這些信息可以從得州通過無國(guó)界的互聯(lián)網(wǎng)迅速傳播到其他州和國(guó)家。

當(dāng)?shù)貢r(shí)間2022年5月16日，美國(guó)紐約州，聯(lián)邦調(diào)查局調(diào)查員進(jìn)入案發(fā)超市。美國(guó)紐約州布法羅市一家超市當(dāng)?shù)貢r(shí)間14日發(fā)生嚴(yán)重槍擊事件。這起槍擊造成10人死亡、3人受傷。10名遇害者全都是非洲裔。

得州反對(duì)“社交媒體平臺(tái)上的錯(cuò)誤審查”法案的核心，是一項(xiàng)名為“禁止審查”的條款，其中規(guī)定社交媒體公司不能“根據(jù)用戶或他人的觀點(diǎn)審查用戶、用戶的表達(dá)或用戶接收他人表達(dá)的能力”。該法案還規(guī)定，活躍用戶超過5000萬的社交媒體平臺(tái)必須全面公布其內(nèi)容審查政策，并允許用戶就審查決定提起訴訟。該法律將在上訴法院于5月11日解除禁令后生效。

由于該法律與美國(guó)聯(lián)邦法典存在復(fù)雜的交集，其直接影響尚不明確。盡管如此，得州的立法者已經(jīng)改變了內(nèi)容審查的格局，如果他們的法案完全生效，這將會(huì)成為白人至上權(quán)力集團(tuán)、宗教極端分子和散播虛假信息者的福音。更重要的是，美國(guó)其他十幾個(gè)州的立法者已經(jīng)提出法案，打擊他們所譴責(zé)的社交媒體審查制度。因此，得州的行為可能代表著一個(gè)更大浪潮的來臨。

推動(dòng)反審查法的根源在于合理的擔(dān)憂。保守派認(rèn)為科技公司對(duì)他們的世界觀懷有敵意，同時(shí)大量審查保守派觀點(diǎn)。例如在2020年大選之前限制了關(guān)于亨特·拜登筆記本電腦的故事的傳播（現(xiàn)在看來，其背后存在事實(shí)根據(jù)）；以及推特和臉書針對(duì)美國(guó)前總統(tǒng)唐納德·特朗普的賬號(hào)封禁（盡管世界上其他極具爭(zhēng)議的領(lǐng)導(dǎo)人仍然可以自由發(fā)帖）。事實(shí)上，科技公司在內(nèi)容審查方面并非總能劃清正確的界限。但這些公司也通過實(shí)施及時(shí)更新的、定制化的政策來應(yīng)對(duì)“對(duì)于其平臺(tái)的惡意使用”，從而消除多數(shù)風(fēng)險(xiǎn)。

例如，在2014年，推特、臉書和YouTube是ISIS進(jìn)行宣傳和招募激進(jìn)追隨者戰(zhàn)略的關(guān)鍵。該組織及其支持者運(yùn)營(yíng)著46000多個(gè)推特賬戶，在臉書上發(fā)布了數(shù)百萬條內(nèi)容，并運(yùn)營(yíng)著YouTube頻道，所有這些都有助于該組織從120個(gè)國(guó)家招募約42000名外國(guó)戰(zhàn)斗人員前往敘利亞和伊拉克作戰(zhàn)。盡管這些公司最初行動(dòng)緩慢，但在2015年8月至2017年12月期間，推特因恐怖主義內(nèi)容而關(guān)閉了120多萬個(gè)賬戶。臉書緊隨其后，僅在2018年前三個(gè)季度就刪除了1430萬“與（ISIS）、基地組織及其附屬機(jī)構(gòu)相關(guān)的內(nèi)容”。

這種內(nèi)容審核在減少“ISIS的追隨者人數(shù)”以及“與ISIS有關(guān)的內(nèi)容數(shù)量”方面取得了顯著成功。即使被關(guān)閉的賬戶以類似的名字再次出現(xiàn)，它們的追隨者也會(huì)減少。考慮到社交媒體在其宣傳和招募人員方面的重要地位，這對(duì)恐怖主義網(wǎng)絡(luò)造成了重大打擊。

科技公司已經(jīng)將這些政策應(yīng)用于其他問題，例如白人至上主義恐怖主義的興起。2019年，金德倫口中的靈感來源——槍手布倫頓·塔蘭特（Brenton Tarrant）在新西蘭克賴斯特徹奇的兩座清真寺屠殺了51人，并在臉書上直播了槍擊事件。在24小時(shí)內(nèi)，臉書刪除了共計(jì)150萬條槍擊視頻。

在槍擊案發(fā)生幾個(gè)月后，臉書宣布了針對(duì)白人至上主義恐怖主義的新政策。該公司表示，這些措施包括“禁止在臉書和Instagram上贊揚(yáng)、支持和代表白人民族主義和白人分離主義的內(nèi)容”，以及對(duì)直播政策的調(diào)整。該公司表示，它正在進(jìn)行創(chuàng)新，以應(yīng)對(duì)極端分子利用平臺(tái)上的流媒體視頻來傳播暴力或仇恨內(nèi)容的威脅。

Meta公司遭受了一系列批評(píng)，其中包括對(duì)威脅的反應(yīng)遲緩，僅僅制定了臨時(shí)性政策，并試圖通過讓用戶通過相互舉報(bào)的方式，來草率地進(jìn)行內(nèi)容審核。但該公司認(rèn)為，靈活應(yīng)對(duì)的做法比一刀切的政策更有效。例如，為了應(yīng)對(duì)有關(guān)新冠疫情的虛假信息，科技公司迅速建立了信息中心、策劃新聞提要，并將用戶進(jìn)行重新定向，避免其訪問可疑來源。Meta公司在臉書、Instagram和WhatsApp上推出了彈出窗口和信息中心，刪除了可能造成人身傷害的錯(cuò)誤信息。幾乎可以肯定的是，這些公司的政策能夠挽救生命，并保護(hù)了用戶的福祉。據(jù)悉，公司大量刪除了具有危險(xiǎn)性的新冠治療方法，例如飲用漂白劑和食用膠體銀等等。

Meta公司

通過嚴(yán)格限制社交媒體平臺(tái)在內(nèi)容審查方面的靈活性，得州將限制社交媒體公司應(yīng)對(duì)各種新舊挑戰(zhàn)的能力，這一做法的影響將遠(yuǎn)遠(yuǎn)超出該州的邊界。迫在眉睫的訴訟威脅將對(duì)公司的內(nèi)容審核工作產(chǎn)生寒蟬效應(yīng)，并阻礙進(jìn)一步的創(chuàng)新。通過要求公司向所有人開放他們的內(nèi)容審查手冊(cè)，該法律將會(huì)給國(guó)內(nèi)外的不良行為者提供一本指導(dǎo)手冊(cè)，讓他們利用宣傳和其他計(jì)劃來規(guī)避平臺(tái)的防御。

更重要的是，盡管得州的法律表面上側(cè)重于政治觀點(diǎn)，但這將會(huì)引發(fā)歧義，從而嚴(yán)重限制平臺(tái)監(jiān)管有害內(nèi)容的能力。因?yàn)閹缀跛行问降臉O端主義、仇恨和虛假信息都可以被說成是一種觀點(diǎn)。例如，對(duì)支持ISIS的內(nèi)容進(jìn)行刪除是否構(gòu)成基于觀點(diǎn)的審查？ISIS是一個(gè)被禁止的恐怖組織，因此，新法律將允許刪除該組織的帖子。但在大多數(shù)情況下，僅僅表達(dá)對(duì)ISIS的支持或?qū)τ谄渌枷氲闹С质呛戏ǖ摹樵摻M織招兵買馬或籌款可能是非法的，但在推特上宣布對(duì)于ISIS的熱愛卻是被允許的。

事實(shí)上，鑒于美國(guó)針對(duì)仇恨言論和煽動(dòng)性內(nèi)容的法律相對(duì)薄弱，只要非法活動(dòng)沒有發(fā)生，聰明的律師就可能把任何暴力極端主義行為都解釋為一種觀點(diǎn)。如果是這樣的話，大量的暴力極端主義材料、仇恨言論和歧視性言論都可以在新法律下受到保護(hù)、免受審查。

得州的法律似乎包括了旨在解決問題的條款，但實(shí)際上卻并未真正解決問題。該法的一個(gè)條款允許刪除“直接煽動(dòng)犯罪活動(dòng)，或包含因種族、膚色、殘疾、宗教或其他因素而針對(duì)個(gè)人或群體的特定暴力威脅”的材料。但這一規(guī)定過于狹窄，無法對(duì)大多數(shù)類型的仇恨言論進(jìn)行審查。另一方面，這些仇恨言論通常不包含直接、明確或具體的暴力威脅。

最終，得州的法律將阻礙社交媒體公司對(duì)惡意行為者不斷演變的策略做出應(yīng)對(duì)。該法律的漏洞實(shí)在過于巨大，以至于它們很容易被利用。確實(shí)，公司的內(nèi)容審核手冊(cè)并不完美，但公司們正在不斷完善審核制度。對(duì)社交媒體內(nèi)容審核的過度限制，會(huì)讓那些通過言語（乃至實(shí)際行動(dòng)）傷害他人的群體占據(jù)優(yōu)勢(shì)。

當(dāng)?shù)貢r(shí)間2022年5月31日，美國(guó)華盛頓特區(qū)，美最高法暫時(shí)中止得州限制社交媒體審核內(nèi)容法案

即使美國(guó)其他州或其他國(guó)家的內(nèi)容審核制度不那么寬松，但在得州發(fā)布的內(nèi)容也不會(huì)僅僅留在該州。例如，得州的某個(gè)人在網(wǎng)上為白人至上主義組織 Atomwaffen Division（該組織不是聯(lián)邦禁止的組織，因此在得州將受到保護(hù)免于審查）進(jìn)行在線招聘，即使加州允許更嚴(yán)格的內(nèi)容審查，該組織也可能會(huì)在加州引發(fā)致命襲擊。

共和黨對(duì)于公司看似不一致的審核政策感到沮喪是可以理解的，公司的審查行為也值得大量討論和辯論。但是，得州正在為解決這個(gè)問題做出倉(cāng)促的嘗試，這一做法將帶來廣泛且嚴(yán)重的后果。這最終將成為各種極端分子的福音，允許惡意行為者像洪水那樣，去沖破幾乎無法控制他們的閘門。