“截屏造假”“張冠李戴”，正在成為一種低成本的、危害巨大的制造、傳播謠言的手段，值得高度警惕。尤其當網絡與現實生活高度契合，網民看到某些無權威來源信息后無法分辨真偽，層層傳播后更將其推波助瀾。于是，一條條無中生有的信息經過不法分子“包裝”后，偽裝成“熱點新聞”傳播，形成惡劣社會影響。

近年來，上海公安機關和市委網信辦協同聯動、綜合施策，形成“工作發現—通報核實—辟謠打擊”的網絡謠言治理閉環，累計約談“自媒體”賬號運營主體近百個，進行公開曝光警示，形成震懾。

2024年是打擊整治網絡謠言專項行動年，公安部部署全國公安機關開展為期一年的專項行動。截至11月26日，上海公安機關累計查處網絡謠言案件1464起，打掉“網絡水軍”團伙47個，清理網絡謠言信息57萬余條，關停違法賬號5.5萬余個，行政處罰相關單位63家。

打擊整治謠言專項行動期間，上海網安部門主動出擊，破獲多起“網絡造謠”類案件，入選市委網信辦組織征選的“清朗浦江·2024”網絡生態治理優秀創新案例名單。

出于炫耀心理制造“向寺廟借款”的謠言

2024年7月2日，一張所謂“網易新聞”發布的主要內容為“上海財政緊張 向寺廟借款100億”的文字圖片在各大網絡平臺快速傳播，引起網民廣泛關注，一度登上熱搜。

上海警方第一時間對該信息進行核查，在確認是謠言后，會同屬地公安機關對謠言發布者依法予以處罰，并同步協調本市媒體、具有一定影響力的本土網絡大V發布事件真相，快速、精準擊碎網絡謠言，還原事實。

經查，犯罪嫌疑人孫某時常吹噓自己能夠得到“內部消息”，以營造自己“消息靈通”以及“人脈寬廣”的人設。為了給自己的人設增加可信度，其使用圖片編輯軟件，將自己捕風捉影的信息與知名平臺的報頭拼接后發給他人，試圖證實自己消息來源的可靠性。

澎湃新聞（www.usamodel.cn）記者注意到，相比以往“網絡水軍”犯罪團伙，“向寺廟借款”造謠者為個人，并且通報中未提及其有不法獲利。上海市公安局網安總隊告訴記者，不像“網絡水軍”有利可圖，“個人制造謠言的目的一般是出于炫耀心理，往往通過發布一些未經證實的‘內幕信息’彰顯自己的‘消息靈通’等”。

“從辦案角度來說，一些蹭社會熱點、有一定‘背景’、有細節描述的謠言容易引起社會關注。以‘向寺廟借款’案為例，從‘政府向寺廟借款’這樣極具話題性的角度，輔以‘財政局一位不愿透露姓名的工作人員’和嫁接‘網易’背景突出‘真實性’，并列舉了借款細節，進一步增加了謠言的‘真實性’。”網安總隊表示。

AI生成的假消息具有哪些特點

除了個人造謠者，撰寫、發布不實帖文以從中牟利的“網絡水軍”也屢打不絕，其提供的“服務”也愈發多樣化和精細化。

近期，上海警方經過縝密偵查，全鏈條搗毀一個“網絡水軍”犯罪團伙，抓獲犯罪嫌疑人11人，涉案金額達200余萬元。

澎湃新聞記者從上海市公安局獲悉，該團伙對外聲稱其業務為企業品牌形象優化，實則提供處置虛假帖文信息服務（部分文章由AI生成）。其根據客戶要求，撰寫不實文章，交給外包公司在各大互聯網平臺予以發布，意圖稀釋負面輿情、下沉負面帖文，虛增指定產品的影響力、曝光度、好評度，擾亂正常市場秩序。

記者注意到，相比傳統的“網絡水軍”，該團伙使用了AI生成文章。AI生成的假消息該如何辨別，其又呈現出哪些特點？

網安總隊告訴記者，目前AI生成的假消息的主要特征是標題“吸睛”，帖文采用“三段論”。“為吸引網民點擊，網絡水軍通常使用‘標題黨’‘震驚體’作為標題開頭，如‘駭人聽聞’‘丟人現眼’等較為夸張的形容詞。在格式上，往往是‘三段式’文章，常常會出現文不對題，詞不達意的情況。”

上海警方牽頭組建“打謠聯盟”

互聯網作為社會公眾獲取信息的重要途徑之一，網絡信息的真實、可信是構建清朗網絡空間的基礎。面對紛繁復雜的網絡信息，受眾又該如何提高辨識能力？

網安總隊介紹，對于熱點事件，不法分子往往會在大眾關心的公共事件中添加細節、歪曲事實，“所以即使有圖有視頻的信息也不能輕易相信，希望廣大網友要保持理性，通過官方信息了解情況，辨別真偽。”

對于造謠引流、惡意評論、刷量控評、有償刪帖等“網絡水軍”，上海警方發起集群戰役，全力擠壓“網絡水軍”違法犯罪活動空間。

同時，上海警方督促指導各互聯網平臺嚴格落實信息安全管理主體責任，完善謠言發現、辟謠、處置全流程工作規范，對于已認定的網絡謠言立即處置，防止反復傳播；對于傳播較廣的無權威來源的信息，主動查證，爭取把新發謠言消滅在萌芽狀態。同時，健全網絡平臺實名制度，規范內容發布的審核標準及流程，堅決整治惡意擺拍并炮制謠言等違法違規行為，從源頭降低網絡謠言傳播風險。

2024年以來，上海警方在大型互聯網企業建立網安警務室，幫助互聯網企業提升異常問題發現能力，提前化解處置各類風險隱患，為本市互聯網企業營造法治化營商環境；指導本市信息網絡安全管理協會，牽頭組建了覆蓋全市14家知名企業的“打謠聯盟”，發布主題為“拒絕網絡謠言，清朗網絡環境”的倡議書，有效形成協同治理合力，激發互聯網企業參與網絡治理的主動性。

面對五花八門的網絡信息，我們可能無法辨別真偽。但至少我們可以做到不推波助瀾，“讓子彈飛一會兒”。