【編者按】

美國外交關系委員會（CFR）主辦的國際智庫理事會（COCs）年會5月7至9日在紐約舉行，上海國際問題研究院作為理事會創始成員，是本次年會唯一線下參會的中方智庫。上海國際問題研究院院長陳東曉及該院多位學者出席年會并發言。此次會議討論的話題涉及數字時代的技術治理、俄烏沖突、可持續發展目標、朝核問題等領域。澎湃新聞（www.usamodel.cn）獲授權刊發上海國際問題研究院部分學者在會上的發言。

伴隨著ChatGPT的走紅，基于大語言模型（LLM）、高算力資源的人工智能生成內容產品（AIGC）如雨后春筍般涌現，標志著人工智能的應用和治理進入了一個新的階段。在這一階段中，人工智能產品的采用率迅速提升、應用場景極度豐富、安全風險愈發多樣和隱蔽。這既為產業發展提供了機遇，也為治理帶來了挑戰。

一、LLM與AIGC的發展態勢

自ChatGPT發布以來，這個由Open AI發布的人工智能產品因其廣泛適用性和強大功能性，僅用了兩個月就吸引了1億用戶，而根據Sensor Tower的數據，Facebook用了4年半才獲得了同等的用戶量。一方面，激增的用戶數據顯示出了人們對以ChatGPT為代表的大語言模型抱有熱情；但另一方面，從各平臺的反饋來看，人們對AIGC時代的技術和影響喜憂參半，主要有以下幾個方面：

首先，從宏觀上看，AIGC代表著人工智能技術發展方向，但也帶來了更大的不確定性。在人工智能領域，建設通用型人工智能（AGI）一直是研究人員追求的最高目標。雖然目前的AIGC技術尚未帶領我們進入AGI時代，但其LLM框架已初步展現出跨模態潛力。這意味著它能夠跨越不同的形式產生探索性和組合性創造力，這是實現AGI的關鍵能力之一。

盡管當前的AIGC無法完全深度模擬人類智能，但其技術已經呈現出明顯的“類人性”特征，能夠識別物體、理解語言等。這種“類人性”特征為AIGC產品的應用帶來了廣泛的可能性，人們期待這些產品能夠為生活和工作帶來幫助，例如醫療診斷、智能交通、自然語言處理等領域。而伴隨著人工智能技術的進一步發展，人工智能技術的不確定性也在增強，人們擔心機器是否會超越人類智能并具備自我意識？機器是否會替代人類的工作，從而導致大量的失業？機器是否會失控，導致無法預測的后果？

其次，從現實中看，AIGC賦能多種應用場景，但也帶來了新的安全風險。LLM架構下的AIGC能夠進行文本的生成、處理，資料的檢索、整合。匹配了資訊行業、教育行業、金融行業等多重需求，但也引發了政府和社會對于AIGC的不良使用和未來發展的憂慮：首先，人工智能的生成內容是否具有版權、版權歸誰所有尚具有爭議。一方面，具有創造力的AIGC很難再被視為一套單純的工具；另一方面，AIGC的創作基于大量的數據喂養，很難論證其原創性。就當前而言，已經有國家提出所有人工智能生成內容均不具有版權保護的資質。

而在內容治理領域，AIGC產品可以輕松進行惡意程序的編寫，或者進行虛假信息的杜撰，這種大規模、低成本的行為將為本就復雜的網絡內容治理增添新的困難；此外，在意識形態領域，AIGC則可以進行大規模、低成本的意識形態宣傳，長期對民眾進行理念灌輸和思想滲透。ChatGPT會選擇性回答某些敏感性問題，對用戶做出不平衡的引導。長此以往，ChatGPT的政治立場和意識形態將會潛移默化地影響其數以億計的用戶群體，成為西方價值觀和意識形態最為龐大的宣傳機器。這給我國當前的意識形態和話語體系帶來了巨大的隱憂。

再次，AIGC存在更加難以察覺的價值觀導向。對于AIGC時代的治理新挑戰和ChatGPT等產品可能存在的安全風險，企業并非沒有預料，也做了一些初步的準備。比如說在ChatGPT內被置入了一個“不良內容過濾器”（Undesirable Content Filter）。這一過濾器結合使用機器學習和自然語言處理技術，避免將欺詐信息、仇恨言論和病毒性網站鏈接呈現給用戶。這一過濾器確實發揮了一定的作用，布魯金斯學會研究員Darrell M. West通過對谷歌新出品的生成式人工智能“Bard”和ChatGPT的對比研究后提出，ChatGPT在面對政治和道德敏感信息時表現更為客觀，它會強調自己只是人工智能語言模型，并就相關事實進行正反兩方面的梳理，不會直接提出判斷性結論。

但也有文章分析后指出，ChatGPT傳達的引導性敏感信息更加隱晦，在政策立場上傾向于環保主義和左翼自由主義，這實際上與Open AI研發團隊的政治立場相似。3月28日，Open AI的聯合創始人馬斯克與其他1000余位人工智能專家簽署聯名信，提出由于LLM和AIGC的發展影響超出預期，應該暫停訓練比GPT-4更強大的人工智能，把重點轉移到安全和倫理治理方向上。

最后，政府開始加強對AIGC的治理：美國國家標準技術研究所幾乎在ChatGPT問世的同時也公布了首份《人工智能風險管理框架》（AI-RMF 1.0）。但在相關學者看來，這一框架還不足以有效治理人工智能技術帶來的數據隱私和內容審核問題。美國國會應建立一個永久性的框架，提供消費者保護，建立公眾對人工智能系統的信任，并為其產品路線圖創造所需的監管規則。因此美國商務部近期也開始就如何制定法規以保證AIGC的安全性、減少潛在危害向公眾征求意見，有望在未來出臺更加專業化的法規。

此外，4月11日，我國也發布了《生成式人工智能服務管理辦法（征求意見稿）》對人工智能生成內容的制作、審核、管理、披露等程序進行了明確，顯示出我國加強網絡內容治理、應對技術挑戰的決心，但同時也缺乏對于LLM和AIGC更加綜合性和專業化的治理措施；意大利個人數據保護局也于3月31日宣布就涉嫌違反歐盟通用數據保護條例（GDPR）的行為對ChatGPT展開調查，并命令Open AI停止處理意大利的本地數據，直到該公司在4月30日和5月15日之前分別完成一系列合規清單，包括：信息透明化、增加年齡限制、刪除虛假信息、通過廣播電視和網絡宣傳等方式對意大利公眾開展規則宣傳等；意大利的做法也引發了歐洲其他國家的關注，愛爾蘭數據保護委員會、法國數據隱私監管機構CNIL也開始就數據隱私和虛假信息等問題對AIGC產品展開調查，以保證其滿足GDPR的數據保護要求。

二、創新治理思路以迎接AIGC的發展機遇

LLM和AIGC的發展雖然伴隨著風險和憂慮，但也蘊含著賦能產業發展的機遇。要在危中尋機，通過治理思路的調整和治理手段的創新化危為機。具體可以從以下兩方面著手：

第一，以敏捷思維構建新型治理生態。LLM和AIGC相對于前一階段的AI而言，技術更為復雜、倫理問題更加突出、風險更為隱蔽。傳統的“事后治理”思路不僅難以識別AIGC蘊含在模型和框架內的安全紕漏，而且難以匹配倫理治理的需求，甚至以往的依據關鍵詞識別的網絡內容監測機制也會被AIGC基于強化學習而生成的“差異化和定制化”的內容輕而易舉地規避。在此情況下，政府需要及時轉變治理思路、建立新型有效的敏捷治理機制，將科技企業等AIGC的設計方和LLM的開發方深度納入到治理程序中，并通過政企之間敏捷的咨詢-反饋互動及時獲取企業的研發動態和市場情報，設計前瞻性的治理框架。比如說，如果美國政府能夠以敏捷思維與Open AI開展合作，就能夠進一步了解ChatGPT的不良內容過濾器是如何發揮作用的，政府可以從國家和社會安全的宏觀角度給予企業改進內容過濾裝置的實時指導，也能夠從政策和立法方面對技術無法預防的漏洞進行補充，更有針對性地進行AIGC的網絡內容治理。

第二，加強數據治理，提升數據質量。目前，ChatGPT等AIGC產品依舊是以模型為中心的人工智能，即更加側重于神經網絡模型的設計和優化。但是，數據的數量和質量對于AIGC未來發展也是重要因素。從Open AI的第一代GPT模型——2018年發布的GPT-1到ChatGPT所配置的GPT-3，模型的參數量提升了約1700倍，預訓練數據量則提升了約9000倍，并由LLM推動了半監督學習向無監督學習的轉變。

這種基于模型的人工智能產品（Model-Centric AI）可以更加靈活和高效地產生回應，但卻產生了兩方面的問題：第一是大模型必須匹配大數據，而在海量的數據庫中則存在著數據良莠不齊的現象，并且有可能受到數據投毒和有偏見的數據影響，增加了治理的困難度；第二是在特定領域中，本身就無法產生大量數據來進行模型訓練。針對這種情況，吳恩達提出了“以數據為中心的人工智能”（Data-Centric AI）。這種人工智能的訓練方式則更加關注優質數據，而非大數據，目前更被擁有專業數據的醫療行業所青睞，但也蘊含著未來人工智能的發展機遇。因此，對于在LLM等大模型領域喪失先機的我國而言，如果能夠更加關注數據治理，提升數據質量，設計一套規范來明確專業數據的采集和訓練，率先進入數據為中心的人工智能發展賽道，則不僅能夠規避LLM和AIGC當前的風險，也能在更多行業中發揮出優質人工智能的賦能價值。

第三，建立AIGC相關的國際對話交流機制。在面對AIGC的治理這一新問題時，各國都缺少既有經驗，也都需要信息和情況的及時共享，以應對新技術的不確定性難題。在此背景下，建立和完善相關的國際對話交流機制就成為了實現AIGC有效治理的重要環節。首先，各國可以依托既有的多邊機制，利用其平臺和資源增設專業化工作組與信息共享機制。比如說可以在聯合國框架下，仿照人工智能倫理建議特設專家組(AHEG)的實踐經驗，建設一個新的、旨在解決AIGC治理問題的特設專家組，為各國的治理實踐提供原則性指引。或者利用OECD人工智能治理工作組長期積累研究資源和積攢的研究經驗，進行對AIGC治理的專題研究，為各國政策制定者提供更充分、透明的情報和信息。

各國還可以以共識為導向、以安全為準繩進行更加深度的雙邊治理合作。比如：聯合進行AIGC的管理標準制定，聯合進行AIGC的合規審查，聯合披露AIGC中的虛假信息等。國家間的雙邊治理合作有能夠針對AIGC的不確定性、涌現性和差異化等復雜的技術特點，制定更科學的審核標準和更完善的審核機制。

最后，加強國家之間的二軌合作也同樣是實現AIGC治理的有效途徑，為政府提供更加科學、客觀、系統的AIGC治理建議。二軌合作可以凝聚多利益攸關方的力量，以專業化和多維度的視角從技術風險、產業生態、社會影響等多重方面審視AIGC的發展態勢，有助于各國治理能力和治理水平的提升。

（魯傳穎，上海國際問題研究院公共政策與創新研究所副所長、研究員。本文標題為編者所擬。）