當(dāng)下，人工智能技術(shù)正在引領(lǐng)新一輪產(chǎn)業(yè)革命，在國(guó)家社會(huì)經(jīng)濟(jì)發(fā)展中占據(jù)重要地位，成為決定國(guó)家競(jìng)爭(zhēng)力和國(guó)家安全的重要的新質(zhì)生產(chǎn)力。

黨的二十屆三中全會(huì)通過的《中共中央關(guān)于進(jìn)一步全面深化改革 推進(jìn)中國(guó)式現(xiàn)代化的決定》明確指出，“完善推動(dòng)新一代信息技術(shù)、人工智能、航空航天、新能源、新材料、高端裝備、生物醫(yī)藥、量子科技等戰(zhàn)略性產(chǎn)業(yè)發(fā)展政策和治理體系”?！稕Q定》為包括人工智能在內(nèi)的新質(zhì)生產(chǎn)力的發(fā)展指明了方向。

人工智能產(chǎn)業(yè)政策的制定和治理體系的構(gòu)建需要堅(jiān)持法治化與市場(chǎng)化的基本原則。如何通過立法促進(jìn)人工智能的發(fā)展，防范人工智能發(fā)展中可能出現(xiàn)的風(fēng)險(xiǎn)是當(dāng)前理論界和實(shí)業(yè)界共同關(guān)心的問題，也是人工智能產(chǎn)業(yè)監(jiān)督管理機(jī)構(gòu)亟須解決的問題。

作為新興技術(shù)，人工智能發(fā)展快速，產(chǎn)業(yè)競(jìng)爭(zhēng)激烈。對(duì)人工智能的監(jiān)管立法必須慎重。既要規(guī)范人工智能技術(shù)可能對(duì)個(gè)體權(quán)利和公共安全帶來的損害風(fēng)險(xiǎn)，更要保護(hù)并鼓勵(lì)創(chuàng)新，避免監(jiān)管給人工智能產(chǎn)業(yè)帶來過高的合規(guī)成本，抑制創(chuàng)新，阻礙產(chǎn)業(yè)發(fā)展。

為了在推動(dòng)人工智能產(chǎn)業(yè)發(fā)展和防范風(fēng)險(xiǎn)之間尋找最優(yōu)的平衡，各國(guó)監(jiān)管部門正在探索合適的監(jiān)管策略。其中，沙箱監(jiān)管就是當(dāng)前國(guó)際上很多國(guó)家正在試驗(yàn)的監(jiān)管模式。

沙箱監(jiān)管的起源、基本理念和功能

沙箱監(jiān)管是來源于計(jì)算機(jī)軟件測(cè)試領(lǐng)域的概念。其基本思想是，在計(jì)算機(jī)系統(tǒng)中建立一個(gè)測(cè)試環(huán)境，讓新的或未經(jīng)測(cè)試的軟件在環(huán)境里安全運(yùn)行。即，把這個(gè)測(cè)試環(huán)境形象地稱為沙箱，把新的或未經(jīng)測(cè)試的軟件放在沙箱里，把軟件隔離起來，只允許系統(tǒng)中特定的資源、程序或文件與沙箱中的軟件聯(lián)系。

金融監(jiān)管領(lǐng)域最先引入沙箱概念。在金融監(jiān)管實(shí)踐中，監(jiān)管部門面臨的一個(gè)重要的問題是，如何在金融科技等金融創(chuàng)新與金融監(jiān)管之間的緊張關(guān)系中找到平衡點(diǎn)？既要鼓勵(lì)金融創(chuàng)新，又要防止金融創(chuàng)新帶來重大風(fēng)險(xiǎn)？于是，在金融監(jiān)管領(lǐng)域創(chuàng)造出沙箱監(jiān)管制度。

我國(guó)當(dāng)前也在金融科技領(lǐng)域試驗(yàn)中國(guó)版的金融科技沙箱監(jiān)管。不過，這些沙箱監(jiān)管沒有突破當(dāng)前的法律、法規(guī)，更談不上法律、法規(guī)的豁免。其實(shí)質(zhì)屬于金融監(jiān)管機(jī)構(gòu)與申請(qǐng)進(jìn)入沙箱實(shí)驗(yàn)的技術(shù)或服務(wù)之間合作，在如何確保技術(shù)或服務(wù)合法合規(guī)的基礎(chǔ)上進(jìn)行實(shí)驗(yàn)。所以，這些不是嚴(yán)格意義上的沙箱，實(shí)際上屬于金融監(jiān)管試點(diǎn)。

沙箱監(jiān)管的基本操作是，遴選出特定領(lǐng)域（區(qū)域）和特定的市場(chǎng)主體，在規(guī)定的時(shí)間和遴選范圍內(nèi)，市場(chǎng)主體生產(chǎn)的產(chǎn)品或服務(wù)豁免當(dāng)前立法的監(jiān)管。

沙箱監(jiān)管的基本理念和功能是，承認(rèn)監(jiān)管部門對(duì)新科技和新技術(shù)的認(rèn)知有限，承認(rèn)法律的滯后性與科技創(chuàng)新的超前性，鼓勵(lì)市場(chǎng)主體技術(shù)創(chuàng)新，劃定一個(gè)區(qū)域，讓市場(chǎng)主體與監(jiān)管部門合作，在規(guī)定的時(shí)間和區(qū)域內(nèi)，推動(dòng)技術(shù)創(chuàng)新與監(jiān)管規(guī)則同步發(fā)展。

沙箱監(jiān)管有效期到期，創(chuàng)新的技術(shù)、產(chǎn)品、服務(wù)以及與其同步更新的監(jiān)管規(guī)則同時(shí)“走出沙箱”，在全社會(huì)范圍內(nèi)推廣，實(shí)現(xiàn)技術(shù)、產(chǎn)品、服務(wù)與監(jiān)管法律的同步發(fā)展。

沙箱監(jiān)管的國(guó)際實(shí)踐

當(dāng)前，沙箱監(jiān)管的理念已經(jīng)在世界范圍內(nèi)被廣泛地納入人工智能領(lǐng)域。

比如，西班牙于2022年建立人工智能監(jiān)管沙箱，用來檢驗(yàn)并完善歐盟人工智能法。因?yàn)闅W盟人工智能法要在2025年正式實(shí)施，所以，通過在某個(gè)成員國(guó)建立監(jiān)管沙箱，比照歐盟人工智能法，檢驗(yàn)該法能否有效監(jiān)管人工智能。如果發(fā)現(xiàn)缺陷，可以邊試驗(yàn)邊完善。

新加坡則聯(lián)合谷歌、微軟、亞馬遜等人工智能頭部公司建立基于治理科技（governance technology, govtech）的人工智能監(jiān)管沙箱。該監(jiān)管沙箱旨在開發(fā)人工智能技術(shù)透明性的自動(dòng)評(píng)估技術(shù)。遴選入沙箱的公司可以知曉其開發(fā)的人工智能技術(shù)是否符合國(guó)際技術(shù)標(biāo)準(zhǔn)和監(jiān)管標(biāo)準(zhǔn)。

英國(guó)則針對(duì)人工智能應(yīng)用的不同行業(yè)分別建立沙箱監(jiān)管制度。比如，2023年，英國(guó)醫(yī)療衛(wèi)生部下屬的醫(yī)療衛(wèi)生局建立醫(yī)療人工智能沙箱。2024年春季，醫(yī)療衛(wèi)生局推出第一個(gè)監(jiān)管沙箱，為人工智能氣閘室（AI Airlock）這種產(chǎn)品建立監(jiān)管沙箱。這個(gè)監(jiān)管沙箱把行業(yè)內(nèi)的專家和監(jiān)管部門集合起來，組成監(jiān)管團(tuán)隊(duì)。申請(qǐng)進(jìn)入沙箱的市場(chǎng)主體將和監(jiān)管團(tuán)隊(duì)合作，把技術(shù)和產(chǎn)品研發(fā)過程中的信息提供給團(tuán)隊(duì)，團(tuán)隊(duì)再把信息進(jìn)行分析和加工，向監(jiān)管部門匯報(bào)。經(jīng)過這種互動(dòng)，不僅提升技術(shù)和產(chǎn)品的性能，降低風(fēng)險(xiǎn)，也提升監(jiān)管水平，實(shí)現(xiàn)監(jiān)管與技術(shù)水平的同步提升。

四個(gè)步驟構(gòu)建人工智能沙箱監(jiān)管制度

基于人工智能監(jiān)管的特殊性，借鑒國(guó)際上正在進(jìn)行的人工智能沙箱監(jiān)管實(shí)踐，可以通過以下四個(gè)步驟構(gòu)建并完善符合我國(guó)社會(huì)經(jīng)濟(jì)現(xiàn)實(shí)的人工智能沙箱監(jiān)管制度。

第一，全國(guó)人民代表大會(huì)授權(quán)國(guó)務(wù)院及其下屬的行業(yè)監(jiān)管部門聯(lián)合制定《人工智能沙箱監(jiān)管基本條例》。人工智能技術(shù)屬于通用技術(shù)。人工智能技術(shù)應(yīng)用于不同的部門，將產(chǎn)生不同的倫理、風(fēng)險(xiǎn)和監(jiān)管標(biāo)準(zhǔn)問題。所以，人工智能沙箱監(jiān)管需要跨部門協(xié)調(diào)與合作。因?yàn)檫M(jìn)入人工智能沙箱的市場(chǎng)主體及其研發(fā)的技術(shù)、產(chǎn)品和服務(wù)可以豁免符合當(dāng)前監(jiān)管法律、法規(guī)中規(guī)定的技術(shù)標(biāo)準(zhǔn)以及市場(chǎng)準(zhǔn)入標(biāo)準(zhǔn)，所以，根據(jù)《中華人民共和國(guó)立法法》第九條、第十條，必須經(jīng)全國(guó)人大授權(quán)，行業(yè)監(jiān)管部門才能制定《人工智能沙箱監(jiān)管基本條例》。而且，只有經(jīng)授權(quán)的《基本條例》才能為進(jìn)入沙箱的市場(chǎng)主體及其研發(fā)、生產(chǎn)的產(chǎn)品、技術(shù)和服務(wù)提供具有法律效力的豁免權(quán)。

第二，確定人工智能沙箱監(jiān)管立法的基本步驟與內(nèi)容。當(dāng)前，我國(guó)主導(dǎo)機(jī)器人產(chǎn)業(yè)發(fā)展的部門是工業(yè)和信息化部。2023年1月，工業(yè)和信息化部等十七個(gè)部門聯(lián)合印發(fā)了《“機(jī)器人+”應(yīng)用行動(dòng)實(shí)施方案》。方案強(qiáng)調(diào)聚焦機(jī)器人應(yīng)用的十大重點(diǎn)領(lǐng)域，包括制造業(yè)、農(nóng)業(yè)、建筑、能源、商貿(mào)物流領(lǐng)域、醫(yī)療健康、養(yǎng)老服務(wù)、教育、商業(yè)社區(qū)服務(wù)、安全應(yīng)急和極限環(huán)境應(yīng)用領(lǐng)域。

在此背景下，可以由全國(guó)人大授權(quán)國(guó)務(wù)院制定《人工智能沙箱監(jiān)管基本條例》，國(guó)務(wù)院指定工業(yè)和信息化部牽頭人工智能重點(diǎn)應(yīng)用領(lǐng)域主管部門具體制定《基本條例》?！痘緱l例》的內(nèi)容包括以下四個(gè)方面：

（1）立法宗旨。以鼓勵(lì)人工智能技術(shù)發(fā)展為導(dǎo)向，規(guī)范人工智能技術(shù)研發(fā)與應(yīng)用，推動(dòng)人工智能產(chǎn)業(yè)的健康發(fā)展。

（2）進(jìn)入沙箱的市場(chǎng)主體的資格、評(píng)選標(biāo)準(zhǔn)、權(quán)利與義務(wù)。從事人工智能技術(shù)研發(fā)、產(chǎn)品生產(chǎn)及服務(wù)提供等業(yè)務(wù)的企業(yè)都有資格申請(qǐng)進(jìn)入沙箱。沙箱監(jiān)管部門根據(jù)申請(qǐng)人提交的材料，從技術(shù)、產(chǎn)品、服務(wù)當(dāng)前的水平、未來發(fā)展、可能給行業(yè)和社會(huì)帶來的效益及可能帶來的風(fēng)險(xiǎn)等維度對(duì)申請(qǐng)人進(jìn)行評(píng)估，最終確定評(píng)選結(jié)果。在評(píng)估的過程中，申請(qǐng)人有權(quán)和沙箱監(jiān)管部門互動(dòng)，及時(shí)補(bǔ)充材料，也有義務(wù)充分披露其技術(shù)、產(chǎn)品和服務(wù)的不足及潛在風(fēng)險(xiǎn)，并提出改善的步驟和可行性。

（3）沙箱監(jiān)管期間監(jiān)管主體與市場(chǎng)主體之間的協(xié)調(diào)與互動(dòng)。一方面，沙箱監(jiān)管主體包括工信部及人工智能主要應(yīng)用領(lǐng)域的主管部門，這些監(jiān)管主體之間需要彼此協(xié)調(diào)，共同規(guī)范沙箱內(nèi)的市場(chǎng)主體的研發(fā)和生產(chǎn)活動(dòng)。另一方面，監(jiān)管部門與市場(chǎng)主體之間需要在信息披露和分享上進(jìn)行實(shí)時(shí)的互動(dòng)。市場(chǎng)主體需要及時(shí)向監(jiān)管主體披露技術(shù)、產(chǎn)品和服務(wù)上的創(chuàng)新、突破、風(fēng)險(xiǎn)及對(duì)當(dāng)前法律、法規(guī)豁免的需求，監(jiān)管部門需要及時(shí)分析市場(chǎng)主體披露和分享的信息，彼此協(xié)調(diào)，為市場(chǎng)主體提供監(jiān)管豁免，推動(dòng)技術(shù)、產(chǎn)品和服務(wù)的發(fā)展。

（4）沙箱監(jiān)管的日落條款。進(jìn)入沙箱監(jiān)管的市場(chǎng)主體不能永遠(yuǎn)留在沙箱里，所以，監(jiān)管法律必須規(guī)定完備的退出制度，即日落條款。比如，市場(chǎng)主體申請(qǐng)進(jìn)入沙箱的審批階段，監(jiān)管主體要根據(jù)市場(chǎng)主體研發(fā)的技術(shù)、生產(chǎn)的產(chǎn)品和提供的服務(wù)的特點(diǎn)，與市場(chǎng)主體談判確定退出沙箱的時(shí)間或其他標(biāo)準(zhǔn)。其他標(biāo)準(zhǔn)主要包括技術(shù)標(biāo)準(zhǔn)和市場(chǎng)標(biāo)準(zhǔn)。即，如果市場(chǎng)主體在一定時(shí)間內(nèi)技術(shù)更新達(dá)不到目標(biāo)或者產(chǎn)品、服務(wù)沒有市場(chǎng)應(yīng)用前景，則退出沙箱。

第三，通過競(jìng)爭(zhēng)，篩選符合沙箱監(jiān)管基本條例的地方政府與市場(chǎng)主體。伴隨著《監(jiān)管條例》的實(shí)施，市場(chǎng)主體可以通過競(jìng)爭(zhēng)進(jìn)入沙箱，享受監(jiān)管豁免帶來的制度紅利。各地方政府也可以參與競(jìng)爭(zhēng)，協(xié)助本地的市場(chǎng)主體以地方性人工智能研發(fā)基地等形式集體申請(qǐng)進(jìn)入沙箱。在這種情況下，不僅地方政府研發(fā)基地內(nèi)的市場(chǎng)主體需要單獨(dú)提交申請(qǐng)材料，地方政府也要提交補(bǔ)充材料，證明地方政府在市場(chǎng)主體進(jìn)入沙箱從事人工智能技術(shù)開發(fā)和產(chǎn)品（服務(wù)）生產(chǎn)過程中可以提供的支持，比如稅收支持、財(cái)政補(bǔ)貼支持等。

第四，市場(chǎng)主體與監(jiān)管部門協(xié)作，推動(dòng)技術(shù)、產(chǎn)業(yè)與監(jiān)管能力的同步提升。在以上三個(gè)步驟的基礎(chǔ)上，隨著沙箱監(jiān)管的實(shí)施，可以實(shí)現(xiàn)市場(chǎng)主體與監(jiān)管部門的雙贏。即，市場(chǎng)主體享受沙箱監(jiān)管的紅利，推動(dòng)其人工智能技術(shù)、產(chǎn)品和服務(wù)能力的創(chuàng)新，監(jiān)管部門通過沙箱監(jiān)管提升其監(jiān)管水平，完善人工智能監(jiān)管的規(guī)則設(shè)計(jì)，為人工智能監(jiān)管立法總結(jié)經(jīng)驗(yàn)。

（作者王佐發(fā)為西南科大法學(xué)院副教授）