“通用人工智能可能無法被治理，因為傳統(tǒng)的責(zé)任分配和懲罰執(zhí)行方法并不適用。”

近日，美國路易斯維爾大學(xué)教授羅曼·揚波爾斯基（Roman Yampolskiy）就人工智能治理問題接受了澎湃新聞（www.usamodel.cn）記者專訪。

他認(rèn)為，在某些重要方面，我們無法治理比人類更聰明的人工智能。“一個能力強大、富有創(chuàng)造力且不受控制的通用人工智能最終可能會隱式甚至明確地控制管理此類智能軟件的一些機構(gòu)和個人。”

羅曼·揚波爾斯基是美國路易斯維爾大學(xué)網(wǎng)絡(luò)安全實驗室的創(chuàng)始人和主任，著有《人工超級智能：未來的方法》等書籍。他的主要研究興趣有人工智能安全、模式識別、生物行為識別等。揚波爾斯基曾受邀出席2020年首屆清華大學(xué)人工智能合作與治理國際論壇。

通往通用人工智能的嘗試

通用人工智能（ Artificial general intelligence，簡稱AGI），有時也被稱作強人工智能，它所描述的機器智能可以理解或?qū)W習(xí)人類所能完成的任何智力任務(wù)。

多智能體系統(tǒng)教父、牛津大學(xué)計算機科學(xué)系主任Michael Wooldridge在接受澎湃新聞（www.usamodel.cn）采訪時表示，如果我們能構(gòu)建具有人類全部能力和智力的程序，那我們就將實現(xiàn)通用人工智能。但當(dāng)前，“我們連通用人工智能的皮毛都還沒有碰到”。

關(guān)于人工通用智能能否實現(xiàn)、何時實現(xiàn)的問題，業(yè)內(nèi)有不同的觀點。部分人工智能學(xué)者認(rèn)為，人工通用智能的概念并不嚴(yán)肅，在實踐中基本不可能實現(xiàn)。另一些人則十分看好人工通用智能的發(fā)展，認(rèn)為它有可能塑造人類的發(fā)展軌跡。

例如，圖靈獎得主拉吉·雷迪（Raj Reddy）認(rèn)為，研究通用用途的人工智能毫無用處。“用AI能開發(fā)出的東西是無窮無盡的，但研究人員應(yīng)專注研究如何用AI增強人的能力，而不只是增強AI的能力”。 清華大學(xué)類腦計算中心主任施路平則表示，從未來發(fā)展的角度看，人工通用智能是一個必然的趨勢。

盡管學(xué)界對是否應(yīng)發(fā)展通用人工智能存在分歧，科研公司和高校已經(jīng)開始相關(guān)嘗試，通用人工智能的倫理問題也日漸顯現(xiàn)。

2019年7月，微軟宣布向非營利性人工智能研究公司OpenAI投資10億美元研發(fā)人工通用智能。2019年8月，清華大學(xué)在學(xué)術(shù)期刊《自然》發(fā)表《面向人工通用智能的異構(gòu)天機芯片架構(gòu)》研究。2021年1月，谷歌和微軟相繼在一份權(quán)威自然語言理解榜單中表現(xiàn)超越人類，微軟宣稱這“標(biāo)志著邁向通用人工智能的重要里程碑。”

政府的監(jiān)管嘗試可能是徒勞

在采訪中，揚波爾斯基介紹，為了使未來的人工智能造福于全人類，針對人工智能的治理計劃試圖通過建立監(jiān)管框架和行業(yè)標(biāo)準(zhǔn)等方式，使人工智能可以被各國政府、國際組織和跨國公司控制。

但他指出，直接治理人工智能是沒有意義的，“‘人工智能治理’這個術(shù)語暗示的是，通過規(guī)定允許開發(fā)什么樣產(chǎn)品和服務(wù)以及如何開發(fā)，來管理人工智能研究員和創(chuàng)造者”。

他認(rèn)為，無論對從事人工智能研究的科學(xué)家和工程師實施何種管理，都取決于創(chuàng)建人工通用智能（AGI）的難度。

“如果創(chuàng)造通用人工智能所必需的計算資源和數(shù)據(jù)收集工作，在資金和人力資本方面與美國的曼哈頓計劃（美國研制原子彈的計劃）相當(dāng)，那么各國政府就有許多‘胡蘿卜加大棒’，可以用來指導(dǎo)研究人員，并按照自己的規(guī)范塑造未來的人工智能。”

但另一種情況下，他分析道，如果有更有效的方法來創(chuàng)造第一個通用人工智能，那么政府的監(jiān)管嘗試可能是徒勞的。“例如，一個青少年在車庫里用一臺價值僅1000美元的筆記本電腦創(chuàng)造出第一個通用人工智能。雖然可能性很小，但這種情況也需要考慮。”

總而言之，“歷史上，很多對軟件治理的嘗試，例如垃圾郵件、計算機病毒和深度偽造技術(shù)（Deepfake）等，都只取得了非常有限的成功。而作為一個獨立代理，通用人工智能可能無法被治理，因為傳統(tǒng)的責(zé)任分配和懲罰執(zhí)行方法并不適用。”

揚波爾斯基認(rèn)為，即使遇到第一種情況，即創(chuàng)造通用人工智能需要密集的資源，我們?nèi)匀粚θ斯ぶ悄艿目深A(yù)測性、可解釋性和可控制性存在一些既定的技術(shù)限制。“至少需要這三種能力才能夠部分實現(xiàn)對人工智能的成功監(jiān)管，這也就意味著，在某些重要方面，我們無法治理比人類更聰明的人工智能。”

“最后，即使AI治理是可以實現(xiàn)的，那些負(fù)責(zé)人也可能不愿意為AI的失敗承擔(dān)個人責(zé)任。因此，一個能力強大、富有創(chuàng)造力且不受控制的通用人工智能最終可能會隱式甚至明確地控制管理此類智能軟件的一些機構(gòu)和個人。”