长兴郴障科技有限公司

澎湃Logo
下載客戶端

登錄

  • +1

當見未萌|像天使也似魔鬼:關(guān)于通用人工智能時代的71個問題

肖仰華 /復旦大學計算機學院教授
2023-04-04 08:04
來源:澎湃新聞
? 未來2% >
字號

【編者按】“歷次技術(shù)突破只是人類智能的產(chǎn)物,而唯獨AGI(通用人工智能)是‘智能’本身的革命。關(guān)于智能本身的技術(shù)革命更像是一種元革命,其地位與價值不是普通技術(shù)革命所能比擬的。”復旦大學計算機學院教授肖仰華為澎湃科技(www.usamodel.cn)撰文稱,這場變革對于科學研究來說是前所未有的,像是天使也似魔鬼。面對這場沖擊,我們應該以什么樣的視角和思維去審視?為此,肖仰華在文中提出了71個問題,并指出,對于AGI的合理提問,將是推動其健康有序發(fā)展、回應其挑戰(zhàn)的關(guān)鍵所在。“有些問題,我給出了不成熟的初步判斷與思考。然而,更多的問題仍然無法給出滿意答案。”

“一些未知的東西正在做我們不知道的事情。”——阿瑟·愛丁頓爵士

自從2022年12月OpenAI發(fā)布ChatGPT(一種面向聊天的生成式語言模型)以來,以通用人工智能(Artificial General Intelligence)為代表的人工智能技術(shù)變革進入了加速發(fā)展的快車道。就在3月22日,微軟研究院的研究員公開了一個關(guān)于GTP-4的評測研究報告。這里為什么特地強調(diào)一下3月22日呢?以往人類歷史重大事件的發(fā)生一般會用年、月來作為度量單位,從來沒有像今天這樣,我們需要用天為單位記錄某個變革事件。這一現(xiàn)象本身就已意味深遠,人類社會可能已經(jīng)經(jīng)歷了未來學家們曾預言過的奇點時刻,技術(shù)更新與迭代迎來了指數(shù)增長期。處于風暴眼的人工智能技術(shù)以雷霆萬鈞之勢將整個人類社會裹挾到一場前所未有的變革之中。我們應該如何應對通用人工智能所帶來的巨大挑戰(zhàn)呢?或者如何以更為樂觀的姿態(tài)擁抱隨之而來的重大機遇呢?整個人類社會需要深入思考并積極回應這些問題。

話題回到微軟研究員的報告本身,報告給出了一個非常重要的結(jié)論:“Give the breadth and depth of GPT-4’scapabolities,we believe that it could reasonably be viewed as an early (yet still incomplete) version of an artificial general intelligence (AGI)system”。也就是說鑒于GPT-4能力的廣度和深度,我們已經(jīng)有充分理由相信GPT-4應該被合理地視作一個通用人工智能(AGI)系統(tǒng)的早期(但仍然不完整)版本。AGI的智能體初步具備了人類的思考和推理能力,但其知識廣度和深度方面卻可能遠超人類。畢竟一個人的壽命差不多也就3萬多天,窮其一生,即便每天讀一本書,也只能閱讀3萬本書。而這個量級只是機器所能學習的知識量的萬分之一。這一論文是目前為止比較全面嚴肅的GPT-4評測報告。如果此前還是媒體們找話題、蹭熱點的非專業(yè)解讀,那么作為國際最為專業(yè)的人工智能研究機構(gòu)的微軟研究院的嚴肅論文,確需引起我們的足夠重視。

我們?yōu)槭裁慈绱酥匾曂ㄓ萌斯ぶ悄埽辽儆幸韵聝蓚€值得關(guān)注的理由:

第一:發(fā)展到今天的AGI已經(jīng)具備了非常強大的創(chuàng)造能力。此前AGI只是學習了特定事實、知識或者是人類語言的一些統(tǒng)計規(guī)律,這種程度的智能還不足以讓我們擔憂。但報告中對于GPT-4的評測已經(jīng)證實大模型具備了人類所引以為傲的獨特的創(chuàng)造力,這讓我們不得不重視。舉個例子來說,AGI可以文字押韻的風格書寫一個關(guān)于“存在無限多素數(shù)”的數(shù)學定理證明。類似的例子還包括用c++寫一段快速排序算法,同時用李清照詩詞的風格為該代碼寫注釋。這些例子已經(jīng)充分說明AGI具備綜合不同學科的能力(比如第一個例子是數(shù)學和文學的能力,第二個例子是計算機與文學)。且不論這種創(chuàng)造力的實質(zhì)是什么, 至少我個人十分汗顏,難以完成上面的任務,我想對于大部分普通專家而言完成上述任務也都是不容易的。在AI繪畫方面,人工智能不但可以創(chuàng)作逼真的圖像(比如Midjourney的文圖生成),還能創(chuàng)造諸如《太空歌劇院》這種亦真亦幻、揉雜了科幻元素與歐洲中世紀風格的繪畫。即便一些科學家認為機器當前的創(chuàng)造力只是一種隨機拼接,但是這種跨學科的拼接能力與綜合能力至少在規(guī)模上已經(jīng)遠遠超越了當前人類水平。試想,AGI可以將任意兩個學科的內(nèi)容組合創(chuàng)新,很多組合或許是我們?nèi)祟愑惺芬詠韽奈聪胂筮^的。AGI的這種隨機拼接式的創(chuàng)造至少能夠激發(fā)我們對跨學科研究的全新想象,極大地拓展了我們的想象空間,極大地提升了我們的創(chuàng)造水平。AGI的創(chuàng)造也會對我們進一步認清人類智能的本質(zhì)有所啟發(fā)。更大范圍內(nèi)的隨機拼接會不會就是人類創(chuàng)造的本質(zhì)呢?人工智能的發(fā)展必定會對人類智能的理解帶來全新視角。我們對自己的認識必將伴隨著人工智能的發(fā)展而登上新的臺階。

第二: AGI的能力仍在隨著訓練日益充分而不斷增強,目前為止我們還沒看到其能力的天花板。這說明只要追加數(shù)據(jù)與算力,大模型的能力就能持續(xù)增強。目前唯一能限制大模型能力的就是知識和算力的總量。人類歷史上的歷次技術(shù)變革,最終都會進入平臺期,遭遇天花板。比如核聚變能級進一步增大與小型化均遭遇瓶頸,芯片計算能力的摩爾定律失效。令人十分擔心的是,久久不見天花板的AGI已然成為一匹脫韁的野馬(幸運的是就在筆者整理本文期間,一些研究機構(gòu)發(fā)出了暫停巨型模型研發(fā)的呼聲)。更令人擔心的是通用人工智能的技術(shù)發(fā)展未必遵循傳統(tǒng)的技術(shù)發(fā)展規(guī)律。這一擔心理由是十分充分的。歷次技術(shù)革命都無關(guān)乎人類智能,而AGI是完全以接近甚至超越人類智能為目標的技術(shù)。歷次技術(shù)突破只是人類智能的產(chǎn)物,而唯獨AGI是“智能”本身的革命。關(guān)于智能本身的技術(shù)革命更像是一種元革命,其地位與價值不是普通技術(shù)革命所能比擬的。智能本身的革命對人類社會的影響是全面的、全方位的,其影響勢必會滲透到所有涉及人類智力的每個角落。

人類的智力集中呈現(xiàn)在科學研究中。AGI的影響已經(jīng)滲透到了幾乎所有自然與人文學科。科學研究迎來了一場前所未有的變革。這場變革既是挑戰(zhàn)也是機遇,像是天使也似魔鬼。我們需要以全新的視角、極致的思維重新審視AGI所帶來的沖擊。全新的視角首先是跨學科的視角。大規(guī)模語言模型是不區(qū)分人類的各個學科的,是從人類的所有書籍、數(shù)據(jù)訓練而得到的。這本身就極具啟發(fā)性。GPT-4以其令人驚嘆的跨學科創(chuàng)新能力被視作是一個跨學科的全才。唯有跨學科的視角才能考察GPT-4等AGI的最新成果。我們更需要極致的思維方式。OpenAI的快速發(fā)展充分說明了第一性思維的重要性。任何階段式、增量式的思考在AGI的極速迭代面前都顯得無能為力。必須將某個問題推演到極端情況,設(shè)想其極致發(fā)展狀態(tài),必須直擊問題的本質(zhì),才能應對AGI的沖擊。比如很多人,都能從ChatGPT或者GPT-4挑出一些明顯的事實錯誤,比如會將復旦校訓出處弄錯。然而這些問題從本質(zhì)上講都是細枝末節(jié),不難通過簡單工程手段修復。思考這些問題是在浪費AGI給我們留下的并不富余的寶貴時間。

秉持著上述基本原則,我將提出一系列問題。對于AGI的合理提問,將是推動其健康有序發(fā)展、回應其挑戰(zhàn)的關(guān)鍵所在。提出創(chuàng)新的有洞見的問題還是AGI短期之內(nèi)不能實現(xiàn)的。提出問題是否是人類為數(shù)不多的機器難以復制的能力,這個問題本身就值得深入討論。我個人傾向于認為一般專家的提問機器不難復制,唯獨人類的極少部分天才所提出的問題,機器難以復制。我仍然先以還原的思維方式,分析AGI對于各細分學科的挑戰(zhàn)。最后再以綜合的思維方式,提出AGI的一些共性問題。有些問題,我給出了不成熟的初步判斷與思考。然而,更多的問題仍然無法給出滿意答案。

對于人工智能而言,AGI所帶來的沖擊之大前所未有。這讓我們不得不去深入思考以下幾個關(guān)鍵問題:AGI何以能夠涌現(xiàn)如此強大的智能?數(shù)據(jù)、模型、算力被認為是AGI智能涌現(xiàn)的基礎(chǔ)條件,我們也具備相應的條件,為何復現(xiàn)GPT-5的能力卻那么困難呢?OpenAI在AGI上勝出的根本原因何在?正確的技術(shù)路線、強大的工程能力、直擊問題根本的思維方式、市場驅(qū)動的研發(fā)生態(tài)都值得我們仔細回味。這次OpenAI在ChatGPT系列大模型上的成功有太多需要總結(jié)與思考的內(nèi)容。

為什么是生成式AI勝出?生成式AI是否適合復雜認知決策任務?大模型的這波發(fā)展來自生成式AI的勝出,并不是傳統(tǒng)的判別式AI。那么為什么是生成式AI勝出,AGI是否會存在其他形式?生成式AI天然地適合聊天閑扯,所以我們看到了ChatGPT的巨大成功。但是它能否勝任領(lǐng)域內(nèi)的復雜認知決策任務?

AGI的日益成熟是否會顛覆傳統(tǒng)的NLP(自然語言處理)與CV(計算機視覺)等領(lǐng)域?當AGI日益成熟之后,會不會出現(xiàn)一種自己剿滅自己的窘境?NLP、CV等學科是否還會存在?有人說ChatGPT是NLP的新里程碑,但也有人認為其更像是NLP的墓志銘。很多NLP從業(yè)人員甚至調(diào)侃準備轉(zhuǎn)行炒河粉。以大模型為代表的AI重工業(yè)模式逐漸取代了以小模型為代表的手工作坊模式。重工業(yè)模式很容易形成壟斷,傳統(tǒng)人工智能研究人員只有少部分會成為大模型玩家,其他研究人員何去何從?

AGI經(jīng)過多模態(tài)化、具身化、物理交互、虛擬交互的優(yōu)化后,下一階段會是什么?很多研究機構(gòu)已經(jīng)在推動AGI學習多模態(tài)數(shù)據(jù)、操控機器身體、與物理世界交互、在虛擬世界成長。當AGI學會這一切之后會進入什么階段?是超級智能體?隨著機器智能的發(fā)展,“人類智能”漸有貶義的趨向?唯有我們的犯錯與不確定性是人類智能的根本標簽。如何延展與提升人類的智能以確保人類在機器面前顯得不那么“智障”已經(jīng)變成了十分迫切的問題。事實上,在所有這些問題得到清晰回答之前,放緩AGI發(fā)展的步伐不失為一個明智的策略。

AGI的發(fā)展是否會是贏家通吃的局面?強大的人工智能對于弱小的人工智能在能力上很容易形成降維打擊的態(tài)勢。是否還存在弱小的人工智能的生存空間? AGI的發(fā)展速度日益加速,先發(fā)者優(yōu)勢明顯,不但容易匯聚資源,更容易獲得人類反饋,走上持續(xù)迭代與快速發(fā)展之路,后來者如何追趕?

對于計算機學科來說, GPT-4已經(jīng)在Leetcode上的編程題目上達到人類程序員水平。Leetcode是專業(yè)程序員代碼訓練平臺。我們很多計算機專業(yè)從業(yè)人員通過練習其編程題目鍛煉編程能力,提升應對企業(yè)編程面試的成績。這一事件基本宣告機器自動化編程水平達到甚至超越普通程序員。AGI達到人類程序員水平,這一事件意味著什么?培養(yǎng)一個人類程序員一般都需要基礎(chǔ)教育以及至少大學本科四年的高等教育,甚至還需要研究生教育。這樣一個專業(yè)要求如此之高的行業(yè)已經(jīng)變得岌岌可危。這一事件一定程度上意味著以傳授專業(yè)知識為主要目的的高等教育受到了機器智能的極大挑戰(zhàn)。我們有太多的高等教育是以專業(yè)知識的傳授為主要內(nèi)容的。計算機領(lǐng)域的數(shù)據(jù)管理、軟件工程、網(wǎng)絡(luò)運維、數(shù)據(jù)分析等學科都將因此而面臨巨大沖擊,相關(guān)專業(yè)的從業(yè)人員將何去何從?AGI達到普通計算機專家的水平只是個時間問題。

對于語言學而言, GPT-4等大模型幾乎能夠勝任所知的所有語言處理任務,比如翻譯、摘要等。大模型是言說專家、語言專家已毋庸置疑。這里分享一個近期聽到的有點黑色幽默的傳言。某出版社編輯收到一篇論文投稿,論文觀點鮮明、論據(jù)充分、文字優(yōu)雅。但是編輯仍然給出了拒絕的決定。因為,該編輯幾十年的職業(yè)經(jīng)驗告訴他,歷史上從沒有一篇人類投稿能夠做到?jīng)]有一處語法、語言錯誤,因而有充分理由相信投稿人是用ChatGPT自動完成了論文。如果這個故事還有升級版本的話,那一定就是投稿人又進一步提示ChatGPT在當前完美的投稿基礎(chǔ)上隨機加入幾處語法錯誤,并成功發(fā)表。對于語言學而言,AGI如此出色地完成了絕大多數(shù)語言任務,是否就可以據(jù)此判斷AGI“理解”了人類語言?那么傳統(tǒng)的語法學、語義學、語言學又將如何發(fā)展?語言學會否淪為大模型的“奴仆”?其唯一任務會不會只剩大模型的解釋與腳注?我們是否應該從更宏大的角度重新去解釋人類的語言現(xiàn)象?畢竟機器走出了一條完全不同的語言理解道路。從更加現(xiàn)實或者更加具體的層面來說,在我們對于語言學的前景沒有完全澄清之前,我們未來該如何勸說一個學生來攻讀語言學的相關(guān)學位,進行語言學的學習?

對于腦科學來說,人們一直期待類腦智能能為AI發(fā)展帶來新思路與機會。雖然AGI最終通過大模型實現(xiàn),腦科學的研究仍然對理解AGI帶來了新機會。當前,我們對于大模型的理解十分有限,我們無法精準地理解它內(nèi)部的運行機理、無法確切地理解它究竟學到了什么。大模型的煉制過程太像傳統(tǒng)的煉丹過程。準備好煉丹爐(GPU服務器),投喂合理配方的原料(規(guī)模巨大的高質(zhì)量數(shù)據(jù)),煽風點火(持續(xù)供給電力),煉制幾個月(訓練幾個月),最后出爐金丹(大模型)。和煉丹過程極為相似,大模型也有很大的風險煉制失敗,成功的大模型往往只是少部分幸運者。人工智能發(fā)展到近乎“煉丹”的地步,不知道是進步還是倒退。出于進一步發(fā)展大模型自身,發(fā)展安全可控、可解釋的AI系統(tǒng)等考慮,我們需要剖析大模型。腦科學為我們所揭示的大腦工作機理為這一任務提供了有益借鑒與參考。人腦譜圖計劃就是這樣一個雄心勃勃的計劃。借鑒腦神經(jīng)科學的研發(fā)方法與思路,對大模型的結(jié)構(gòu)與功能展開分析,對于大模型發(fā)展而言具有重要意義,比如說大模型是否也存在著類似人腦的功能分區(qū)。反之,大模型的一些運作機理是否也能對人類探索大腦結(jié)構(gòu)有所啟示呢?超大模型會否是個“超級”大腦?如何研究這一“超級”大腦?生物腦與機器腦的跨學科交叉研究存在諸多機會。

對于心理學而言,我們能否針對ChatGPT這樣的大模型展開心理分析呢?大模型是否也存在認知功能障礙?是否可以利用人類心理學的方法對大模型展開認知評測和診斷?這一系列提問背后的邏輯是將大模型視作初步具備了人類心智能力的智能體。近期,斯坦福大學的計算機科學家米哈爾·科辛斯基(Michal Kosinski)提交了一篇名為《心智理論可能從大語言模型中自發(fā)涌現(xiàn)》(Theory of Mind May Have Spontaneously Emerged in Large Language Models)的論文。他們測試并證實大規(guī)模語言模型具備九歲兒童的心智。對于心理學而言,AGI的發(fā)展也帶來了全新的機會。傳統(tǒng)心理學主要研究人的心理,而AGI的發(fā)展在倒逼我們盡快開展機器的心理研究。在人機交互過程中,無論是我們?nèi)狈Υ竽P托睦碚J知規(guī)律的理解,還是大模型缺乏對人類心理認知的判斷,都有可能對心理疾病患者產(chǎn)生致命的誤導。ChatGPT的價值對齊會不可避免地帶來盲目迎合使用者的問題。那么對于一個抑郁癥病人,ChatGPT的盲目迎合只會產(chǎn)生“灰暗”的文字,從而加劇病人的病情。我們對于大模型的“人格”問題更是缺乏理解。大模型在何種情況下會表現(xiàn)出何種人格傾向?如何控制它的人格表達?這些問題都需要進一步的深入研究。

對醫(yī)學而言,迎來了前所未有的機遇。GPT-4已經(jīng)能夠書寫病歷,且具有很高正確率。ChatGPT也已經(jīng)能通過一些醫(yī)學考試。然而醫(yī)生不同于程序員,醫(yī)生是與人打交道的,程序員大部分時間只需要與電腦和代碼打交道。AGI代替醫(yī)生與代替程序員有著完全不同的難度。這一波AGI技術(shù)一定能夠讓機器掌握醫(yī)學知識,但是代替一名合格的醫(yī)生實現(xiàn)復雜的醫(yī)學決策恐仍面臨挑戰(zhàn)。醫(yī)生職業(yè)具有特殊性,一名合格的醫(yī)生不單單需要醫(yī)學知識,還要有實踐經(jīng)驗,更需要同理心、責任心以及社會認知能力等。AGI能否具備醫(yī)生的這種綜合能力?在未來,AGI將以何種形式輔助實現(xiàn)智能醫(yī)學?僅限于提質(zhì)提效么?在AGI賦能醫(yī)學過程中,隱私、倫理等社會因素如何考慮?AGI的醫(yī)學應用仍要經(jīng)歷漫長的道路。

對于傳播學來說,AGI帶來的最大風險在于虛假消息的泛濫。新聞傳播行業(yè)賴以存在的前提是新聞的真實性。然而,AGI的發(fā)展極大地提升了機器生成內(nèi)容的能力與水平,極大地降低了這項技術(shù)的應用門檻。隨之而來必然是虛假內(nèi)容的泛濫。很多人寄希望于用AI對抗AI,利用AI技術(shù)進行內(nèi)容真?zhèn)巫R別。遺憾的是,造假的難度遠低于識別的難度。 除了法律干預,技術(shù)本身是無法防范虛假內(nèi)容泛濫的。虛假信息泛濫是否會顛覆傳播行業(yè)是個值得關(guān)注的問題。對于AGI的掌控能力已然成為一種強大的傳播能力。AGI的發(fā)展是否會引發(fā)傳播革命與生態(tài)重構(gòu)?對于傳播學而言,AGI只是能力升級么?傳播學理論是否要改寫以適應AGI的發(fā)展?是否會涌現(xiàn)新的傳播范式與傳播問題?個人將如何對抗機器強大的傳播能力?媒體如何利用AGI提高競爭力?國家又如何應對AGI對輿論與傳播的新挑戰(zhàn)?一旦AGI在傳播領(lǐng)域大量使用,以上問題都是難以回避的。

對于教育而言,AGI發(fā)展的里程碑往往是其通過某個學科的考試。這件事本身就說明了AGI對教育帶來了強大沖擊。在不遠的將來,還有什么人類的書面考試是機器不能通過的呢,可能會越來越少。AGI一次次地證明“死記硬背+簡單推理”就能通過大多數(shù)考試。我們是否應該反思當前的教育體制。至少我們當前的教育評測可能是違背教育的本原與初心的。以創(chuàng)新為根本目的的教育卻往往迷失在了無意義的評測之中。先進的人工智能不斷地把機器培養(yǎng)成人,而落后的教育不斷地把人培養(yǎng)成機器。人類的教育到了需要徹底反思的時刻了。教師所承擔的“傳道、授業(yè)、解惑”等職能,在AGI的加持下,只剩下“傳道”這一根本功能。教育的教學功能將逐漸退出歷史舞臺,育人的功能在機器具備完整人格之前仍要由人類完成。歸結(jié)到底,教育如何迎接AGI的挑戰(zhàn)與機遇?AGI是否會促成教育變革?會引發(fā)哪些具體的變革?

對于政治而言,AGI已經(jīng)變成一種先進生產(chǎn)力,勢必需要革新生產(chǎn)關(guān)系。社會結(jié)構(gòu)如何調(diào)整才能適應AGI技術(shù)的快速進步?社會的轉(zhuǎn)型往往伴隨著陣痛,而這次由AGI所引發(fā)的陣痛將遠超歷次。如果AGI掌握在少數(shù)人手中而無法實現(xiàn)民主化,那么是否會形成新的技術(shù)霸權(quán)?如何防止或者破除這種技術(shù)霸權(quán)?更進一步, AGI是否會成為一種新型的國家競爭力?我們又該如何從國家關(guān)系的角度來看待AGI的發(fā)展?在AGI技術(shù)的推動下,整個社會有向“少數(shù)精英+智能機器”新結(jié)構(gòu)演變的趨勢,因為少部分社會精英在掌握了調(diào)教智能機器的技藝之后就能操控接近無窮的智能機器,進而形成接近無限的生產(chǎn)力。那么,大部分人類如何避免成為“快樂的豬”的命運?社會結(jié)構(gòu)的失衡又會帶來一系列連鎖反應。新的生產(chǎn)關(guān)系勢必要求每個社會個體重新審視自己的存在意義,整個社會需要重新架構(gòu)新的價值體系與道德體系。我們的社會必須做好充分的準備以應對相應的影響。

對于公共管理而言,AGI或許會帶來全新的機遇。在公共管理與社會治理中,機器的理性和公平正是理想決策所需要的,那么機器會有多大程度干預人類的公共事務?人類社會的公共管理與社會治理將以怎樣一種態(tài)度擁抱AGI的發(fā)展?哪些決策任務可以交給效率更高的機器?在AGI能力的加持下,機器能否兼顧公共管理所追求的公平與效率?是否會因為AGI的發(fā)展,引發(fā)公共管理與決策的變革?相信,很多問題會伴隨著實踐的增多得到更為清晰的解答。

除了這些學科的問題之外,還有很多共性問題需要深入思考。以大模型為代表的AGI發(fā)展已經(jīng)遠遠超過了我們對其理解、消化與吸收的程度。人類有限的認知能力難以理解快速發(fā)展的通用人工智能,是當前人類社會發(fā)展所面臨的根本矛盾之一。我們當前的一切恐慌、擔憂都是來自于這一根本矛盾。理解落后于技術(shù)實現(xiàn)將會帶來一系列技術(shù)、社會、法律與倫理風險。我們?nèi)绾尉徍瓦@一根本矛盾?我們是不是真的應該像有些專家所說那樣放慢AGI的發(fā)展節(jié)奏,給AGI的快速發(fā)展按下暫停鍵?如果我們的智能是人之為人的尊嚴所在,那么無疑AGI正在嚴峻地挑戰(zhàn)人類的尊嚴。我們?nèi)绾魏葱l(wèi)人類智能的尊嚴,還是徹底投降躺平?跨學科研究會否是應對AGI對人類智能挑戰(zhàn)的唯一出路?所有細分學科在AGI這個全才面前多少顯得卑微。未來,是否只存在唯一一門學科叫做綜合學科?傳統(tǒng)自然與人文學科是否會被邊緣化,進而退化成為一種僅具展覽價值供人類后代回憶的“古老技藝”?

AGI的成功是否宣告了領(lǐng)域人工智能是個偽命題?中國傳統(tǒng)文化提倡經(jīng)世致用。發(fā)展領(lǐng)域人工智能是我們十分容易接受的戰(zhàn)略,遠比發(fā)展“瘋狂”的通用人工智能更顯得合理。然而這樣的思維方式對于思考AGI這個前所未有的技術(shù)革命是否是個錯誤? AGI是否會革新科學研究范式? AGI for Science、Language Model for Science是否會成為新的研究范式?AGI for Science之后的科學研究又會是一種怎樣的局面?AGI for Science會不會終結(jié)傳統(tǒng)自然與人文科學。AGI的每一步發(fā)展都在葬送人類的某項“傳統(tǒng)技藝”。借助第一性思維,我們必須思考AGI發(fā)展的終極狀態(tài)以及AGI的能力是否存在上限等問題。

在最后,我想有必要跳脫現(xiàn)有思維框架對一個前提問題進行思考,目前為止我們對AGI的所有思考仍是借用了傳統(tǒng)認知框架與知識體系,這會不會是個錯誤?我們要十分警惕這個錯誤的可能性。畢竟沒人希望看到人類最終落得“人工智能的引導程序”的命運。

(作者肖仰華,系復旦大學教授、上海市數(shù)據(jù)科學重點實驗室主任。二八法則,是工業(yè)時代的邏輯;而在智能時代,則是2%/98%的邏輯。如何成為智能時代2%的受益者?“當見未萌”,讓我們加入浪潮吧。本專欄由計算機學界專業(yè)人士為澎湃科技讀者特供。)

 

    責任編輯:邵文
    校對:徐亦嘉
    澎湃新聞報料:021-962866
    澎湃新聞,未經(jīng)授權(quán)不得轉(zhuǎn)載
    +1
    收藏
    我要舉報
            查看更多

            掃碼下載澎湃新聞客戶端

            滬ICP備14003370號

            滬公網(wǎng)安備31010602000299號

            互聯(lián)網(wǎng)新聞信息服務許可證:31120170006

            增值電信業(yè)務經(jīng)營許可證:滬B2-2017116

            ? 2014-2024 上海東方報業(yè)有限公司

            反饋
            现金百家乐| 威尼斯人娱乐场积分| 大西洋娱乐城开户地址| 女优百家乐官网的玩法技巧和规则 | 威尼斯人娱乐城地图| 百家乐官网决战推筒子| 百家乐的寻龙定穴| 高碑店市| 百家乐策略介绍| 请问下百家乐官网去哪个娱乐城玩最好呢 | 运城百家乐官网的玩法技巧和规则| 沙龙国际在线| 百家乐娱乐平台备用网址| 百家乐官网园小区户型图| 二八杠怎么赢钱| 24 山杨公斗首择日吉凶| 台安县| 棋牌类单机游戏下载| 网上尊龙国际娱乐| 在线百家乐作弊| 百家乐7scs娱乐网| 678百家乐官网博彩娱乐网| 大发888song58| 百家乐桌定制| 百家乐官网永利娱乐| 广汉市| 德州百家乐21点桌| 网上百家乐赌场| 七匹狼百家乐官网的玩法技巧和规则 | 威尼斯人娱乐城骰宝| 温州百家乐的玩法技巧和规则| 百家乐视频双扣| 饶平县| 大发888娱乐场 888| 在线百家乐博彩| 24山风水发几房| 新东方百家乐官网娱乐城| 百家乐官网心术| 赌场百家乐官网网站| 百家乐官网网上最好网站| 网络博彩公司|