在未來，機(jī)器取代科學(xué)家這樣的“技術(shù)奇點(diǎn)”是否會出現(xiàn)？

“目前，這個奇點(diǎn)的出現(xiàn)會更接近于科幻小說，而不是現(xiàn)實(shí)世界。但技術(shù)奇點(diǎn)肯定會出現(xiàn)在人工智能非常發(fā)達(dá)的時(shí)代，發(fā)達(dá)到機(jī)器可以在方方面面取代人類心智的程度。”2013年沃爾夫物理學(xué)獎得主伊格納西奧·西拉克（Ignacio Cirac）在第四屆世界頂尖科學(xué)家論壇上做出如上預(yù)測。

這不僅是科學(xué)界的一個風(fēng)險(xiǎn)，也將是地球和人類面臨的巨大風(fēng)險(xiǎn)。因此，在積極鼓勵顛覆性技術(shù)創(chuàng)新的同時(shí)，亟須科學(xué)的管理方式和前瞻性的治理理念對其進(jìn)行科學(xué)、合規(guī)、有序的管理與引導(dǎo)。

11月1日，在世界頂尖科學(xué)家國際協(xié)作論壇II：科技發(fā)展與前瞻治理上，西拉克和1988年諾貝爾化學(xué)獎得主羅伯特?胡貝爾（Robert Huber）、2020年邵逸夫生命科學(xué)和醫(yī)學(xué)獎的得主吉羅?麥森伯克（Gero Miesenboeck）以及上海交通大學(xué)物理與天文學(xué)院長特聘教授、博導(dǎo)金賢敏等頂尖科學(xué)家聚焦顛覆性技術(shù)創(chuàng)新的特性，探討如何構(gòu)建科學(xué)的、具備前瞻性的治理體系，并就具體的治理程序制定提出合理建議。

伊格納西奧?西拉克

伊格納西奧?西拉克現(xiàn)任德國馬克斯?普朗克量子光學(xué)研究所主任。他指出，科學(xué)技術(shù)的顛覆一直存在于我們?nèi)祟惿鐣校踔量梢宰匪莸角嚆~時(shí)代。相比之前的科技顛覆，一方面，現(xiàn)在科技顛覆發(fā)生的速度太快，人類很難趕上并且認(rèn)識所有的顛覆；另一方面，現(xiàn)在的科技顛覆具有不均衡性和挑戰(zhàn)性，主要體現(xiàn)在如何將技術(shù)傳遞給第三世界和不發(fā)達(dá)國家。

對于技術(shù)奇點(diǎn)的問題，西拉克認(rèn)為技術(shù)奇點(diǎn)的出現(xiàn)與人工智能的發(fā)展息息相關(guān)。

“有人會說，人類的靈感是無可取代的。這是因?yàn)槿祟惤邮樟舜罅啃畔ⅲ谔幚磉@些信息后，形成了某種特定方式作出反應(yīng)。如果機(jī)器也能像人類這樣收集信息，那么至少在理論上，人類能做到的，機(jī)器也能做到。”西拉克解釋道，“到那時(shí)，機(jī)器就可能取代科學(xué)家，也能超越人類。當(dāng)然，這個時(shí)間可能會很長，目前科學(xué)家們預(yù)計(jì)可能會在未來1000年后會出現(xiàn)。”

羅伯特?胡貝爾

在當(dāng)今社會，生物科學(xué)技術(shù)和醫(yī)學(xué)上有任何的新突破、新發(fā)現(xiàn)，都會影響著人類與社會發(fā)展的步伐。羅伯特?胡貝爾出生于1937年，從事結(jié)構(gòu)生物學(xué)研究工作60多年，幾乎包攬了生命科學(xué)和醫(yī)學(xué)領(lǐng)域的各種大獎，他以自己的科研經(jīng)歷向人們介紹了科學(xué)技術(shù)帶來的變革。因“確定了光合作用反應(yīng)中心的三維結(jié)構(gòu)”，獲得了 1988 年諾貝爾化學(xué)獎。

第一個是超分辨率技術(shù)如顯微鏡、核磁共振顯像、x射線晶體衍射等，這些新技術(shù)改變了我們看待生物學(xué)的方式，尤其在醫(yī)學(xué)診斷領(lǐng)域；第二個事例是生物結(jié)晶領(lǐng)域，20世紀(jì)60年代早期增長非常緩慢，20多年后呈指數(shù)級增長，膜蛋白也是如此，這都要?dú)w功于技術(shù)的進(jìn)步。

吉羅?麥森伯克

吉羅?麥森伯克是神經(jīng)學(xué)科學(xué)家，是光遺傳學(xué)的創(chuàng)始人，也是第一個通過基因改造神經(jīng)細(xì)胞的科學(xué)家。他分享了近50年重組DNA技術(shù)的安全風(fēng)險(xiǎn)引起了民眾的擔(dān)憂，以及科學(xué)家采取的措施。

“在20世紀(jì)60年代末分離出第一個基因后，大家就呼吁就基因進(jìn)步加速的社會倫理層面進(jìn)行對話，隨后人們開始關(guān)注致癌病毒的傳染性，但真正點(diǎn)燃激烈爭論導(dǎo)火索的是分子生物學(xué)家。”麥森伯克說道，“因?yàn)閷τ诿恳粋€有能力的分子生物學(xué)家來說，在物種之間傳遞基因信息是很容易的。盡管只是假設(shè)，但這些風(fēng)險(xiǎn)在理論上是存在的，這導(dǎo)致了許多科學(xué)家自愿暫停這項(xiàng)被認(rèn)為具有潛在危險(xiǎn)的實(shí)驗(yàn)。”

在論壇上，三位頂尖科學(xué)家都認(rèn)為，科技發(fā)展對社會的影響具有兩面性，顛覆性技術(shù)極大地加速了社會經(jīng)濟(jì)的發(fā)展，同時(shí)也在以潛入和替代的方式從根本上顛覆傳統(tǒng)（主流）技術(shù)，并引發(fā)相應(yīng)規(guī)則和格局的變革，影響重大。因此，在鼓勵顛覆性技術(shù)創(chuàng)新的同時(shí)，對科學(xué)技術(shù)進(jìn)行合理有序的規(guī)范和治理，才是為人類社會生活、生命健康謀福利的最好方式。

他們一致認(rèn)為，食物、能源、和平，和科學(xué)技術(shù)一樣，對人類的發(fā)展都十分重要，而音樂、藝術(shù)、文學(xué)等則從精神層面滿足人類的需求。在構(gòu)建治理體系中，除了科研機(jī)構(gòu)的自我約束、加強(qiáng)國際協(xié)作、政府機(jī)構(gòu)起到監(jiān)督協(xié)調(diào)作用外，最關(guān)鍵是要制定一套規(guī)則和體系，設(shè)立一個由科學(xué)家和有科學(xué)素養(yǎng)的公眾成員組成的獨(dú)立機(jī)構(gòu)。比如技術(shù)評估機(jī)構(gòu)，它不僅僅是對科學(xué)質(zhì)量進(jìn)行評估，還對技術(shù)成果的管理、商業(yè)化、獲取途徑，提供獨(dú)立的建議和報(bào)告。