今年以來，隨著生成式人工智能的發(fā)展，“AI幻覺”進(jìn)入大眾視野，受到關(guān)注和討論。“AI幻覺”指大語言模型編造其認(rèn)為是真實(shí)存在的甚至看起來合理或可信的信息。

3月21日，在2025國際基礎(chǔ)科學(xué)大會(huì)（ICBS 2025）新聞發(fā)布會(huì)上，圖靈獎(jiǎng)得主、中國科學(xué)院院士、清華交叉信息研究院院長姚期智，在談及未來AI發(fā)展的重點(diǎn)及挑戰(zhàn)時(shí)表示，我們需要更多地關(guān)注AI安全方面的問題，并做好相關(guān)研究。AI幻想或者說幻覺以及它生成式的答案等，對使用AI來進(jìn)行關(guān)鍵應(yīng)用會(huì)帶來一些風(fēng)險(xiǎn)。如果在一些重點(diǎn)的應(yīng)用程序當(dāng)中不能保證其安全性，就會(huì)存在一些漏洞。了解AI為什么會(huì)出現(xiàn)這種不安全的現(xiàn)象很重要，因?yàn)閺膽?yīng)用層面來說，只有安全的AI技術(shù)才能贏得市場。

姚期智強(qiáng)調(diào)，我們?nèi)匀恍枰芏嗟睦碚撗芯縼砑由顚I的了解，從而更好地控制它，以實(shí)現(xiàn)更好的AI算法。“我們看到，目前AI前沿研究更像是實(shí)驗(yàn)科學(xué)——我們?nèi)〉昧撕芏喑删停泻芏嗟臄?shù)據(jù)，但我們不太了解到底是為什么。所以我覺得這方面還需要進(jìn)一步擴(kuò)展，我們需要更好、更加深入地來了解AI的原理和基準(zhǔn)。”姚期智說。

姚期智認(rèn)為，未來，不僅要防止一些濫用AI的問題，還要考慮商業(yè)安全性這類的問題。從科學(xué)的角度來說，必須要了解AI的安全邊界，需要在AI領(lǐng)域做出更多理論探索。

自從Open AI到DeepSeek，生成式人工智能的主力軍大多數(shù)是90后、95后甚至00后，為什么會(huì)有這樣一個(gè)現(xiàn)象？這種現(xiàn)象背后的技術(shù)代際躍遷邏輯是什么？

關(guān)于這些問題，姚期智在會(huì)上表示，現(xiàn)在有這么多年輕學(xué)者在人工智能領(lǐng)域做出重大貢獻(xiàn)，主要與人工智能的發(fā)展路線有關(guān)。

姚期智說，人工智能科學(xué)已經(jīng)存在了很多年，有七八十年的歷史；而最近大模型的出現(xiàn)，改變了人工智能學(xué)科的整個(gè)形式。

“大模型的出現(xiàn)，相當(dāng)于我們在以前試過的很多條路線里面，發(fā)現(xiàn)了一條帶給我們想不到的驚人能力的路徑，它甚至解決了圖靈測試這個(gè)原始的最重要的問題。這條路線從技術(shù)上來講，不像數(shù)學(xué)、物理那樣需要那么多復(fù)雜的數(shù)學(xué)、物理基礎(chǔ)。這使得做人工智能領(lǐng)域的前沿研究，相對容易著手、容易接近。”姚期智表示，“所以很多年輕人在學(xué)了大學(xué)本科課程以后，就已經(jīng)看到了人工智能的前沿。這就是為什么DeepSeek背后100多個(gè)了不起的年輕人能夠做出這些工作成果。這是一件非常令人興奮的事，它使中國在人工智能學(xué)科發(fā)展中獲得了有利地位。”