圖靈獎得主、中國科學院院士姚期智在“科學前沿與顛覆性技術”論壇上發言。

人臉識別、自動駕駛、語音識別、語義理解，人工智能已經在醫療、教育、交通等領域有了很好的應用落地。看上去，如今的人工智能已經取得了巨大突破。

但回到技術本身，在姚期智看來，人工智能仍有自己的發展限制和需要突破的地方。在上海舉辦的第三屆世界頂尖科學家“科學前沿與顛覆性技術”論壇上，圖靈獎得主、中國科學院院士姚期智就講到上述話題。

人工智能需要突破的第一個瓶頸是如何保證算法的穩健性。在人臉識別技術上，AI已經可以做的比人類好了，但他們的穩定性和人類相比仍有差距。姚期舉了一個例子：自動駕駛領域，自動駕駛汽車能識別車輛和行人。但如果有人給系統增加了變動，系統將紅燈或者停車標志識別錯誤，那就會發生非常嚴重的交通事故。

第二個需要突破是AI算法的可解釋性。人工智能目前已經在環境、醫藥、教育等領域有了廣泛應用，我們對于AI的依賴會越來越高。如何判定一個算法被大眾接受，廣泛使用，姚期智認為需要滿足一些標準。

同樣的，姚期智舉了一個例子。假設有一個給房屋評估的AI程序，可以對房屋進行評估。這個算法可以根據輸入的房屋數據、周邊情況和其他數據，給房子做出評估。你進行操作后，發現自家房子只值200萬，那你可能會不高興了，因為你自己覺得房子能值400萬。AI為什么會根據算法給你的房子評估出200萬的價值，你可能會懷疑中介在中間做了手腳。這中間就會引發法律糾紛。因此，如何去解釋AI算法做出決策的關鍵就非常重要。但現在科學家仍無法解釋AI算法。

人工智能領域遇到的第三問題是超級AI已經來了嗎？姚期智說，很多人都在講人工智能的威脅。但我們究竟如何去理解一般AI和超級AI，這是我們需要在概念上突破的，這是個開放性問題

“現在機器學習能力大幅改進，人們開始相信在未來十年、五十年，我們能夠看到AI能與人類具有可比性，但我們的問題就在于要不要控制AI。”姚期智說。