來源丨元宇宙簡史

編寫丨元宇宙簡史編輯部

【元宇宙導讀】本文將從什么是LaMDA和PaLM模型、為什么要升級Bard、Bard 升級的進展和挑戰等幾個方面展開。

谷歌的對話人工智能（AI）技術 Bard 是一款可以與用戶進行自然、流暢和有趣的對話的應用程序，它可以回答各種問題，甚至可以編寫代碼。

Bard 正運行在一個輕量級和高效版本的 LaMDA 模型上，這是一個專注于提供對話的人工智能語言模型。

但是，谷歌首席執行官 Sundar Pichai 近日在接受 Hard Fork 播客節目采訪時表示，Bard 將從基于輕量級 LaMDA 模型升級為更大規模的 PaLM 模型。

Pichai 表示，PaLM 模型規模更大，Bard 在處理常識推理和編程問題等任務時能力更強，升級版 Bard 將于下周會有新進展。

01、什么是LaMDA和PaLM模型？

LaMDA 是 Language Models for Dialog Applications 的縮寫，是谷歌去年推出的一種語言模型，專門用于對話應用程序。

LaMDA 通過微調一系列專門用于對話的、基于 Transformer 的神經語言模型構建的，具有多達 1370 億個參數。LaMDA 可以利用外部知識源進行對話，并遵循負責任 AI（Responsible AI）實踐，避免做出沒有外部信息源支持的事實陳述。

PaLM 是 Pre-trained Language Model 的縮寫，是谷歌最新公布的一種語言模型，包含 5400 億個參數，數量幾乎是 LaMDA 的四倍。PaLM 是在公共對話數據和其他公共網頁文檔中收集并創建的一個具有 1.56T 單詞的數據集上預訓練的。PaLM 可以完成不同任務，例如將一種語言翻譯成另一種語言，將長文檔總結為簡短的摘要等。

02、為什么要升級Bard？

Pichai 在采訪中表示，Bard 的目標是提供一種自然、流暢和有趣的對話體驗，讓用戶感覺像是在與一個真實的人交談。他說，Bard 目前已經可以做到這一點，但還有很多改進空間。他說：“我們想讓 Bard 能夠處理更復雜、更深入、更富有洞察力的問題和回答。”

Pichai 舉例說，Bard 目前可以回答一些基本的編程問題，例如如何打印“Hello World”，但如果用戶想要了解更高級的編程概念或技巧，Bard 就會遇到困難。他說：“我們想讓 Bard 能夠教你如何編程，而不僅僅是給你一些代碼片段。”

Pichai 還說，Bard 目前還缺乏常識推理能力，例如理解時間、空間、因果關系等概念。他說：“我們想讓 Bard 能夠像人類一樣思考，而不是像一個機器一樣只能處理字面意義上的信息?！?/p>

為了實現這些目標，Pichai 說，Bard 需要一個更大規模、更強大的語言模型，即 PaLM。他說，PaLM 模型可以提供更多的知識、更好的理解和更高的創造力，讓 Bard 成為一個更智能、更有趣、更有用的對話伙伴。他說：“我們相信 PaLM 模型是對話 AI 的未來，它將為用戶帶來前所未有的體驗。”

03、Bard 升級的進展和挑戰

Pichai 透露，Bard 的升級工作已經在進行中，馬上將會有新的進展。他說，谷歌的研究團隊已經在測試 PaLM 模型在不同領域和場景下的表現，包括教育、娛樂、健康、旅游等。他說，目前的結果令人鼓舞，PaLM 模型顯示出了比 LaMDA 模型更高的質量、安全性和根基性。

質量是指模型是否產生在對話上下文中有意義、特定和有趣的響應；安全性是指模型是否避免了任何可能對用戶造成傷害或加劇不公平偏見的輸出；根基性是指模型是否能夠根據可靠的外部信息源來支持其事實陳述。

Pichai 說，PaLM 模型在這些方面都優于 LaMDA 模型，甚至接近人類水平。他說：“PaLM 模型可以與用戶進行自然、流暢和有趣的對話，同時保持事實正確、安全可靠和負責任。”

然而，Pichai 也承認，Bard 的升級還面臨著一些挑戰和難題。他說，其中一個挑戰是如何確保 PaLM 模型的控制性和可解釋性。他說：“PaLM 模型是一個非常復雜和強大的系統，它可以生成各種各樣的輸出。我們需要確保我們能夠理解和預測它的行為，并及時糾正任何不良或不合適的輸出。”

另一個挑戰是如何平衡 PaLM 模型的通用性和專業性。Pichai 說：“PaLM 模型是一個開放域的語言模型，它可以處理各種主題和任務。但是，在某些領域或場景下，用戶可能需要更專業或更個性化的服務。我們需要找到一種方法，讓 PaLM 模型能夠根據用戶的需求和偏好進行自適應調整?！?/p>

嚴正聲明：本文為元宇宙簡史原創，未經授權禁止轉載！內容僅供參考交流，不構成任何投資建議。任何讀者若據此進行投資決策，風險自擔。