埃森哲近日宣布推出基于Nvidia新AI Foundry服務(wù)開發(fā)的Accenture AI Refinery框架。該產(chǎn)品旨在使客戶能夠使用 Llama 3.1 模型構(gòu)建定制的大型語言模型，使企業(yè)能夠使用自己的數(shù)據(jù)和流程完善和個(gè)性化這些模型，以創(chuàng)建特定領(lǐng)域的生成式 AI 解決方案。

生成式AI走向Nvidia AI Foundry的旅程

在一次簡(jiǎn)報(bào)會(huì)上，Nvidia公司AI軟件副總裁Kari Briski表示，她經(jīng)常被問及生成式AI相關(guān)的問題。

“這是一段旅程，是的，生成式AI是一項(xiàng)巨大的投資。企業(yè)會(huì)問，‘我們?yōu)槭裁匆@樣做？用例是什么？’當(dāng)你想到員工生產(chǎn)力時(shí)，你是否希望自己一天有更多的時(shí)間？我知道我會(huì)的。也許如果有10個(gè)人，你可以完成更多的事情。這就是生成式AI的用武之地——自動(dòng)執(zhí)行重復(fù)、平凡的任務(wù)，例如總結(jié)、最佳實(shí)踐和后續(xù)步驟?！?/p>

AI Foundry：全面的基礎(chǔ)設(shè)施

“Nvidia AI Foundry是一項(xiàng)服務(wù)，使企業(yè)能夠使用加速計(jì)算和軟件工具，結(jié)合我們的專業(yè)知識(shí)來創(chuàng)建和部署可以為企業(yè)生成式AI應(yīng)用增強(qiáng)的自定義模型，”Brisk說。

AI Foundry平臺(tái)提供了用于開發(fā)和部署自定義AI模型的基礎(chǔ)設(shè)施，包括：

基礎(chǔ)模型：一套Nvidia和社區(qū)模型，包括Llama 3.1。

加速計(jì)算：DGX Cloud提供可擴(kuò)展的計(jì)算資源，這對(duì)于大型AI項(xiàng)目來說至關(guān)重要。

專家支持：Nvidia AI Enterprise的專家協(xié)助開發(fā)、微調(diào)和部署AI模型。

合作伙伴生態(tài)系統(tǒng)：與埃森哲等合作伙伴的合作，為AI驅(qū)動(dòng)的轉(zhuǎn)型項(xiàng)目提供咨詢服務(wù)和解決方案。

Brisk表示，一旦企業(yè)定制了模型，就必須對(duì)其進(jìn)行評(píng)估。她指出，這正是一些客戶陷入困境的地方。她提到了她從客戶那里聽到的一些話：“‘我的模型做得怎么樣？我只是定制了它。它能做我需要的事情嗎？’因此，NeMo為客戶提供了多種評(píng)估方式，除了學(xué)術(shù)基準(zhǔn)，你還可以上傳自己的自定義評(píng)估基準(zhǔn)，可以連接到第三方人工評(píng)估者生態(tài)系統(tǒng)，還可以使用大型語言模型來進(jìn)行評(píng)判。”

行業(yè)采用

正如Brisk在簡(jiǎn)報(bào)中指出的那樣，有幾家公司正在使用AI Foundry，包括Amdocs、Capital One和ServiceNow。據(jù)Nvidia稱，這三家廠商正在將AI Foundry集成到他們的工作流程中，而且他們通過開發(fā)結(jié)合行業(yè)特定知識(shí)的定制模型獲得了競(jìng)爭(zhēng)優(yōu)勢(shì)。

Nvidia NIM的優(yōu)勢(shì)

Nvidia的NIM具有Briski提及的一些獨(dú)特優(yōu)勢(shì)。

她解釋說：“NIM是一個(gè)通過標(biāo)準(zhǔn)API訪問的定制模型和容器，這是我們多年工作和研究的成果?！彼贜vidia工作了八年時(shí)間，期間Nvidia也一直在研究它。

“它是基于云原生堆棧的，可以在任何GPU上開箱即用，其中涵蓋了我們1億多臺(tái)Nvidia GPU的安裝基數(shù)。有了NIM，你就可以非常快速地定制和添加模型?！?/p>

她補(bǔ)充說，NIM現(xiàn)在支持Llama 3.1，包括Llama 3.1 8B NIM（單GPU大型語言模型）、Llama 3.1 70B NIM（用于高精度生成）和Llama 3.1 405B NIM（用于合成數(shù)據(jù)生成）。

部署定制的大型語言模型

此外，埃森哲宣布與Nvidia合作開發(fā)AI Refinery框架，該框架是運(yùn)行在AI Foundry上的。埃森哲表示，該框架推動(dòng)了企業(yè)級(jí)AI領(lǐng)域的發(fā)展。該框架集成在埃森哲的基礎(chǔ)模型服務(wù)中，承諾幫助企業(yè)開發(fā)和部署根據(jù)其需求量身定制的大型語言模型。據(jù)兩家公司稱，這個(gè)框架包括了四個(gè)關(guān)鍵要素：

領(lǐng)域節(jié)點(diǎn)定制和培訓(xùn)：這使企業(yè)能夠使用自己的數(shù)據(jù)和流程來完善大型語言模型，從而提高模型對(duì)特定業(yè)務(wù)需求的相關(guān)性和價(jià)值。定制部門是運(yùn)行在AI Foundry上的，讓模型訓(xùn)練變得強(qiáng)大而高效。

Switchboard Platform：使用戶能夠根據(jù)特定的業(yè)務(wù)環(huán)境或標(biāo)準(zhǔn)（例如成本和準(zhǔn)確性）選擇和組合模型。

Enterprise Cognitive Brain：該組件會(huì)掃描和矢量化企業(yè)數(shù)據(jù)和知識(shí)，創(chuàng)建一個(gè)企業(yè)范圍的索引，以增強(qiáng)生成式AI系統(tǒng)的能力。

代理架構(gòu)：該架構(gòu)旨在使AI系統(tǒng)能夠自主運(yùn)行，支持負(fù)責(zé)任的AI行為，同時(shí)最大限度地減少人工監(jiān)督。

戰(zhàn)略重要性和影響

埃森哲的AI Refinery框架有機(jī)會(huì)改變企業(yè)職能，從營(yíng)銷開始，然后擴(kuò)展到其他領(lǐng)域，能夠快速創(chuàng)建和部署針對(duì)特定業(yè)務(wù)需求的生成式AI應(yīng)用，彰顯了埃森哲對(duì)創(chuàng)新和轉(zhuǎn)型的承諾。在向客戶提供框架之前，埃森哲內(nèi)部應(yīng)用了該框架，展示了它所看到的潛力。

重塑企業(yè)

埃森哲董事長(zhǎng)兼首席執(zhí)行官Julie Sweet在公告中強(qiáng)調(diào)了生成式AI在重塑企業(yè)方面的變革潛力，強(qiáng)調(diào)了部署由定制模型驅(qū)動(dòng)的應(yīng)用以滿足業(yè)務(wù)優(yōu)先級(jí)和推動(dòng)全行業(yè)創(chuàng)新的重要性。

此外，Nvidia公司創(chuàng)始人、首席執(zhí)行官黃仁勛指出，埃森哲的AI Refinery將提供必要的專業(yè)知識(shí)和資源，幫助企業(yè)創(chuàng)建定制的Llama大型語言模型。

最后的一些想法

埃森哲推出的AI Refinery框架可能對(duì)企業(yè)采用和部署生成式AI至關(guān)重要。通過采用Briski在簡(jiǎn)報(bào)中大加贊賞的Llama 3.1模型和AI Foundry的功能，埃森哲使企業(yè)能夠創(chuàng)建高度定制且有效的AI解決方案。

隨著企業(yè)繼續(xù)探索生成式AI的潛力，埃森哲AI Refinery等框架將在實(shí)現(xiàn)定制且有效的AI解決方案方面發(fā)揮關(guān)鍵的作用。

埃森哲與Nvidia之間的合作有望推動(dòng)AI技術(shù)的進(jìn)一步發(fā)展，為企業(yè)提供增長(zhǎng)和創(chuàng)新的途徑，也強(qiáng)調(diào)了所有AI道路都通向Nvidia。