麥肯錫九項(xiàng)行動(dòng)的核心是:在戰(zhàn)略上,需明確AI立場(chǎng)并識(shí)別高價(jià)值用例;在技術(shù)與數(shù)據(jù)上,需升級(jí)企業(yè)與數(shù)據(jù)架構(gòu)以支持多模型編排;在組織與人才上,需重塑IT職能、建立集中的AI平臺(tái)團(tuán)隊(duì)并進(jìn)行定制化的技能提升;最后,在風(fēng)險(xiǎn)上,需建立新的治理與緩解措施。

幾乎每一天,媒體上都會(huì)出現(xiàn)一些與生成式AI相關(guān)的、足以顛覆商業(yè)的進(jìn)展。這種興奮是理所應(yīng)當(dāng)?shù)摹溈襄a的研究估計(jì),生成式AI每年可能增加相當(dāng)于2.6萬(wàn)億至4.4萬(wàn)億美元的價(jià)值。
CIO(首席信息官)和CTO(首席技術(shù)官)在捕獲這一價(jià)值方面扮演著關(guān)鍵角色,但值得記住的是,我們以前也看過(guò)這部電影。新技術(shù)不斷涌現(xiàn)——互聯(lián)網(wǎng)、移動(dòng)設(shè)備、社交媒體——引發(fā)了一場(chǎng)試驗(yàn)和試點(diǎn)的混戰(zhàn),盡管重大的商業(yè)價(jià)值往往更難獲得。從那些發(fā)展中學(xué)到的許多教訓(xùn)仍然適用,尤其是在如何超越試點(diǎn)階段以達(dá)到規(guī)?;矫妗?duì)于CIO和CTO來(lái)說(shuō),生成式AI的熱潮提供了一個(gè)獨(dú)特的機(jī)會(huì),可以應(yīng)用這些教訓(xùn)來(lái)指導(dǎo)高管層,將生成式AI的承諾轉(zhuǎn)化為企業(yè)的可持續(xù)價(jià)值。
通過(guò)與數(shù)十位技術(shù)領(lǐng)導(dǎo)者的對(duì)話,以及對(duì)50多家公司(包括我們自己)的生成式AI項(xiàng)目的分析,我們確定了所有技術(shù)領(lǐng)導(dǎo)者可以采取的九項(xiàng)行動(dòng),以創(chuàng)造價(jià)值、編排技術(shù)和數(shù)據(jù)、規(guī)?;鉀Q方案并管理生成式AI的風(fēng)險(xiǎn):
迅速行動(dòng),確定公司對(duì)采納生成式AI的立場(chǎng),并制定面向員工的實(shí)用溝通方式和適當(dāng)?shù)脑L問(wèn)權(quán)限。
重塑業(yè)務(wù),識(shí)別通過(guò)提高生產(chǎn)力、增長(zhǎng)和新商業(yè)模式來(lái)構(gòu)建價(jià)值的用例。發(fā)展一種能夠估算生成式AI真實(shí)成本和回報(bào)的“金融AI”(FinAI)能力。
重塑技術(shù)職能,專注于在軟件開(kāi)發(fā)中快速構(gòu)建生成式AI能力,加速減少技術(shù)債務(wù),并大幅減少IT運(yùn)營(yíng)中的手動(dòng)工作。
利用現(xiàn)有服務(wù)或調(diào)整開(kāi)源生成式AI模型來(lái)發(fā)展專有能力(構(gòu)建和運(yùn)營(yíng)自己的生成式AI模型至少在短期內(nèi)可能耗資數(shù)千萬(wàn)至數(shù)億美元)。
升級(jí)您的企業(yè)技術(shù)架構(gòu),以集成和管理生成式AI模型,并編排它們?nèi)绾蜗嗷f(xié)作以及與現(xiàn)有的AI和機(jī)器學(xué)習(xí)(ML)模型、應(yīng)用程序和數(shù)據(jù)源協(xié)同工作。
開(kāi)發(fā)一個(gè)數(shù)據(jù)架構(gòu),以通過(guò)處理結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)源來(lái)支持對(duì)高質(zhì)量數(shù)據(jù)的訪問(wèn)。
創(chuàng)建一個(gè)集中的、跨職能的生成式AI平臺(tái)團(tuán)隊(duì),按需為產(chǎn)品和應(yīng)用團(tuán)隊(duì)提供經(jīng)批準(zhǔn)的模型。
投資于關(guān)鍵角色的技能提升——軟件開(kāi)發(fā)人員、數(shù)據(jù)工程師、MLOps工程師和安全專家——以及更廣泛的非技術(shù)員工。但您需要根據(jù)角色和熟練程度定制培訓(xùn)項(xiàng)目,因?yàn)樯墒紸I的影響各不相同。
評(píng)估新的風(fēng)險(xiǎn)格局并建立持續(xù)的緩解實(shí)踐,以應(yīng)對(duì)模型、數(shù)據(jù)和策略方面的問(wèn)題。
1. 確定公司對(duì)采納生成式AI的立場(chǎng)
隨著生成式AI的使用日益廣泛,我們看到CIO和CTO通過(guò)阻止員工訪問(wèn)公開(kāi)可用的應(yīng)用程序來(lái)限制風(fēng)險(xiǎn)。這樣做,這些公司可能會(huì)錯(cuò)失創(chuàng)新機(jī)會(huì),一些員工甚至認(rèn)為這些舉動(dòng)限制了他們培養(yǎng)重要新技能的能力。
相反,CIO和CTO應(yīng)與風(fēng)險(xiǎn)負(fù)責(zé)人合作,在風(fēng)險(xiǎn)緩解的實(shí)際需求與在業(yè)務(wù)中培養(yǎng)生成式AI技能的重要性之間取得平衡。這需要通過(guò)就業(yè)務(wù)能夠接受的風(fēng)險(xiǎn)水平以及生成式AI如何融入業(yè)務(wù)整體戰(zhàn)略達(dá)成共識(shí),來(lái)確立公司對(duì)生成式AI的立場(chǎng)。這一步使業(yè)務(wù)能夠迅速確定全公司范圍的政策和指導(dǎo)方針。
一旦政策明確定義,領(lǐng)導(dǎo)者應(yīng)將其傳達(dá)給業(yè)務(wù)部門,由CIO和CTO為組織提供適當(dāng)?shù)脑L問(wèn)權(quán)限和用戶友好的指導(dǎo)方針。一些公司已經(jīng)推出了關(guān)于生成式AI的全公司范圍的通訊,為特定用戶群體提供了廣泛的生成式AI訪問(wèn)權(quán)限,創(chuàng)建了在用戶將內(nèi)部數(shù)據(jù)輸入模型時(shí)發(fā)出警告的彈出窗口,并建立了一個(gè)在用戶每次訪問(wèn)公開(kāi)可用的生成式AI服務(wù)時(shí)出現(xiàn)的指導(dǎo)方針頁(yè)面。
2. 識(shí)別通過(guò)提高生產(chǎn)力、增長(zhǎng)和新商業(yè)模式來(lái)構(gòu)建價(jià)值的用例
CIO和CTO應(yīng)該是我們已在許多公司看到的“死于用例”狂熱的解藥。他們最有幫助的方式是與CEO、CFO和其他業(yè)務(wù)領(lǐng)導(dǎo)者合作,思考生成式AI如何挑戰(zhàn)現(xiàn)有商業(yè)模式,開(kāi)啟新模式的大門,并創(chuàng)造新的價(jià)值來(lái)源。憑借對(duì)技術(shù)可能性的深刻理解,CIO和CTO應(yīng)識(shí)別整個(gè)公司中可以從生成式AI中受益的最有價(jià)值的機(jī)會(huì)和問(wèn)題——以及那些不能的。在某些情況下,生成式AI并不是最佳選擇。
例如,麥肯錫的研究表明,生成式AI可以將某些營(yíng)銷用例的生產(chǎn)力提升約10%(例如,通過(guò)分析非結(jié)構(gòu)化和抽象數(shù)據(jù)以了解客戶偏好),并將客戶支持的生產(chǎn)力提升高達(dá)40%(例如,通過(guò)智能機(jī)器人)。CIO和CTO在就如何最好地按領(lǐng)域(如客戶旅程或業(yè)務(wù)流程)或用例類型(如創(chuàng)意內(nèi)容創(chuàng)作或虛擬代理)對(duì)用例進(jìn)行聚類,以使生成式AI產(chǎn)生最大價(jià)值方面,可以提供特別有幫助的見(jiàn)解。識(shí)別機(jī)會(huì)并非最具戰(zhàn)略性的任務(wù)——市面上有很多生成式AI用例——但考慮到人才和能力的初步限制,CIO和CTO將需要提供可行性和資源估算,以幫助業(yè)務(wù)部門確定生成式AI的優(yōu)先順序。
提供這種級(jí)別的建議,要求技術(shù)領(lǐng)導(dǎo)者與業(yè)務(wù)部門合作,發(fā)展一種FinAI能力,以估算生成式AI項(xiàng)目的真實(shí)成本和回報(bào)。成本計(jì)算可能特別復(fù)雜,因?yàn)閱挝唤?jīng)濟(jì)學(xué)必須考慮多個(gè)模型和供應(yīng)商的成本、模型間的交互(一個(gè)查詢可能需要多個(gè)模型的輸入,每個(gè)模型都有自己的費(fèi)用)、持續(xù)的使用費(fèi)以及人工監(jiān)督成本。
3. 重塑技術(shù)職能
生成式AI有潛力徹底改變技術(shù)職能的工作方式。CIO和CTO需要全面審視生成式AI對(duì)技術(shù)所有領(lǐng)域的潛在影響,但迅速采取行動(dòng)以積累經(jīng)驗(yàn)和專業(yè)知識(shí)非常重要。他們可以集中精力于三個(gè)初始領(lǐng)域:
軟件開(kāi)發(fā):麥肯錫的研究表明,生成式AI編碼支持可以幫助軟件工程師開(kāi)發(fā)代碼的速度提高35%至45%,重構(gòu)代碼的速度提高20%至30%,執(zhí)行代碼文檔工作的速度提高45%至50%。生成式AI還可以自動(dòng)化測(cè)試過(guò)程并模擬邊緣案例,使團(tuán)隊(duì)能夠在發(fā)布前開(kāi)發(fā)出更具韌性的軟件,并加速新開(kāi)發(fā)人員的入職過(guò)程(例如,通過(guò)向生成式AI提問(wèn)關(guān)于代碼庫(kù)的問(wèn)題)。要獲得這些好處,將需要大量的培訓(xùn)(詳見(jiàn)行動(dòng)8)以及通過(guò)DevSecOps實(shí)踐自動(dòng)化集成和部署管道,以管理代碼量激增。
技術(shù)債務(wù):技術(shù)債務(wù)可能占到技術(shù)預(yù)算的20%至40%,并顯著減慢開(kāi)發(fā)速度。CIO和CTO應(yīng)審視他們的技術(shù)債務(wù)資產(chǎn)負(fù)債表,以確定生成式AI的能力,如代碼重構(gòu)、代碼翻譯和自動(dòng)測(cè)試用例生成,如何能加速減少技術(shù)債務(wù)。
IT運(yùn)營(yíng)(ITOps):CIO和CTO將需要審視他們的ITOps生產(chǎn)力工作,以確定生成式AI如何能加速流程。生成式AI的能力在自動(dòng)化諸如通過(guò)自助服務(wù)代理進(jìn)行密碼重置、狀態(tài)請(qǐng)求或基本診斷等任務(wù)方面特別有幫助;通過(guò)改進(jìn)路由加速分類和解決;浮現(xiàn)有用上下文,如主題或優(yōu)先級(jí),并生成建議的響應(yīng);通過(guò)分析大量日志流來(lái)提高可觀測(cè)性,以識(shí)別真正需要關(guān)注的事件;以及開(kāi)發(fā)文檔,如標(biāo)準(zhǔn)操作程序、事件事后分析報(bào)告或性能報(bào)告。
4. 利用現(xiàn)有服務(wù)或調(diào)整開(kāi)源生成式AI模型
在發(fā)展生成式AI能力方面,存在著經(jīng)典的“租用、購(gòu)買或構(gòu)建”決策的變體?;疽?guī)則仍然適用:公司應(yīng)在能夠?yàn)闃I(yè)務(wù)創(chuàng)造專有優(yōu)勢(shì)的地方投資生成式AI能力,并為那些更像商品的能力訪問(wèn)現(xiàn)有服務(wù)。
CIO和CTO可以從三個(gè)原型來(lái)思考這些選項(xiàng)的影響:
使用者(Taker)——通過(guò)聊天界面或API使用公開(kāi)可用的模型,幾乎沒(méi)有或沒(méi)有定制。好的例子包括用于生成代碼的現(xiàn)成解決方案(如GitHub Copilot)或協(xié)助設(shè)計(jì)師進(jìn)行圖像生成和編輯的解決方案(如Adobe Firefly)。就工程和基礎(chǔ)設(shè)施需求而言,這是最簡(jiǎn)單的原型,通常也是最快上手的。這些模型本質(zhì)上是商品,依賴于以提示的形式向公共模型提供數(shù)據(jù)。
塑造者(Shaper)——將模型與內(nèi)部數(shù)據(jù)和系統(tǒng)集成,以生成更定制化的結(jié)果。一個(gè)例子是通過(guò)將生成式AI工具連接到客戶關(guān)系管理(CRM)和財(cái)務(wù)系統(tǒng),以整合客戶之前的銷售和互動(dòng)歷史,從而支持銷售交易的模型。另一個(gè)例子是用公司內(nèi)部文件和聊天記錄對(duì)模型進(jìn)行微調(diào),以充當(dāng)客戶支持代理的助手。對(duì)于希望規(guī)?;墒紸I能力、發(fā)展更多專有能力或滿足更高安全或合規(guī)需求的公司來(lái)說(shuō),“塑造者”原型是合適的。
在此原型中,有兩種常見(jiàn)的數(shù)據(jù)與生成式AI模型集成方法。一種是“將模型帶到數(shù)據(jù)所在地”,即模型托管在組織的內(nèi)部設(shè)施上,無(wú)論是在本地還是在云環(huán)境中。例如,Cohere在其客戶的云基礎(chǔ)設(shè)施上部署基礎(chǔ)模型,減少了數(shù)據(jù)傳輸?shù)男枰?。另一種方法是“將數(shù)據(jù)帶到模型所在地”,即組織可以聚合其數(shù)據(jù)并在云基礎(chǔ)設(shè)施上部署一個(gè)大型模型的副本。兩種方法都實(shí)現(xiàn)了提供對(duì)基礎(chǔ)模型訪問(wèn)的目標(biāo),選擇哪種將取決于組織的工作負(fù)載足跡。
創(chuàng)造者(Maker)——構(gòu)建一個(gè)基礎(chǔ)模型以解決離散的業(yè)務(wù)案例。構(gòu)建一個(gè)基礎(chǔ)模型是昂貴且復(fù)雜的,需要海量數(shù)據(jù)、深厚的專業(yè)知識(shí)和巨大的計(jì)算能力。這個(gè)選項(xiàng)需要一次性的大量投資——數(shù)千萬(wàn)甚至數(shù)億美元——來(lái)構(gòu)建模型并進(jìn)行訓(xùn)練。成本取決于多種因素,如訓(xùn)練基礎(chǔ)設(shè)施、模型架構(gòu)選擇、模型參數(shù)數(shù)量、數(shù)據(jù)大小和專家資源。
每個(gè)原型都有其自身的成本,技術(shù)領(lǐng)導(dǎo)者需要考慮(圖表1)。雖然新的發(fā)展,如高效的模型訓(xùn)練方法和GPU計(jì)算成本隨時(shí)間的降低,正在推動(dòng)成本下降,但“創(chuàng)造者”原型固有的復(fù)雜性意味著短期內(nèi)很少有組織會(huì)采納它。相反,大多數(shù)將轉(zhuǎn)向“使用者”和“塑造者”的某種組合,以快速訪問(wèn)商品化服務(wù),并在基礎(chǔ)模型之上構(gòu)建專有能力。

圖表1
(睿觀:相比2023年7月的麥肯錫研究,2025年7月的國(guó)內(nèi)技術(shù)棧性能和價(jià)格更優(yōu))
5. 升級(jí)您的企業(yè)技術(shù)架構(gòu)以集成和管理生成式AI模型
組織將使用許多大小、復(fù)雜性和能力各異的生成式AI模型。為了產(chǎn)生價(jià)值,這些模型需要能夠相互協(xié)作,并與企業(yè)的現(xiàn)有系統(tǒng)或應(yīng)用程序協(xié)同工作。因此,為生成式AI構(gòu)建一個(gè)獨(dú)立的技術(shù)棧所帶來(lái)的復(fù)雜性,遠(yuǎn)比它解決的問(wèn)題要多。例如,我們可以看一個(gè)消費(fèi)者在一家旅游公司向客戶服務(wù)查詢以解決預(yù)訂問(wèn)題的情況(圖表2)。在與客戶互動(dòng)時(shí),生成式AI模型需要訪問(wèn)多個(gè)應(yīng)用程序和數(shù)據(jù)源。
圖表2
對(duì)于“使用者”原型,這種級(jí)別的協(xié)調(diào)并非必要。但對(duì)于希望作為“塑造者”或“創(chuàng)造者”規(guī)模化應(yīng)用生成式AI優(yōu)勢(shì)的公司來(lái)說(shuō),CIO和CTO需要升級(jí)他們的技術(shù)架構(gòu)。主要目標(biāo)是將生成式AI模型集成到內(nèi)部系統(tǒng)和企業(yè)應(yīng)用程序中,并構(gòu)建通往各種數(shù)據(jù)源的管道。最終,是企業(yè)技術(shù)架構(gòu)的成熟度,使其能夠集成和規(guī)?;渖墒紸I能力。
最近在集成和編排框架(如LangChain和LlamaIndex)方面的進(jìn)展,已顯著減少了將不同生成式AI模型與其他應(yīng)用程序和數(shù)據(jù)源連接所需的工作量。一些集成模式也正在出現(xiàn),包括那些使模型能夠在響應(yīng)用戶查詢時(shí)調(diào)用API的模式——例如,GPT-4可以調(diào)用函數(shù)——以及作為用戶查詢的一部分,從外部數(shù)據(jù)集提供上下文數(shù)據(jù),這種技術(shù)被稱為檢索增強(qiáng)生成(RAG)。技術(shù)領(lǐng)導(dǎo)者將需要為他們的組織定義參考架構(gòu)和標(biāo)準(zhǔn)集成模式(如標(biāo)準(zhǔn)的API格式和參數(shù),用于識(shí)別用戶和調(diào)用API的模型)。
要有效地集成生成式AI,需要將五個(gè)關(guān)鍵元素納入技術(shù)架構(gòu)(圖表3):
上下文管理和緩存,以便從企業(yè)數(shù)據(jù)源向模型提供相關(guān)信息。在正確的時(shí)間訪問(wèn)相關(guān)數(shù)據(jù)是模型理解上下文并產(chǎn)生引人注目輸出的關(guān)鍵。緩存存儲(chǔ)對(duì)常見(jiàn)問(wèn)題的結(jié)果,以實(shí)現(xiàn)更快、更便宜的響應(yīng)。
策略管理,以確保對(duì)企業(yè)數(shù)據(jù)資產(chǎn)的適當(dāng)訪問(wèn)。這種控制確保了包含員工薪酬細(xì)節(jié)的人力資源生成式AI模型,例如,不能被組織的其他部分訪問(wèn)。
模型中心,包含經(jīng)過(guò)訓(xùn)練和批準(zhǔn)的模型,可以按需提供,并作為模型檢查點(diǎn)、權(quán)重和參數(shù)的存儲(chǔ)庫(kù)。
提示詞庫(kù),包含為生成式AI模型優(yōu)化的指令,包括隨著模型更新而進(jìn)行的提示詞版本控制。
MLOps平臺(tái),包括升級(jí)的MLOps能力,以應(yīng)對(duì)生成式AI模型的復(fù)雜性。例如,MLOps管道將需要包含用于衡量特定任務(wù)性能的工具,例如衡量模型檢索正確知識(shí)的能力。
圖表3
在演進(jìn)架構(gòu)時(shí),CIO和CTO將需要在快速增長(zhǎng)的生成式AI提供商和工具生態(tài)系統(tǒng)中導(dǎo)航。云提供商提供對(duì)規(guī)?;布突A(chǔ)模型的廣泛訪問(wèn),以及不斷增多的服務(wù)。與此同時(shí),MLOps和模型中心提供商提供工具、技術(shù)和實(shí)踐,以調(diào)整基礎(chǔ)模型并將其部署到生產(chǎn)中,而其他公司則提供直接由用戶訪問(wèn)的、構(gòu)建在基礎(chǔ)模型之上以執(zhí)行特定任務(wù)的應(yīng)用程序。CIO和CTO將需要評(píng)估如何組裝和集成這些不同的能力,以部署和運(yùn)營(yíng)生成式AI模型。
6. 開(kāi)發(fā)一個(gè)數(shù)據(jù)架構(gòu)以支持對(duì)高質(zhì)量數(shù)據(jù)的訪問(wèn)
企業(yè)從生成式AI模型中產(chǎn)生和規(guī)?;瘍r(jià)值(包括降低成本和改善數(shù)據(jù)與知識(shí)保護(hù))的能力,將取決于它如何很好地利用自己的數(shù)據(jù)。創(chuàng)造這種優(yōu)勢(shì)依賴于一個(gè)將生成式AI模型連接到內(nèi)部數(shù)據(jù)源的數(shù)據(jù)架構(gòu),這些數(shù)據(jù)源提供上下文或幫助微調(diào)模型以創(chuàng)造更相關(guān)的輸出。
在此背景下,CIO、CTO和首席數(shù)據(jù)官需要密切合作,完成以下工作:
分類和組織數(shù)據(jù),以便生成式AI模型可以使用。技術(shù)領(lǐng)導(dǎo)者將需要開(kāi)發(fā)一個(gè)全面的數(shù)據(jù)架構(gòu),涵蓋結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)源。這需要制定標(biāo)準(zhǔn)和指導(dǎo)方針來(lái)優(yōu)化數(shù)據(jù)以供生成式AI使用——例如,通過(guò)用合成樣本增強(qiáng)訓(xùn)練數(shù)據(jù)以提高多樣性和規(guī)模;將媒體類型轉(zhuǎn)換為標(biāo)準(zhǔn)化的數(shù)據(jù)格式;添加元數(shù)據(jù)以提高可追溯性和數(shù)據(jù)質(zhì)量;以及更新數(shù)據(jù)。
確保現(xiàn)有基礎(chǔ)設(shè)施或云服務(wù)能夠支持存儲(chǔ)和處理生成式AI應(yīng)用所需的大量數(shù)據(jù)。
優(yōu)先發(fā)展數(shù)據(jù)管道,將生成式AI模型連接到提供“上下文理解”的相關(guān)數(shù)據(jù)源。新興的方法包括使用向量數(shù)據(jù)庫(kù)來(lái)存儲(chǔ)和檢索嵌入(特殊格式的知識(shí))作為生成式AI模型的輸入,以及情境學(xué)習(xí)方法,如“少樣本提示”(few shot prompting),即向模型提供好答案的示例。
7. 創(chuàng)建一個(gè)集中的、跨職能的生成式AI平臺(tái)團(tuán)隊(duì)
大多數(shù)技術(shù)組織正在向產(chǎn)品與平臺(tái)運(yùn)營(yíng)模式轉(zhuǎn)型。CIO和CTO需要將生成式AI能力集成到這個(gè)運(yùn)營(yíng)模式中,以在現(xiàn)有基礎(chǔ)設(shè)施上構(gòu)建,并幫助快速規(guī)?;墒紸I的采納。第一步是建立一個(gè)生成式AI平臺(tái)團(tuán)隊(duì),其核心重點(diǎn)是開(kāi)發(fā)和維護(hù)一個(gè)平臺(tái)服務(wù),在該服務(wù)中,經(jīng)批準(zhǔn)的生成式AI模型可以按需提供給產(chǎn)品和應(yīng)用團(tuán)隊(duì)使用。平臺(tái)團(tuán)隊(duì)還定義了生成式AI模型如何與內(nèi)部系統(tǒng)、企業(yè)應(yīng)用程序和工具集成的協(xié)議,并開(kāi)發(fā)和實(shí)施標(biāo)準(zhǔn)化方法來(lái)管理風(fēng)險(xiǎn),例如負(fù)責(zé)任的AI框架。
CIO和CTO需要確保平臺(tái)團(tuán)隊(duì)配備了具備正確技能的人員。這個(gè)團(tuán)隊(duì)需要一位擔(dān)任總經(jīng)理的高級(jí)技術(shù)領(lǐng)導(dǎo)者。關(guān)鍵角色包括:軟件工程師,將生成式AI模型集成到現(xiàn)有系統(tǒng)、應(yīng)用程序和工具中;數(shù)據(jù)工程師,構(gòu)建將模型連接到各種記錄系統(tǒng)和數(shù)據(jù)源的管道;數(shù)據(jù)科學(xué)家,選擇模型和設(shè)計(jì)提示詞;MLOps工程師,管理多個(gè)模型和模型版本的部署與監(jiān)控;ML工程師,用新的數(shù)據(jù)源微調(diào)模型;以及風(fēng)險(xiǎn)專家,管理諸如數(shù)據(jù)泄露、訪問(wèn)控制、輸出準(zhǔn)確性和偏見(jiàn)等安全問(wèn)題。平臺(tái)團(tuán)隊(duì)的確切構(gòu)成將取決于整個(gè)企業(yè)所服務(wù)的用例。在某些情況下,例如創(chuàng)建一個(gè)面向客戶的聊天機(jī)器人,將需要強(qiáng)大的產(chǎn)品管理和用戶體驗(yàn)(UX)資源。
實(shí)際上,平臺(tái)團(tuán)隊(duì)最初將需要在一個(gè)狹窄的優(yōu)先用例集上工作,隨著他們構(gòu)建可重用能力并了解什么最有效,逐漸擴(kuò)大工作范圍。技術(shù)領(lǐng)導(dǎo)者應(yīng)與業(yè)務(wù)負(fù)責(zé)人密切合作,評(píng)估哪些業(yè)務(wù)案例值得資助和支持。
8. 根據(jù)角色和熟練程度定制技能提升項(xiàng)目
生成式AI有潛力極大地提升員工的生產(chǎn)力并增強(qiáng)他們的能力。但根據(jù)角色和技能水平,收益的分布是不均的,這要求領(lǐng)導(dǎo)者重新思考如何培養(yǎng)人們實(shí)際需要的技能。
例如,我們最新的實(shí)證研究使用生成式AI工具GitHub Copilot,幫助軟件工程師編寫(xiě)代碼的速度提高了35%至45%。然而,收益各不相同。高技能開(kāi)發(fā)人員的收益高達(dá)50%至80%,而初級(jí)開(kāi)發(fā)人員的速度則下降了7%至10%。這是因?yàn)樯墒紸I工具的輸出需要工程師進(jìn)行批判、驗(yàn)證和改進(jìn)代碼,而經(jīng)驗(yàn)不足的軟件工程師難以做到。相反,在一項(xiàng)研究中,在技術(shù)性較低的角色,如客戶服務(wù)中,生成式AI顯著幫助了低技能員工,生產(chǎn)力提高了14%,員工流失率也下降了。
這些差異凸顯了技術(shù)領(lǐng)導(dǎo)者與首席人力資源官(CHRO)合作,重新思考他們的人才管理戰(zhàn)略以構(gòu)建未來(lái)勞動(dòng)力的必要性。招聘一批頂尖的生成式AI核心人才將很重要,并且,鑒于該人才日益稀缺和戰(zhàn)略重要性,技術(shù)領(lǐng)導(dǎo)者應(yīng)建立保留機(jī)制,如具有競(jìng)爭(zhēng)力的薪水和參與重要業(yè)務(wù)戰(zhàn)略工作的機(jī)會(huì)。
然而,技術(shù)領(lǐng)導(dǎo)者不能止步于招聘。因?yàn)閹缀趺恳粋€(gè)現(xiàn)有角色都會(huì)受到生成式AI的影響,一個(gè)關(guān)鍵的重點(diǎn)應(yīng)該是根據(jù)角色、熟練程度和業(yè)務(wù)目標(biāo)所需的技能,對(duì)人員進(jìn)行技能提升。讓我們以軟件開(kāi)發(fā)人員為例。對(duì)新手的培訓(xùn)需要強(qiáng)調(diào)加速他們成為頂尖代碼審查者的路徑,而不僅僅是代碼生成者。類似于寫(xiě)作和編輯的區(qū)別,代碼審查需要不同的技能集。軟件工程師將需要理解好的代碼是什么樣的;審查由生成式AI創(chuàng)建的代碼的功能性、復(fù)雜性、質(zhì)量和可讀性;并掃描漏洞,同時(shí)確保他們自己不在代碼中引入質(zhì)量或安全問(wèn)題。此外,軟件開(kāi)發(fā)人員將需要學(xué)習(xí)在編碼時(shí)以不同的方式思考,通過(guò)更好地理解用戶意圖,以便他們可以創(chuàng)建幫助生成式AI工具提供更好答案的提示詞和定義上下文數(shù)據(jù)。
除了培訓(xùn)技術(shù)人才,CIO和CTO在培養(yǎng)非技術(shù)人才的生成式AI技能方面也可以發(fā)揮重要作用。除了理解如何使用生成式AI工具完成諸如郵件生成和任務(wù)管理等基本任務(wù)外,整個(gè)業(yè)務(wù)部門的人員將需要熟練使用一系列能力來(lái)提高性能和產(chǎn)出。CIO和CTO可以調(diào)整學(xué)院模式來(lái)提供這種培訓(xùn)和相應(yīng)的認(rèn)證。
經(jīng)驗(yàn)不足的工程師價(jià)值下降,應(yīng)加速?gòu)慕?jīng)典的人才金字塔結(jié)構(gòu)(大多數(shù)人在初級(jí)水平)向更像鉆石的結(jié)構(gòu)轉(zhuǎn)變,即技術(shù)勞動(dòng)力的主體由經(jīng)驗(yàn)豐富的人員組成。實(shí)際上,這將意味著盡快培養(yǎng)初級(jí)員工的技能,同時(shí)減少致力于低復(fù)雜度手動(dòng)任務(wù)(如編寫(xiě)單元測(cè)試)的角色。
9. 評(píng)估新的風(fēng)險(xiǎn)格局并建立持續(xù)的緩解實(shí)踐
生成式AI帶來(lái)了一系列新的道德問(wèn)題和風(fēng)險(xiǎn),包括“幻覺(jué)”,即生成式AI模型基于最高概率響應(yīng)而呈現(xiàn)不正確的回答;意外泄露機(jī)密的個(gè)人身份信息;模型使用的大數(shù)據(jù)集中固有的偏見(jiàn);以及與知識(shí)產(chǎn)權(quán)(IP)相關(guān)的高度不確定性。CIO和CTO將需要精通道德、人道主義和合規(guī)問(wèn)題,不僅要遵守法律條文(各國(guó)法律各不相同),還要遵守負(fù)責(zé)任地管理其業(yè)務(wù)聲譽(yù)的精神。
應(yīng)對(duì)這一新格局需要對(duì)網(wǎng)絡(luò)實(shí)踐進(jìn)行重大審查,并更新軟件開(kāi)發(fā)流程,以便在模型開(kāi)發(fā)開(kāi)始前評(píng)估風(fēng)險(xiǎn)并確定緩解措施,這既能減少問(wèn)題,又能確保流程不被減慢。經(jīng)過(guò)驗(yàn)證的針對(duì)幻覺(jué)的風(fēng)險(xiǎn)緩解措施可以包括:在模型生成響應(yīng)時(shí)調(diào)整其創(chuàng)造力水平(稱為“溫度”);用相關(guān)的內(nèi)部數(shù)據(jù)增強(qiáng)模型以提供更多上下文;使用對(duì)可生成內(nèi)容施加護(hù)欄的庫(kù);使用“審核”模型來(lái)檢查輸出;以及添加明確的免責(zé)聲明。早期的生成式AI用例應(yīng)專注于錯(cuò)誤成本低的領(lǐng)域,以使組織能夠處理不可避免的挫折并吸取教案。
為了保護(hù)數(shù)據(jù)隱私,建立和執(zhí)行敏感數(shù)據(jù)標(biāo)記協(xié)議、在不同領(lǐng)域(如人力資源薪酬數(shù)據(jù))設(shè)置數(shù)據(jù)訪問(wèn)控制、在數(shù)據(jù)被外部使用時(shí)添加額外保護(hù),以及包含隱私保障措施將至關(guān)重要。例如,為減輕訪問(wèn)控制風(fēng)險(xiǎn),一些組織建立了一個(gè)策略管理層,一旦向模型給出提示,就按角色限制訪問(wèn)。為減輕知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn),CIO和CTO應(yīng)堅(jiān)持要求基礎(chǔ)模型的提供商對(duì)其使用的數(shù)據(jù)集的IP(數(shù)據(jù)源、許可和所有權(quán))保持透明。
生成式AI有望成為我們見(jiàn)過(guò)的增長(zhǎng)最快的技術(shù)類別之一。技術(shù)領(lǐng)導(dǎo)者在定義和塑造生成式AI戰(zhàn)略方面,不能有不必要的拖延。雖然這個(gè)領(lǐng)域?qū)⒗^續(xù)快速發(fā)展,但這九項(xiàng)行動(dòng)可以幫助CIO和CTO負(fù)責(zé)任地、有效地在規(guī)模化應(yīng)用中駕馭生成式AI的力量。
睿觀:
【核心挑戰(zhàn)】
為避免重蹈以往技術(shù)浪潮(如互聯(lián)網(wǎng)、移動(dòng))中“試驗(yàn)混戰(zhàn)多,規(guī)模化價(jià)值少”的覆轍,CIO(首席信息官)和CTO(首席技術(shù)官)必須為生成式AI(GenAI)的采納提供關(guān)鍵的戰(zhàn)略引導(dǎo)。
【九步劇本】
麥肯錫為此提出了一個(gè)包含九項(xiàng)行動(dòng)的綜合性“劇本”。其核心是:在戰(zhàn)略上,需明確AI立場(chǎng)并識(shí)別高價(jià)值用例;在技術(shù)與數(shù)據(jù)上,需升級(jí)企業(yè)與數(shù)據(jù)架構(gòu)以支持多模型編排;在組織與人才上,需重塑IT職能、建立集中的AI平臺(tái)團(tuán)隊(duì)并進(jìn)行定制化的技能提升;最后,在風(fēng)險(xiǎn)上,需建立新的治理與緩解措施。
【結(jié)論】
因此,成功駕馭生成式AI并非單一的技術(shù)挑戰(zhàn),而是一項(xiàng)涉及戰(zhàn)略、技術(shù)、組織和風(fēng)險(xiǎn)管理的系統(tǒng)工程。CIO/CTO必須運(yùn)用這一整體框架,將AI的承諾,轉(zhuǎn)化為企業(yè)可持續(xù)的、規(guī)?;母?jìng)爭(zhēng)優(yōu)勢(shì)。
成功的AI轉(zhuǎn)型,需要的不是零敲碎打的“實(shí)驗(yàn)游擊戰(zhàn)”,而是一場(chǎng)涵蓋戰(zhàn)略、技術(shù)、組織和風(fēng)控的“一體化總體戰(zhàn)”。