如果說過去兩年的 AI 轉(zhuǎn)型是“給馬車裝上火箭推進(jìn)器”，那么今天 CIO 們面臨的挑戰(zhàn)則是“重新設(shè)計(jì)一架既能自動(dòng)駕駛、又絕對(duì)不會(huì)偏離軌道的混合動(dòng)力飛機(jī)”。
大多數(shù)企業(yè)已經(jīng)過了最初的 AI 炒作期（比如搞個(gè)生成式應(yīng)用的原型，或者買個(gè)現(xiàn)成的 AI Agent 平臺(tái)）?，F(xiàn)在，擺在研發(fā)負(fù)責(zé)人面前的真實(shí)需求是：構(gòu)建融合了 AI 智能與傳統(tǒng)代碼規(guī)則的全新混合應(yīng)用。
這種混合環(huán)境帶來了一個(gè)極其復(fù)雜的中間地帶：如何平衡 AI 的“概率性（猜得準(zhǔn)）”和傳統(tǒng)邏輯的“確定性（不犯錯(cuò)）”？以下是幫助 CIO 們劃定界限、組織團(tuán)隊(duì)的 4 個(gè)關(guān)鍵策略：
第一步，必須明確哪種技術(shù)適合哪個(gè)場(chǎng)景。
讓 AI 處理“模糊性”：解釋意圖、總結(jié)內(nèi)容、提供決策支持。
讓傳統(tǒng)代碼處理“底線”：數(shù)據(jù)驗(yàn)證、交易處理、合規(guī)邏輯。
架構(gòu)原則：雙重表示架構(gòu)。正如 EDB 的 CTO Quais Taraki 所建議的：“讓 Agent 負(fù)責(zé)提建議，讓傳統(tǒng)邏輯負(fù)責(zé)守護(hù)系統(tǒng)記錄?！?根據(jù)對(duì)失敗的容忍度來決定主導(dǎo)權(quán)。如果你在做一個(gè)創(chuàng)新探索項(xiàng)目，可以“以 Agent 為核心，用傳統(tǒng)代碼做制衡”；如果是在金融或醫(yī)療等高容錯(cuò)極低的場(chǎng)景，則必須反過來操作。
混合應(yīng)用需要混合技能。如果你把研發(fā)團(tuán)隊(duì)分為“只懂大模型的 AI 人”和“只寫 Java 的傳統(tǒng)人”，那么你將面臨迅速累積的整合債務(wù)（Integration Debt）。
關(guān)鍵破局點(diǎn)：培養(yǎng)“橋梁工程師”。CIO 需要重新思考團(tuán)隊(duì)結(jié)構(gòu)，引入既懂傳統(tǒng)軟件架構(gòu)（如微服務(wù)、數(shù)據(jù)庫），又精通生成式設(shè)計(jì)模式的工程師。此外，要把 Agent 看作是“能力極強(qiáng)、權(quán)限極大的數(shù)字員工”，打破 AI 與傳統(tǒng)開發(fā)的隔閡，將編排（Orchestration）和可觀測(cè)性（Observability）作為核心基礎(chǔ)設(shè)施來建設(shè)。
雖然 AI Agent 可以加速代碼編寫，但你省下的時(shí)間絕不能用來睡大覺。你必須把這些時(shí)間重新投入到：
上游設(shè)計(jì)：更謹(jǐn)慎的架構(gòu)規(guī)劃。
下游監(jiān)控：混合系統(tǒng)引入了巨大的復(fù)雜性。概率性組件（AI）的執(zhí)行路徑是可變的，成本是基于 Token（代幣）的，這完全顛覆了傳統(tǒng)的容量規(guī)劃和 QA（質(zhì)量檢測(cè)）框架。
你要明白：Agent 時(shí)代的總體擁有成本（TCO）不僅是 API 的調(diào)用費(fèi)，更是管理大規(guī)模非確定性系統(tǒng)所需的運(yùn)營(yíng)成本。
當(dāng)你剛搞明白如何混合 AI 與傳統(tǒng)代碼時(shí)，目標(biāo)又變了。隨著時(shí)間的推移，混合系統(tǒng)的重心正在迅速向 Agent 偏移。一年后，你可能不再是“在遺留系統(tǒng)上疊加 Agent”，而是“圍繞 Agent 能力構(gòu)建系統(tǒng)，并用傳統(tǒng)代碼來管理風(fēng)險(xiǎn)”。
為了確保系統(tǒng)的彈性，務(wù)必為每個(gè) Agent 步驟設(shè)定“確定性的回退方案（Deterministic Fallback）”。這樣，即使大模型出現(xiàn)幻覺或宕機(jī)，你的平臺(tái)依然能平穩(wěn)降級(jí)，保持核心功能的可用。
結(jié)語
在生成式 AI 與傳統(tǒng)軟件開發(fā)的交匯處，沒有一勞永逸的現(xiàn)成公式。未來的贏家，將是那些懂得在“智能的狂野”與“規(guī)則的嚴(yán)謹(jǐn)”之間巧妙切換的架構(gòu)師和領(lǐng)導(dǎo)者。
原文：4個(gè)提示幫助新晉創(chuàng)新者應(yīng)對(duì)AI與傳統(tǒng)代碼的挑戰(zhàn)
一個(gè)典型的困境是在兩個(gè)選項(xiàng)之間做出選擇。然而，如今的創(chuàng)新者和首席信息官面臨一個(gè)不同的挑戰(zhàn)，即處理概率性和確定性的代碼，不是單獨(dú)處理，而是在一個(gè)新的混合應(yīng)用環(huán)境中共同處理。
圖源：Credit: Gorodenkoff / Shutterstock
大多數(shù)人原本認(rèn)為這將是生成式AI的又一年，但如今卻迅速轉(zhuǎn)向更加務(wù)實(shí)的焦點(diǎn)：同時(shí)處理概率性（由AI/機(jī)器學(xué)習(xí)驅(qū)動(dòng)）和確定性（基于傳統(tǒng)規(guī)則）代碼。這并非是同時(shí)擁有兩者，而是一些混合應(yīng)用需求的不斷增加，這些應(yīng)用需要巧妙且熟練地整合“猜測(cè)”和“確定”兩者的優(yōu)勢(shì)。
許多首席信息官不再處理專注于特定現(xiàn)成AI應(yīng)用或僅在智能體構(gòu)建平臺(tái)內(nèi)構(gòu)建的定制生成式應(yīng)用的試點(diǎn)和原型。他們現(xiàn)在面臨的是新的應(yīng)用開發(fā)需求，需要將AI和傳統(tǒng)代碼結(jié)合起來。
這些應(yīng)用程序不是在現(xiàn)有應(yīng)用上附加AI，而是從頭開始設(shè)計(jì)的全新應(yīng)用。首席信息官們迅速發(fā)現(xiàn)了其中的復(fù)雜中間地帶，他們需要決定在哪里劃定界限以及如何組織團(tuán)隊(duì)。
以下是首席信息官在決定如何最好地整合生成式、概率性和傳統(tǒng)確定性代碼時(shí)的四個(gè)建議，特別是在需要謹(jǐn)慎整合兩者的軟件開發(fā)項(xiàng)目中。
一、劃定界限并設(shè)立護(hù)欄
第一步是了解每項(xiàng)技術(shù)的最佳適用場(chǎng)景，并為開發(fā)和整合團(tuán)隊(duì)制定架構(gòu)指南和最佳實(shí)踐。
AI和數(shù)據(jù)公司EDB的首席技術(shù)官Q(mào)uais Taraki（奎斯·塔拉基）建議，使用確定性代碼處理企業(yè)的權(quán)威規(guī)則，使用概率性代碼處理人類意圖的復(fù)雜模糊性。他說：“關(guān)鍵是一個(gè)雙重表示架構(gòu)，其中智能體提供建議，但傳統(tǒng)邏輯保護(hù)記錄系統(tǒng)。通過將它們整合到一個(gè)平臺(tái)上，你可以消除將AI附加到現(xiàn)有系統(tǒng)上時(shí)通常會(huì)帶來的集成稅，同時(shí)保持對(duì)數(shù)據(jù)和邏輯的絕對(duì)主權(quán)?！?/span>
Arion Research LLC的首席分析師Michael Fauscette（邁克爾·福斯西特）表示，首席信息官的關(guān)鍵決策框架是在必須可預(yù)測(cè)、可審計(jì)和可重復(fù)的場(chǎng)景中使用確定性代碼，而將生成式和概率性方法用于需要大規(guī)模推理、判斷或處理模糊性的任務(wù)。他說：“在實(shí)際操作中，這意味著讓智能體處理工作流程的復(fù)雜中間環(huán)節(jié)，例如解釋、總結(jié)和決策支持；而傳統(tǒng)代碼則負(fù)責(zé)數(shù)據(jù)驗(yàn)證、交易處理、合規(guī)邏輯和結(jié)構(gòu)化輸出生成?！?/span>
然而，AI戰(zhàn)略顧問、作家Sangeet Paul Choudary（桑吉特·保羅·喬達(dá)里）認(rèn)為這實(shí)際上取決于對(duì)失敗的容忍度與創(chuàng)新收益之間的權(quán)衡。他說：“智能體可以幫助提出編碼人員未曾想到的創(chuàng)新解決方案，因此在這些有價(jià)值的地方，我會(huì)以智能體為核心進(jìn)行設(shè)計(jì)，將代碼作為制衡機(jī)制。但在對(duì)失敗容忍度較低的場(chǎng)景中，我會(huì)反過來做?！?/span>
如果你正在從事生成式代碼方面的工作，作為新軟件開發(fā)項(xiàng)目的一部分，優(yōu)化你的生成式代碼和輸出也很重要。在決定何時(shí)何地引入傳統(tǒng)代碼的護(hù)欄之前，你通常希望盡可能準(zhǔn)確且可重復(fù)地完成這一點(diǎn)。例如，糟糕的提示或針對(duì)特定用例的次優(yōu)大語言模型可能會(huì)改變邊界，甚至?xí)屇阍趯ふ覀鹘y(tǒng)代碼安全性的過程中未能充分利用智能體的力量。
二、為新的混合團(tuán)隊(duì)組織架構(gòu)
這些新的混合應(yīng)用也需要具備混合技能集的團(tuán)隊(duì)。Taraki（塔拉基）建議首席信息官將智能體視為公司內(nèi)部能力極強(qiáng)的員工。他說：“就像任何擁有重要權(quán)限和自主權(quán)的員工一樣，它們具有很大的影響力，可能會(huì)對(duì)你的業(yè)務(wù)產(chǎn)生深遠(yuǎn)的影響，無論好壞。成功需要消除AI和傳統(tǒng)開發(fā)團(tuán)隊(duì)之間的隔閡，確保編排和可觀測(cè)性被視為關(guān)鍵基礎(chǔ)設(shè)施?！?/span>
Fauscette（福斯西特）建議首席信息官重新思考團(tuán)隊(duì)構(gòu)成，增加橋梁角色——既了解傳統(tǒng)軟件架構(gòu)又掌握生成式設(shè)計(jì)模式的工程師，因?yàn)楣铝⒌腁I團(tuán)隊(duì)和工程團(tuán)隊(duì)會(huì)產(chǎn)生迅速累積的整合債務(wù)。
據(jù)Choudary（喬達(dá)里）稱，重要的是要減少被動(dòng)的質(zhì)量檢測(cè)，更多地在開發(fā)和工具環(huán)境中進(jìn)行主動(dòng)檢查，讓智能體與編碼人員并肩工作。
總體而言，生成式代碼與傳統(tǒng)代碼之間的轉(zhuǎn)換和交匯并不總是像API調(diào)用和結(jié)構(gòu)化輸出那樣簡(jiǎn)單。因此，不僅要考慮人與AI之間的宏觀工作流程，還要考慮概率性代碼和確定性代碼之間的眾多接口。就像人與機(jī)器之間的交接一樣，我們還需要在AI和傳統(tǒng)代碼之間設(shè)置恰當(dāng)?shù)慕唤狱c(diǎn)，并培養(yǎng)了解其中權(quán)衡的工程師。
三、為治理和成本建模投入時(shí)間
雖然混合應(yīng)用可能會(huì)加速軟件開發(fā)，但節(jié)省的時(shí)間和成本需要重新分配到上游軟件設(shè)計(jì)和架構(gòu)以及下游測(cè)試、監(jiān)控和成本建模上。
Fauscette（福斯西特）表示，在治理和總擁有成本方面，混合系統(tǒng)在測(cè)試、監(jiān)控和成本建模中引入了新的復(fù)雜性。因?yàn)楦怕市越M件具有可變的執(zhí)行路徑和基于代幣的成本結(jié)構(gòu)，這些并不完全符合傳統(tǒng)的容量規(guī)劃或質(zhì)量檢測(cè)框架。
在成本建模方面，盡管推理成本可能需要制定新的業(yè)務(wù)規(guī)則來為終端用戶設(shè)定使用邊界，但Taraki（塔拉基）表示，從根本上講，智能體時(shí)代的總擁有成本不僅僅是推理成本，還包括管理大規(guī)模非確定性系統(tǒng)所需的運(yùn)營(yíng)嚴(yán)謹(jǐn)性。
四、認(rèn)識(shí)到多智能體工作流將進(jìn)一步模糊界限
構(gòu)建包含生成式代碼和傳統(tǒng)代碼的混合系統(tǒng)的新設(shè)計(jì)考量和組織需求還不夠復(fù)雜，我們還要面對(duì)不斷變化的目標(biāo)，因?yàn)?/span>智能體正在不斷發(fā)展。
Choudary（喬達(dá)里）補(bǔ)充說，混合系統(tǒng)內(nèi)部的重心每年都在向代理轉(zhuǎn)移。他說：“我們最初是讓智能體在遺留代碼之上工作，但現(xiàn)在我們?cè)絹碓蕉嗟乜吹剑瑒?chuàng)新需求驅(qū)動(dòng)的系統(tǒng)圍繞智能體能力進(jìn)行設(shè)計(jì)并使用代碼進(jìn)行性能和風(fēng)險(xiǎn)管理。”
Fauscette（福斯西特）還建議，在任務(wù)是端到端的認(rèn)知工作（如研究、分析和規(guī)劃）時(shí)選擇多智能體工作流；而在需要對(duì)輸出進(jìn)行精確控制、符合監(jiān)管要求或與現(xiàn)有記錄系統(tǒng)集成時(shí)選擇混合AI和傳統(tǒng)方法。他說：“展望未來，隨著生成式框架的成熟并提供更好的原生支持用于確定性檢查點(diǎn)、結(jié)構(gòu)化輸出和人工干預(yù)控制，這兩種模式之間的界限將在未來一年到十八個(gè)月內(nèi)逐漸模糊，混合模式將成為默認(rèn)的標(biāo)準(zhǔn)架構(gòu)模式。”
Taraki（塔拉基）的建議是通過確保每個(gè)代理步驟都有確定性的回退方案來實(shí)現(xiàn)優(yōu)雅降級(jí)，這樣即使模型失敗，你的平臺(tái)也能保持彈性和可用性。他補(bǔ)充道：“生成式的未來將不再是有代理性的粘合劑，而更像是一個(gè)具有服務(wù)等級(jí)協(xié)議、可審計(jì)性和標(biāo)準(zhǔn)化檢索、工具使用和安全模式的自主平臺(tái)。我們的研究表明，優(yōu)先考慮數(shù)據(jù)和AI主權(quán)的全球企業(yè)中，有13%的企業(yè)已經(jīng)實(shí)現(xiàn)了五倍的投資回報(bào)率，并且在主流生產(chǎn)中運(yùn)行的用例數(shù)量是同行的兩倍?！?/span>
