如果說過去兩年的 AI 轉(zhuǎn)型是“給馬車裝上火箭推進器”，那么今天 CIO 們面臨的挑戰(zhàn)則是“重新設計一架既能自動駕駛、又絕對不會偏離軌道的混合動力飛機”。
大多數(shù)企業(yè)已經(jīng)過了最初的 AI 炒作期（比如搞個生成式應用的原型，或者買個現(xiàn)成的 AI Agent 平臺）。現(xiàn)在，擺在研發(fā)負責人面前的真實需求是：構(gòu)建融合了 AI 智能與傳統(tǒng)代碼規(guī)則的全新混合應用。
這種混合環(huán)境帶來了一個極其復雜的中間地帶：如何平衡 AI 的“概率性（猜得準）”和傳統(tǒng)邏輯的“確定性（不犯錯）”？以下是幫助 CIO 們劃定界限、組織團隊的 4 個關鍵策略：
第一步，必須明確哪種技術適合哪個場景。
讓 AI 處理“模糊性”：解釋意圖、總結(jié)內(nèi)容、提供決策支持。
讓傳統(tǒng)代碼處理“底線”：數(shù)據(jù)驗證、交易處理、合規(guī)邏輯。
架構(gòu)原則：雙重表示架構(gòu)。正如 EDB 的 CTO Quais Taraki 所建議的：“讓 Agent 負責提建議，讓傳統(tǒng)邏輯負責守護系統(tǒng)記錄。” 根據(jù)對失敗的容忍度來決定主導權(quán)。如果你在做一個創(chuàng)新探索項目，可以“以 Agent 為核心，用傳統(tǒng)代碼做制衡”；如果是在金融或醫(yī)療等高容錯極低的場景，則必須反過來操作。
混合應用需要混合技能。如果你把研發(fā)團隊分為“只懂大模型的 AI 人”和“只寫 Java 的傳統(tǒng)人”，那么你將面臨迅速累積的整合債務（Integration Debt）。
關鍵破局點：培養(yǎng)“橋梁工程師”。CIO 需要重新思考團隊結(jié)構(gòu)，引入既懂傳統(tǒng)軟件架構(gòu)（如微服務、數(shù)據(jù)庫），又精通生成式設計模式的工程師。此外，要把 Agent 看作是“能力極強、權(quán)限極大的數(shù)字員工”，打破 AI 與傳統(tǒng)開發(fā)的隔閡，將編排（Orchestration）和可觀測性（Observability）作為核心基礎設施來建設。
雖然 AI Agent 可以加速代碼編寫，但你省下的時間絕不能用來睡大覺。你必須把這些時間重新投入到：
上游設計：更謹慎的架構(gòu)規(guī)劃。
下游監(jiān)控：混合系統(tǒng)引入了巨大的復雜性。概率性組件（AI）的執(zhí)行路徑是可變的，成本是基于 Token（代幣）的，這完全顛覆了傳統(tǒng)的容量規(guī)劃和 QA（質(zhì)量檢測）框架。
你要明白：Agent 時代的總體擁有成本（TCO）不僅是 API 的調(diào)用費，更是管理大規(guī)模非確定性系統(tǒng)所需的運營成本。
當你剛搞明白如何混合 AI 與傳統(tǒng)代碼時，目標又變了。隨著時間的推移，混合系統(tǒng)的重心正在迅速向 Agent 偏移。一年后，你可能不再是“在遺留系統(tǒng)上疊加 Agent”，而是“圍繞 Agent 能力構(gòu)建系統(tǒng)，并用傳統(tǒng)代碼來管理風險”。
為了確保系統(tǒng)的彈性，務必為每個 Agent 步驟設定“確定性的回退方案（Deterministic Fallback）”。這樣，即使大模型出現(xiàn)幻覺或宕機，你的平臺依然能平穩(wěn)降級，保持核心功能的可用。
結(jié)語
在生成式 AI 與傳統(tǒng)軟件開發(fā)的交匯處，沒有一勞永逸的現(xiàn)成公式。未來的贏家，將是那些懂得在“智能的狂野”與“規(guī)則的嚴謹”之間巧妙切換的架構(gòu)師和領導者。
原文：4個提示幫助新晉創(chuàng)新者應對AI與傳統(tǒng)代碼的挑戰(zhàn)
一個典型的困境是在兩個選項之間做出選擇。然而，如今的創(chuàng)新者和首席信息官面臨一個不同的挑戰(zhàn)，即處理概率性和確定性的代碼，不是單獨處理，而是在一個新的混合應用環(huán)境中共同處理。
圖源：Credit: Gorodenkoff / Shutterstock
大多數(shù)人原本認為這將是生成式AI的又一年，但如今卻迅速轉(zhuǎn)向更加務實的焦點：同時處理概率性（由AI/機器學習驅(qū)動）和確定性（基于傳統(tǒng)規(guī)則）代碼。這并非是同時擁有兩者，而是一些混合應用需求的不斷增加，這些應用需要巧妙且熟練地整合“猜測”和“確定”兩者的優(yōu)勢。
許多首席信息官不再處理專注于特定現(xiàn)成AI應用或僅在智能體構(gòu)建平臺內(nèi)構(gòu)建的定制生成式應用的試點和原型。他們現(xiàn)在面臨的是新的應用開發(fā)需求，需要將AI和傳統(tǒng)代碼結(jié)合起來。
這些應用程序不是在現(xiàn)有應用上附加AI，而是從頭開始設計的全新應用。首席信息官們迅速發(fā)現(xiàn)了其中的復雜中間地帶，他們需要決定在哪里劃定界限以及如何組織團隊。
以下是首席信息官在決定如何最好地整合生成式、概率性和傳統(tǒng)確定性代碼時的四個建議，特別是在需要謹慎整合兩者的軟件開發(fā)項目中。
一、劃定界限并設立護欄
第一步是了解每項技術的最佳適用場景，并為開發(fā)和整合團隊制定架構(gòu)指南和最佳實踐。
AI和數(shù)據(jù)公司EDB的首席技術官Q(mào)uais Taraki（奎斯·塔拉基）建議，使用確定性代碼處理企業(yè)的權(quán)威規(guī)則，使用概率性代碼處理人類意圖的復雜模糊性。他說：“關鍵是一個雙重表示架構(gòu)，其中智能體提供建議，但傳統(tǒng)邏輯保護記錄系統(tǒng)。通過將它們整合到一個平臺上，你可以消除將AI附加到現(xiàn)有系統(tǒng)上時通常會帶來的集成稅，同時保持對數(shù)據(jù)和邏輯的絕對主權(quán)。”
Arion Research LLC的首席分析師Michael Fauscette（邁克爾·福斯西特）表示，首席信息官的關鍵決策框架是在必須可預測、可審計和可重復的場景中使用確定性代碼，而將生成式和概率性方法用于需要大規(guī)模推理、判斷或處理模糊性的任務。他說：“在實際操作中，這意味著讓智能體處理工作流程的復雜中間環(huán)節(jié)，例如解釋、總結(jié)和決策支持；而傳統(tǒng)代碼則負責數(shù)據(jù)驗證、交易處理、合規(guī)邏輯和結(jié)構(gòu)化輸出生成?！?/span>
然而，AI戰(zhàn)略顧問、作家Sangeet Paul Choudary（桑吉特·保羅·喬達里）認為這實際上取決于對失敗的容忍度與創(chuàng)新收益之間的權(quán)衡。他說：“智能體可以幫助提出編碼人員未曾想到的創(chuàng)新解決方案，因此在這些有價值的地方，我會以智能體為核心進行設計，將代碼作為制衡機制。但在對失敗容忍度較低的場景中，我會反過來做?！?/span>
如果你正在從事生成式代碼方面的工作，作為新軟件開發(fā)項目的一部分，優(yōu)化你的生成式代碼和輸出也很重要。在決定何時何地引入傳統(tǒng)代碼的護欄之前，你通常希望盡可能準確且可重復地完成這一點。例如，糟糕的提示或針對特定用例的次優(yōu)大語言模型可能會改變邊界，甚至會讓你在尋找傳統(tǒng)代碼安全性的過程中未能充分利用智能體的力量。
二、為新的混合團隊組織架構(gòu)
這些新的混合應用也需要具備混合技能集的團隊。Taraki（塔拉基）建議首席信息官將智能體視為公司內(nèi)部能力極強的員工。他說：“就像任何擁有重要權(quán)限和自主權(quán)的員工一樣，它們具有很大的影響力，可能會對你的業(yè)務產(chǎn)生深遠的影響，無論好壞。成功需要消除AI和傳統(tǒng)開發(fā)團隊之間的隔閡，確保編排和可觀測性被視為關鍵基礎設施。”
Fauscette（福斯西特）建議首席信息官重新思考團隊構(gòu)成，增加橋梁角色——既了解傳統(tǒng)軟件架構(gòu)又掌握生成式設計模式的工程師，因為孤立的AI團隊和工程團隊會產(chǎn)生迅速累積的整合債務。
據(jù)Choudary（喬達里）稱，重要的是要減少被動的質(zhì)量檢測，更多地在開發(fā)和工具環(huán)境中進行主動檢查，讓智能體與編碼人員并肩工作。
總體而言，生成式代碼與傳統(tǒng)代碼之間的轉(zhuǎn)換和交匯并不總是像API調(diào)用和結(jié)構(gòu)化輸出那樣簡單。因此，不僅要考慮人與AI之間的宏觀工作流程，還要考慮概率性代碼和確定性代碼之間的眾多接口。就像人與機器之間的交接一樣，我們還需要在AI和傳統(tǒng)代碼之間設置恰當?shù)慕唤狱c，并培養(yǎng)了解其中權(quán)衡的工程師。
三、為治理和成本建模投入時間
雖然混合應用可能會加速軟件開發(fā)，但節(jié)省的時間和成本需要重新分配到上游軟件設計和架構(gòu)以及下游測試、監(jiān)控和成本建模上。
Fauscette（福斯西特）表示，在治理和總擁有成本方面，混合系統(tǒng)在測試、監(jiān)控和成本建模中引入了新的復雜性。因為概率性組件具有可變的執(zhí)行路徑和基于代幣的成本結(jié)構(gòu)，這些并不完全符合傳統(tǒng)的容量規(guī)劃或質(zhì)量檢測框架。
在成本建模方面，盡管推理成本可能需要制定新的業(yè)務規(guī)則來為終端用戶設定使用邊界，但Taraki（塔拉基）表示，從根本上講，智能體時代的總擁有成本不僅僅是推理成本，還包括管理大規(guī)模非確定性系統(tǒng)所需的運營嚴謹性。
四、認識到多智能體工作流將進一步模糊界限
構(gòu)建包含生成式代碼和傳統(tǒng)代碼的混合系統(tǒng)的新設計考量和組織需求還不夠復雜，我們還要面對不斷變化的目標，因為智能體正在不斷發(fā)展。
Choudary（喬達里）補充說，混合系統(tǒng)內(nèi)部的重心每年都在向代理轉(zhuǎn)移。他說：“我們最初是讓智能體在遺留代碼之上工作，但現(xiàn)在我們越來越多地看到，創(chuàng)新需求驅(qū)動的系統(tǒng)圍繞智能體能力進行設計并使用代碼進行性能和風險管理?！?/span>
Fauscette（福斯西特）還建議，在任務是端到端的認知工作（如研究、分析和規(guī)劃）時選擇多智能體工作流；而在需要對輸出進行精確控制、符合監(jiān)管要求或與現(xiàn)有記錄系統(tǒng)集成時選擇混合AI和傳統(tǒng)方法。他說：“展望未來，隨著生成式框架的成熟并提供更好的原生支持用于確定性檢查點、結(jié)構(gòu)化輸出和人工干預控制，這兩種模式之間的界限將在未來一年到十八個月內(nèi)逐漸模糊，混合模式將成為默認的標準架構(gòu)模式?！?/span>
Taraki（塔拉基）的建議是通過確保每個代理步驟都有確定性的回退方案來實現(xiàn)優(yōu)雅降級，這樣即使模型失敗，你的平臺也能保持彈性和可用性。他補充道：“生成式的未來將不再是有代理性的粘合劑，而更像是一個具有服務等級協(xié)議、可審計性和標準化檢索、工具使用和安全模式的自主平臺。我們的研究表明，優(yōu)先考慮數(shù)據(jù)和AI主權(quán)的全球企業(yè)中，有13%的企業(yè)已經(jīng)實現(xiàn)了五倍的投資回報率，并且在主流生產(chǎn)中運行的用例數(shù)量是同行的兩倍?！?/span>
