【導(dǎo)讀】2025年，AI的進(jìn)化速度已經(jīng)超越了我們的想象。從簡單的聊天機(jī)器人到能夠自主執(zhí)行任務(wù)的自主AI智能體（Agentic AI），企業(yè)正面臨一場前所未有的管理危機(jī)。
麻省理工學(xué)院（MIT）的最新報告顯示，35%的公司已經(jīng)采用了自主AI智能體，另有44%計劃很快部署。但問題在于：治理、可觀察性和生命周期管理被嚴(yán)重忽視了。
當(dāng)智能體開始像“僵尸”一樣在后臺悄悄運(yùn)行，消耗著算力，甚至成為黑客的攻擊面時，CIO們該如何應(yīng)對？
一、??♂? 隱形危機(jī)：“影子智能體”正在失控
不僅是IT部門的事：Gartner預(yù)測，到2026年，40%的企業(yè)應(yīng)用將包含任務(wù)特定的自主智能體。這意味著，除了IT部門，SaaS平臺（如Salesforce）、瀏覽器甚至普通員工（Citizen Developers）都在創(chuàng)建智能體。
影子AI的升級版：IBM調(diào)查顯示，80%的員工在工作中使用AI，但僅有22%使用公司提供的工具。更可怕的是，Netskope發(fā)現(xiàn)67%的組織正在從Hugging Face下載AI資源。
后果：
成本爆炸：無用的智能體持續(xù)調(diào)用LLM推理，導(dǎo)致賬單失控。
安全漏洞：未經(jīng)批準(zhǔn)的智能體成為黑客的新攻擊面。
技術(shù)債務(wù)：“智能體技術(shù)債務(wù)（Agentic Tech Debt）”是一個令人恐懼的概念。
二、?? 治理之道：向金融巨頭取經(jīng)
Experian（益博睿）作為金融服務(wù)巨頭，展示了高標(biāo)準(zhǔn)的治理范本。
全生命周期管理：Experian追蹤每一個智能體——誰在使用、消耗多少、何時更新或退役。
人工監(jiān)督（Human-in-the-loop）：不僅有編排智能體（Orchestrator Agents）進(jìn)行質(zhì)量控制，還有人類驗證結(jié)果，防止成本超支。
市場化管理：創(chuàng)建一個內(nèi)部“AI智能體市場”，讓所有智能體可見、可追蹤、可退役。
【顧問建議】不要試圖用鐵腕手段“一刀切”地禁止影子智能體。無知和官僚主義才是問題的根源。建立一個可見的、受控的環(huán)境，讓員工愿意在其中創(chuàng)新。
三、?? 死亡機(jī)制：如何體面地送走“僵尸”？
許多失敗的試點項目從未真正“死亡”，它們變成了“僵尸智能體”，繼續(xù)消耗資源。
設(shè)定“殺戮開關(guān)”：
快速失敗：必須有階段性關(guān)卡（Stage Gates），允許你叫停項目。
定期審計：像審計資產(chǎn)一樣，每季度審查AI項目。如果性能低于容忍度，業(yè)務(wù)部門應(yīng)果斷拔掉插頭。
半衰期思維：每個AI項目都有半衰期。不要指望它能自我維持，它會像舊代碼一樣積累債務(wù)。
【結(jié)語】AI智能體不是“設(shè)置后即忘”（Set-it-and-forget-it）的解決方案。
在它們失控之前，建立你的治理基礎(chǔ)設(shè)施。否則，你將不僅面臨巨額賬單，還要應(yīng)對一場安全災(zāi)難。
全文：如何在智能體失控前保持 AI 計劃的完整
不僅僅是安全在新技術(shù)部署時可能被忽視。治理、可觀察性和生命周期管理也是如此。有了自主AI智能體（Agentic AI），這將是一場災(zāi)難的前兆。
圖源：Taris Tonsa / Shutterstock
在麻省理工學(xué)院（MIT）去年11月發(fā)布的一份報告中，35%的公司已經(jīng)采用了自主AI智能體（Agentic AI），另有44%計劃很快部署。
該報告基于與波士頓咨詢集團(tuán)（BCG）合作對2000多名受訪者的調(diào)查，建議企業(yè)在部署自主智能體之前，先建立集中式治理基礎(chǔ)設(shè)施。但當(dāng)公司感到處于生存競賽時，治理往往會滯后。這一規(guī)則的一個例外是受監(jiān)管行業(yè)，如金融服務(wù)業(yè)。
“在Experian，我們多年來一直在人工智能領(lǐng)域創(chuàng)新，”公司全球集團(tuán)首席技術(shù)官（CTO）Rodrigo Rodrigues說?！霸诮鹑诜?wù)領(lǐng)域，利害關(guān)系極高。我們需要審查每一個AI用例，確保從開發(fā)到部署都將監(jiān)管、倫理和性能標(biāo)準(zhǔn)融入其中。”
他說所有模型都會持續(xù)測試，公司會追蹤擁有哪些智能體、哪些被采納、消耗了哪些資源、運(yùn)行的版本，以及哪些智能體需要被淘汰，因為有新版本。
“這個生命周期是我們基礎(chǔ)的一部分，”他說。但他說，即使在Experian，現(xiàn)在討論智能體的典型生命周期也為時過早。
“當(dāng)我們退休或終止某個智能體時，那是因為我們開發(fā)了一項新能力，”他補(bǔ)充道。所以，智能體不是被刪除，而是被更新了。
此外，公司對智能體設(shè)有人工監(jiān)督，防止他們失控。
“我們還沒有進(jìn)入自動化的超大規(guī)模階段，并且確保我們的生成式AI智能體在大多數(shù)用例中負(fù)責(zé)非常具體的任務(wù)，”他說。此外，還有編排智能體（orchestrator agents）、輸入輸出質(zhì)量控制以及人工驗證結(jié)果。所有這些監(jiān)控系統(tǒng)還幫助公司避免了其他潛在的風(fēng)險——不想要的剩余智能體，比如AI智能體對大語言模型（LLM）推理調(diào)用導(dǎo)致的成本超支，這些調(diào)用對公司無益，卻仍會帶來賬單。
“我們不希望成本爆炸式增長，”他說。但金融服務(wù)、醫(yī)療保健和其他高度監(jiān)管的行業(yè)是個例。
對于大多數(shù)公司來說，即使有治理體系，他們也常常存在很大的盲點。例如，他們可能只專注于大型、以IT驅(qū)動的自主AI智能體項目，而忽略了其他所有項目。他們也可能關(guān)注AI智能體的準(zhǔn)確性、安全性、保障和合規(guī)性，而當(dāng)智能體變得過時時，他們就會忽略這些?；蛘咚麄兛赡軟]有處理不再需要的智能體的退役流程。
管理咨詢公司SSA & Company應(yīng)用解決方案負(fù)責(zé)人Nick Kramer說：“這些東西發(fā)展得太快，管理層往往被忽視?！薄敖ㄔ煨聳|西比回去修舊東西有趣多了?！倍以谥悄荏w生命周期管理方面，嚴(yán)謹(jǐn)性極為不足。
“正如我們過去經(jīng)歷過的，不可避免地會出現(xiàn)大量技術(shù)債務(wù)，”他補(bǔ)充道，“而智能體技術(shù)債務(wù)（agentic tech debt）是一個令人恐懼的概念?！?/span>
一、你知道你的智能體在哪里嗎？
首先，自主AI智能體不僅僅是公司數(shù)據(jù)科學(xué)、人工智能和IT團(tuán)隊的領(lǐng)域。幾乎所有企業(yè)軟件廠商都在大力投資智能體技術(shù)，Gartner表示，大多數(shù)企業(yè)應(yīng)用到今年底將配備AI助手，已有5%的企業(yè)擁有任務(wù)專屬的自主智能體，到2026年這一比例將升至40%。
像Salesforce這樣的大型SaaS平臺當(dāng)然有智能體。像Zapier這樣的DIY自動化平臺也有。事實上，已經(jīng)有四款瀏覽器——Perplexity的Comet、OpenAI的Atlas、Google的Gemini 3和Microsoft的Edge for Business——內(nèi)置了智能體功能。還有一些智能體是在公司內(nèi)部創(chuàng)建，但不在IT部門。根據(jù)安永（EY）去年十月發(fā)布的近1000名高管領(lǐng)導(dǎo)調(diào)查，三分之二的公司允許公民開發(fā)者（citizen developers）創(chuàng)建智能體。
無論是內(nèi)部開發(fā)的智能體還是SaaS提供商的智能體，都需要訪問數(shù)據(jù)和系統(tǒng)。你越希望智能體更有用，他們要求的訪問權(quán)限就越多，也需要擁有更多工具。這些智能體可能會以意想不到和不受歡迎的方式行動——而且已經(jīng)在這樣做了。
與傳統(tǒng)軟件不同，AI智能體不會只局限于自己的領(lǐng)域（stay in their lanes）。他們不斷學(xué)習(xí)、進(jìn)化，并不斷訪問更多系統(tǒng)。他們不想“死”，并且可以采取行動阻止這種情況發(fā)生。
甚至在智能體出現(xiàn)之前，影子AI（shadow AI）就已經(jīng)成為一個問題。根據(jù)IBM去年11月的一項調(diào)查，基于3000名辦公室職員的回答，80%的人在工作中使用人工智能，但只有22%只使用雇主提供的工具。
員工也可以創(chuàng)建自己的智能體。根據(jù)Netskope的企業(yè)流量分析數(shù)據(jù)，67%的組織用戶正在從Hugging Face——一個流行的AI工具分享網(wǎng)站——下載資源。
AI智能體通常通過向LLM調(diào)用API來運(yùn)作，Netskope在66%的組織中看到對OpenAI調(diào)用API，其次是Anthropic，占13%。
這些使用率是公司調(diào)查報告的兩倍。這就是影子AI智能體的差距。當(dāng)涉及到公司已知的智能體時，要掌握AI智能體已經(jīng)足夠困難了。
“我們最大的恐懼是那些我們不知道的事情，”SSA的Kramer說。他建議CIO們盡量避免用鐵腕手段管理AI智能體的誘惑。
“不要試圖用本能的懲罰來壓制它，”他說?！斑@些影子事件之所以會發(fā)生，是因為有太多障礙阻礙我們正確完成。無知和官僚主義是導(dǎo)致這些事情發(fā)生的最大兩大原因?！?/span>
而且，和所有影子IT一樣，好的解決方案很少。
他說：“通過可觀測軟件系統(tǒng)性地發(fā)現(xiàn)這些東西是個挑戰(zhàn)，”他補(bǔ)充說，在其他類型的影子IT中，未經(jīng)批準(zhǔn)的AI智能體對公司來說可能構(gòu)成重大風(fēng)險。“我們已經(jīng)看到智能體成為黑客的新攻擊面。”
但并非所有專家都認(rèn)為企業(yè)應(yīng)優(yōu)先考慮智能體生命周期管理，優(yōu)先于其他問題，比如僅僅讓智能體正常工作。
“這些技術(shù)極其高效，能節(jié)省員工時間，”NWN技術(shù)咨詢公司總裁兼首席執(zhí)行官Jim Sullivan說?！按蠖鄶?shù)公司都在努力利用這些效率，看看其影響。這可能是首要任務(wù)。你想進(jìn)入早期部署和早期回報，但現(xiàn)在談?wù)撋芷诠芾磉€處于早期階段。”
他說，現(xiàn)在最重要的是實現(xiàn)業(yè)務(wù)成果，并確保智能體繼續(xù)按預(yù)期表現(xiàn)。“如果你在這些方面實施得當(dāng)，應(yīng)該沒問題，”他補(bǔ)充道。
不過，現(xiàn)在判斷他的客戶是否正在創(chuàng)建環(huán)境中所有AI智能體的集中清單，還是訪問其數(shù)據(jù)還為時過早。他說：“我們的客戶正在確定他們希望推動的業(yè)務(wù)成果。”“他們正在搭建基礎(chǔ)設(shè)施，以便部署，快速學(xué)習(xí)，并調(diào)整以保持正確的業(yè)務(wù)成果?！?/span>
他補(bǔ)充說，未來可能會有某種“智能體的管理者”（agent manager of agents）?！皶兄悄荏w可以部署，負(fù)責(zé)那份庫存、訪問權(quán)限和建議?！钡鹊街悄荏w完全成熟后才考慮生命周期管理可能為時已晚。
二、保質(zhì)期里有什么
AI智能體通常不會預(yù)設(shè)有效期（shelf life）。SaaS提供商當(dāng)然不希望讓企業(yè)用戶輕易關(guān)閉智能體，而單獨創(chuàng)建智能體的用戶很少考慮生命周期管理。即使是部署AI智能體的IT團(tuán)隊，通常也不會考慮AI智能體的整個生命周期。
博思艾倫漢密爾頓（Booz Allen Hamilton）商業(yè)業(yè)務(wù)的人工智能安全負(fù)責(zé)人Matt Keating表示：“在許多情況下，人們把人工智能當(dāng)作一個‘設(shè)置好然后不管’（set it and forget it）的解決方案，”他補(bǔ)充說，雖然搭建智能體是一項技術(shù)挑戰(zhàn)，但持續(xù)的風(fēng)險管理是跨學(xué)科的?！八罂绮块T協(xié)作，涵蓋合規(guī)、網(wǎng)絡(luò)安全、法律和業(yè)務(wù)領(lǐng)導(dǎo)力?！?/span>
而智能體管理不應(yīng)僅僅關(guān)注績效變化或業(yè)務(wù)需求的變化?！巴瑯由踔粮匾氖牵篮螘r需要更換某個智能體或人工智能系統(tǒng)，”他說。正確操作將有助于保護(hù)公司的業(yè)務(wù)和聲譽(yù)，并帶來可持續(xù)的價值。
“僵尸智能體”的另一個來源是那些從未正式關(guān)閉的失敗試點項目?！坝行┰圏c即使失敗也不會死。他們之所以能繼續(xù)，是因為人們不斷努力讓它們運(yùn)作，”SSA的Kramer說。
需要有機(jī)來終止那些不成功的試點項目，即使預(yù)算里還有剩余資金。
“快速失?。‵ailing fast）是人們至今未學(xué)會的教訓(xùn)，”他說?！耙欢ㄓ须A段性關(guān)卡（stage gates）可以讓你停下來。干掉那些沒工作能力的試點，在開始之前要更清楚地理解你的目標(biāo)?！?/span>
另一個挑戰(zhàn)是，AI智能體面臨“通過災(zāi)難來管理”（manage by disaster）的誘惑。智能體只有在出現(xiàn)明顯問題時才會退役，尤其是問題公開時。這可能讓其他智能體難以被察覺。
“人工智能項目不會突然失敗，但它們確實會悄然衰敗，”Decidr執(zhí)行董事David Brudenell說，Decidr是一家自主AI智能體廠商。
他建議企業(yè)提前規(guī)劃，決定應(yīng)根據(jù)何種標(biāo)準(zhǔn)重新培訓(xùn)或讓智能體退役，例如，當(dāng)績效低于公司對錯誤的容忍度時。
“每個AI項目都有半衰期，”他說。“聰明的團(tuán)隊每季度進(jìn)行定期審查，就像其他資產(chǎn)審計一樣。”他補(bǔ)充說，真正應(yīng)該決定何時停產(chǎn)（pull the plug）的是業(yè)務(wù)部門?！皵?shù)據(jù)和工程團(tuán)隊支持，但業(yè)務(wù)決定何時性能下降，”他說。
最大的錯誤是把AI當(dāng)作一次性安裝。Brudenell說：“許多公司已經(jīng)部署了一種模型，然后繼續(xù)前進(jìn)，認(rèn)為它能自我維持?！薄暗獳I系統(tǒng)會像舊代碼一樣積累組織債務(wù)。”
Experian從庫存和生命周期管理的角度審視智能體，確保他們不會失控擴(kuò)散。
“我們很擔(dān)心，”Rodrigues說?！拔覀儚腁PI和微服務(wù)中學(xué)到了這一點，現(xiàn)在我們有了更好的治理。我們不想只制造大量智能體。”
Experian創(chuàng)建了一個AI智能體市場（AI agent marketplace），讓公司能夠直觀地了解智能體的使用情況?！八o了我們所有需要的信息，包括我們不再使用的智能體的日落能力，”他說。
AI智能體的生命周期管理是公司應(yīng)用生命周期管理流程的延伸。
“智能體是一種應(yīng)用，”Rodrigues說?！癊xperian的每一個應(yīng)用都有一個所有者，我們會把這作為技術(shù)的一部分進(jìn)行跟蹤。所有變得過時的東西，我們都會淘汰。我們有定期審查，這是我們?yōu)樯芷谥贫ǖ恼叩囊徊糠??！?/span>
