【導讀】2025年，AI的進化速度已經超越了我們的想象。從簡單的聊天機器人到能夠自主執(zhí)行任務的自主AI智能體（Agentic AI），企業(yè)正面臨一場前所未有的管理危機。
麻省理工學院（MIT）的最新報告顯示，35%的公司已經采用了自主AI智能體，另有44%計劃很快部署。但問題在于：治理、可觀察性和生命周期管理被嚴重忽視了。
當智能體開始像“僵尸”一樣在后臺悄悄運行，消耗著算力，甚至成為黑客的攻擊面時，CIO們該如何應對？
一、??♂? 隱形危機：“影子智能體”正在失控
不僅是IT部門的事：Gartner預測，到2026年，40%的企業(yè)應用將包含任務特定的自主智能體。這意味著，除了IT部門，SaaS平臺（如Salesforce）、瀏覽器甚至普通員工（Citizen Developers）都在創(chuàng)建智能體。
影子AI的升級版：IBM調查顯示，80%的員工在工作中使用AI，但僅有22%使用公司提供的工具。更可怕的是，Netskope發(fā)現67%的組織正在從Hugging Face下載AI資源。
后果：
成本爆炸：無用的智能體持續(xù)調用LLM推理，導致賬單失控。
安全漏洞：未經批準的智能體成為黑客的新攻擊面。
技術債務：“智能體技術債務（Agentic Tech Debt）”是一個令人恐懼的概念。
二、?? 治理之道：向金融巨頭取經
Experian（益博睿）作為金融服務巨頭，展示了高標準的治理范本。
全生命周期管理：Experian追蹤每一個智能體——誰在使用、消耗多少、何時更新或退役。
人工監(jiān)督（Human-in-the-loop）：不僅有編排智能體（Orchestrator Agents）進行質量控制，還有人類驗證結果，防止成本超支。
市場化管理：創(chuàng)建一個內部“AI智能體市場”，讓所有智能體可見、可追蹤、可退役。
【顧問建議】不要試圖用鐵腕手段“一刀切”地禁止影子智能體。無知和官僚主義才是問題的根源。建立一個可見的、受控的環(huán)境，讓員工愿意在其中創(chuàng)新。
三、?? 死亡機制：如何體面地送走“僵尸”？
許多失敗的試點項目從未真正“死亡”，它們變成了“僵尸智能體”，繼續(xù)消耗資源。
設定“殺戮開關”：
快速失敗：必須有階段性關卡（Stage Gates），允許你叫停項目。
定期審計：像審計資產一樣，每季度審查AI項目。如果性能低于容忍度，業(yè)務部門應果斷拔掉插頭。
半衰期思維：每個AI項目都有半衰期。不要指望它能自我維持，它會像舊代碼一樣積累債務。
【結語】AI智能體不是“設置后即忘”（Set-it-and-forget-it）的解決方案。
在它們失控之前，建立你的治理基礎設施。否則，你將不僅面臨巨額賬單，還要應對一場安全災難。
全文：如何在智能體失控前保持 AI 計劃的完整
不僅僅是安全在新技術部署時可能被忽視。治理、可觀察性和生命周期管理也是如此。有了自主AI智能體（Agentic AI），這將是一場災難的前兆。
圖源：Taris Tonsa / Shutterstock
在麻省理工學院（MIT）去年11月發(fā)布的一份報告中，35%的公司已經采用了自主AI智能體（Agentic AI），另有44%計劃很快部署。
該報告基于與波士頓咨詢集團（BCG）合作對2000多名受訪者的調查，建議企業(yè)在部署自主智能體之前，先建立集中式治理基礎設施。但當公司感到處于生存競賽時，治理往往會滯后。這一規(guī)則的一個例外是受監(jiān)管行業(yè)，如金融服務業(yè)。
“在Experian，我們多年來一直在人工智能領域創(chuàng)新，”公司全球集團首席技術官（CTO）Rodrigo Rodrigues說?！霸诮鹑诜疹I域，利害關系極高。我們需要審查每一個AI用例，確保從開發(fā)到部署都將監(jiān)管、倫理和性能標準融入其中?！?/span>
他說所有模型都會持續(xù)測試，公司會追蹤擁有哪些智能體、哪些被采納、消耗了哪些資源、運行的版本，以及哪些智能體需要被淘汰，因為有新版本。
“這個生命周期是我們基礎的一部分，”他說。但他說，即使在Experian，現在討論智能體的典型生命周期也為時過早。
“當我們退休或終止某個智能體時，那是因為我們開發(fā)了一項新能力，”他補充道。所以，智能體不是被刪除，而是被更新了。
此外，公司對智能體設有人工監(jiān)督，防止他們失控。
“我們還沒有進入自動化的超大規(guī)模階段，并且確保我們的生成式AI智能體在大多數用例中負責非常具體的任務，”他說。此外，還有編排智能體（orchestrator agents）、輸入輸出質量控制以及人工驗證結果。所有這些監(jiān)控系統還幫助公司避免了其他潛在的風險——不想要的剩余智能體，比如AI智能體對大語言模型（LLM）推理調用導致的成本超支，這些調用對公司無益，卻仍會帶來賬單。
“我們不希望成本爆炸式增長，”他說。但金融服務、醫(yī)療保健和其他高度監(jiān)管的行業(yè)是個例。
對于大多數公司來說，即使有治理體系，他們也常常存在很大的盲點。例如，他們可能只專注于大型、以IT驅動的自主AI智能體項目，而忽略了其他所有項目。他們也可能關注AI智能體的準確性、安全性、保障和合規(guī)性，而當智能體變得過時時，他們就會忽略這些。或者他們可能沒有處理不再需要的智能體的退役流程。
管理咨詢公司SSA & Company應用解決方案負責人Nick Kramer說：“這些東西發(fā)展得太快，管理層往往被忽視?！薄敖ㄔ煨聳|西比回去修舊東西有趣多了?！倍以谥悄荏w生命周期管理方面，嚴謹性極為不足。
“正如我們過去經歷過的，不可避免地會出現大量技術債務，”他補充道，“而智能體技術債務（agentic tech debt）是一個令人恐懼的概念?！?/span>
一、你知道你的智能體在哪里嗎？
首先，自主AI智能體不僅僅是公司數據科學、人工智能和IT團隊的領域。幾乎所有企業(yè)軟件廠商都在大力投資智能體技術，Gartner表示，大多數企業(yè)應用到今年底將配備AI助手，已有5%的企業(yè)擁有任務專屬的自主智能體，到2026年這一比例將升至40%。
像Salesforce這樣的大型SaaS平臺當然有智能體。像Zapier這樣的DIY自動化平臺也有。事實上，已經有四款瀏覽器——Perplexity的Comet、OpenAI的Atlas、Google的Gemini 3和Microsoft的Edge for Business——內置了智能體功能。還有一些智能體是在公司內部創(chuàng)建，但不在IT部門。根據安永（EY）去年十月發(fā)布的近1000名高管領導調查，三分之二的公司允許公民開發(fā)者（citizen developers）創(chuàng)建智能體。
無論是內部開發(fā)的智能體還是SaaS提供商的智能體，都需要訪問數據和系統。你越希望智能體更有用，他們要求的訪問權限就越多，也需要擁有更多工具。這些智能體可能會以意想不到和不受歡迎的方式行動——而且已經在這樣做了。
與傳統軟件不同，AI智能體不會只局限于自己的領域（stay in their lanes）。他們不斷學習、進化，并不斷訪問更多系統。他們不想“死”，并且可以采取行動阻止這種情況發(fā)生。
甚至在智能體出現之前，影子AI（shadow AI）就已經成為一個問題。根據IBM去年11月的一項調查，基于3000名辦公室職員的回答，80%的人在工作中使用人工智能，但只有22%只使用雇主提供的工具。
員工也可以創(chuàng)建自己的智能體。根據Netskope的企業(yè)流量分析數據，67%的組織用戶正在從Hugging Face——一個流行的AI工具分享網站——下載資源。
AI智能體通常通過向LLM調用API來運作，Netskope在66%的組織中看到對OpenAI調用API，其次是Anthropic，占13%。
這些使用率是公司調查報告的兩倍。這就是影子AI智能體的差距。當涉及到公司已知的智能體時，要掌握AI智能體已經足夠困難了。
“我們最大的恐懼是那些我們不知道的事情，”SSA的Kramer說。他建議CIO們盡量避免用鐵腕手段管理AI智能體的誘惑。
“不要試圖用本能的懲罰來壓制它，”他說。“這些影子事件之所以會發(fā)生，是因為有太多障礙阻礙我們正確完成。無知和官僚主義是導致這些事情發(fā)生的最大兩大原因。”
而且，和所有影子IT一樣，好的解決方案很少。
他說：“通過可觀測軟件系統性地發(fā)現這些東西是個挑戰(zhàn)，”他補充說，在其他類型的影子IT中，未經批準的AI智能體對公司來說可能構成重大風險?！拔覀円呀浛吹街悄荏w成為黑客的新攻擊面。”
但并非所有專家都認為企業(yè)應優(yōu)先考慮智能體生命周期管理，優(yōu)先于其他問題，比如僅僅讓智能體正常工作。
“這些技術極其高效，能節(jié)省員工時間，”NWN技術咨詢公司總裁兼首席執(zhí)行官Jim Sullivan說。“大多數公司都在努力利用這些效率，看看其影響。這可能是首要任務。你想進入早期部署和早期回報，但現在談論生命周期管理還處于早期階段?！?/span>
他說，現在最重要的是實現業(yè)務成果，并確保智能體繼續(xù)按預期表現。“如果你在這些方面實施得當，應該沒問題，”他補充道。
不過，現在判斷他的客戶是否正在創(chuàng)建環(huán)境中所有AI智能體的集中清單，還是訪問其數據還為時過早。他說：“我們的客戶正在確定他們希望推動的業(yè)務成果?！薄八麄冋诖罱ɑA設施，以便部署，快速學習，并調整以保持正確的業(yè)務成果。”
他補充說，未來可能會有某種“智能體的管理者”（agent manager of agents）?！皶兄悄荏w可以部署，負責那份庫存、訪問權限和建議?！钡鹊街悄荏w完全成熟后才考慮生命周期管理可能為時已晚。
二、保質期里有什么
AI智能體通常不會預設有效期（shelf life）。SaaS提供商當然不希望讓企業(yè)用戶輕易關閉智能體，而單獨創(chuàng)建智能體的用戶很少考慮生命周期管理。即使是部署AI智能體的IT團隊，通常也不會考慮AI智能體的整個生命周期。
博思艾倫漢密爾頓（Booz Allen Hamilton）商業(yè)業(yè)務的人工智能安全負責人Matt Keating表示：“在許多情況下，人們把人工智能當作一個‘設置好然后不管’（set it and forget it）的解決方案，”他補充說，雖然搭建智能體是一項技術挑戰(zhàn)，但持續(xù)的風險管理是跨學科的?！八罂绮块T協作，涵蓋合規(guī)、網絡安全、法律和業(yè)務領導力?！?/span>
而智能體管理不應僅僅關注績效變化或業(yè)務需求的變化。“同樣甚至更重要的是，知道何時需要更換某個智能體或人工智能系統，”他說。正確操作將有助于保護公司的業(yè)務和聲譽，并帶來可持續(xù)的價值。
“僵尸智能體”的另一個來源是那些從未正式關閉的失敗試點項目?！坝行┰圏c即使失敗也不會死。他們之所以能繼續(xù)，是因為人們不斷努力讓它們運作，”SSA的Kramer說。
需要有機來終止那些不成功的試點項目，即使預算里還有剩余資金。
“快速失?。‵ailing fast）是人們至今未學會的教訓，”他說。“一定有階段性關卡（stage gates）可以讓你停下來。干掉那些沒工作能力的試點，在開始之前要更清楚地理解你的目標?！?/span>
另一個挑戰(zhàn)是，AI智能體面臨“通過災難來管理”（manage by disaster）的誘惑。智能體只有在出現明顯問題時才會退役，尤其是問題公開時。這可能讓其他智能體難以被察覺。
“人工智能項目不會突然失敗，但它們確實會悄然衰敗，”Decidr執(zhí)行董事David Brudenell說，Decidr是一家自主AI智能體廠商。
他建議企業(yè)提前規(guī)劃，決定應根據何種標準重新培訓或讓智能體退役，例如，當績效低于公司對錯誤的容忍度時。
“每個AI項目都有半衰期，”他說?！奥斆鞯膱F隊每季度進行定期審查，就像其他資產審計一樣?！彼a充說，真正應該決定何時停產（pull the plug）的是業(yè)務部門?！皵祿凸こ虉F隊支持，但業(yè)務決定何時性能下降，”他說。
最大的錯誤是把AI當作一次性安裝。Brudenell說：“許多公司已經部署了一種模型，然后繼續(xù)前進，認為它能自我維持。”“但AI系統會像舊代碼一樣積累組織債務。”
Experian從庫存和生命周期管理的角度審視智能體，確保他們不會失控擴散。
“我們很擔心，”Rodrigues說?！拔覀儚腁PI和微服務中學到了這一點，現在我們有了更好的治理。我們不想只制造大量智能體?！?/span>
Experian創(chuàng)建了一個AI智能體市場（AI agent marketplace），讓公司能夠直觀地了解智能體的使用情況?！八o了我們所有需要的信息，包括我們不再使用的智能體的日落能力，”他說。
AI智能體的生命周期管理是公司應用生命周期管理流程的延伸。
“智能體是一種應用，”Rodrigues說?！癊xperian的每一個應用都有一個所有者，我們會把這作為技術的一部分進行跟蹤。所有變得過時的東西，我們都會淘汰。我們有定期審查，這是我們?yōu)樯芷谥贫ǖ恼叩囊徊糠?。?/span>
