——MIT警告：44%企業(yè)即將部署自主AI智能體，但治理卻嚴(yán)重滯后。這里有一份“防失控”指南。

【導(dǎo)讀】2025年，AI的進(jìn)化速度已經(jīng)超越了我們的想象。從簡(jiǎn)單的聊天機(jī)器人到能夠自主執(zhí)行任務(wù)的自主AI智能體（Agentic AI），企業(yè)正面臨一場(chǎng)前所未有的管理危機(jī)。

麻省理工學(xué)院（MIT）的最新報(bào)告顯示，35%的公司已經(jīng)采用了自主AI智能體，另有44%計(jì)劃很快部署。但問(wèn)題在于：治理、可觀察性和生命周期管理被嚴(yán)重忽視了。

當(dāng)智能體開(kāi)始像“僵尸”一樣在后臺(tái)悄悄運(yùn)行，消耗著算力，甚至成為黑客的攻擊面時(shí)，CIO們?cè)撊绾螒?yīng)對(duì)？

一、??♂? 隱形危機(jī)：“影子智能體”正在失控

不僅是IT部門(mén)的事：Gartner預(yù)測(cè)，到2026年，40%的企業(yè)應(yīng)用將包含任務(wù)特定的自主智能體。這意味著，除了IT部門(mén)，SaaS平臺(tái)（如Salesforce）、瀏覽器甚至普通員工（Citizen Developers）都在創(chuàng)建智能體。

影子AI的升級(jí)版：IBM調(diào)查顯示，80%的員工在工作中使用AI，但僅有22%使用公司提供的工具。更可怕的是，Netskope發(fā)現(xiàn)67%的組織正在從Hugging Face下載AI資源。

后果：

• 成本爆炸：無(wú)用的智能體持續(xù)調(diào)用LLM推理，導(dǎo)致賬單失控。

• 安全漏洞：未經(jīng)批準(zhǔn)的智能體成為黑客的新攻擊面。

• 技術(shù)債務(wù)：“智能體技術(shù)債務(wù)（Agentic Tech Debt）”是一個(gè)令人恐懼的概念。

二、?? 治理之道：向金融巨頭取經(jīng)

Experian（益博睿）作為金融服務(wù)巨頭，展示了高標(biāo)準(zhǔn)的治理范本。

• 全生命周期管理：Experian追蹤每一個(gè)智能體——誰(shuí)在使用、消耗多少、何時(shí)更新或退役。

• 人工監(jiān)督（Human-in-the-loop）：不僅有編排智能體（Orchestrator Agents）進(jìn)行質(zhì)量控制，還有人類(lèi)驗(yàn)證結(jié)果，防止成本超支。

• 市場(chǎng)化管理：創(chuàng)建一個(gè)內(nèi)部“AI智能體市場(chǎng)”，讓所有智能體可見(jiàn)、可追蹤、可退役。

【顧問(wèn)建議】不要試圖用鐵腕手段“一刀切”地禁止影子智能體。無(wú)知和官僚主義才是問(wèn)題的根源。建立一個(gè)可見(jiàn)的、受控的環(huán)境，讓員工愿意在其中創(chuàng)新。

三、?? 死亡機(jī)制：如何體面地送走“僵尸”？

許多失敗的試點(diǎn)項(xiàng)目從未真正“死亡”，它們變成了“僵尸智能體”，繼續(xù)消耗資源。

設(shè)定“殺戮開(kāi)關(guān)”：

• 快速失敗：必須有階段性關(guān)卡（Stage Gates），允許你叫停項(xiàng)目。

• 定期審計(jì)：像審計(jì)資產(chǎn)一樣，每季度審查AI項(xiàng)目。如果性能低于容忍度，業(yè)務(wù)部門(mén)應(yīng)果斷拔掉插頭。

• 半衰期思維：每個(gè)AI項(xiàng)目都有半衰期。不要指望它能自我維持，它會(huì)像舊代碼一樣積累債務(wù)。

【結(jié)語(yǔ)】AI智能體不是“設(shè)置后即忘”（Set-it-and-forget-it）的解決方案。

在它們失控之前，建立你的治理基礎(chǔ)設(shè)施。否則，你將不僅面臨巨額賬單，還要應(yīng)對(duì)一場(chǎng)安全災(zāi)難。

全文：如何在智能體失控前保持 AI 計(jì)劃的完整

不僅僅是安全在新技術(shù)部署時(shí)可能被忽視。治理、可觀察性和生命周期管理也是如此。有了自主AI智能體（Agentic AI），這將是一場(chǎng)災(zāi)難的前兆。

圖源：Taris Tonsa / Shutterstock

在麻省理工學(xué)院（MIT）去年11月發(fā)布的一份報(bào)告中，35%的公司已經(jīng)采用了自主AI智能體（Agentic AI），另有44%計(jì)劃很快部署。

該報(bào)告基于與波士頓咨詢(xún)集團(tuán)（BCG）合作對(duì)2000多名受訪者的調(diào)查，建議企業(yè)在部署自主智能體之前，先建立集中式治理基礎(chǔ)設(shè)施。但當(dāng)公司感到處于生存競(jìng)賽時(shí)，治理往往會(huì)滯后。這一規(guī)則的一個(gè)例外是受監(jiān)管行業(yè)，如金融服務(wù)業(yè)。

“在Experian，我們多年來(lái)一直在人工智能領(lǐng)域創(chuàng)新，”公司全球集團(tuán)首席技術(shù)官（CTO）Rodrigo Rodrigues說(shuō)。“在金融服務(wù)領(lǐng)域，利害關(guān)系極高。我們需要審查每一個(gè)AI用例，確保從開(kāi)發(fā)到部署都將監(jiān)管、倫理和性能標(biāo)準(zhǔn)融入其中?！?/span>

他說(shuō)所有模型都會(huì)持續(xù)測(cè)試，公司會(huì)追蹤擁有哪些智能體、哪些被采納、消耗了哪些資源、運(yùn)行的版本，以及哪些智能體需要被淘汰，因?yàn)橛行掳姹尽?/span>

“這個(gè)生命周期是我們基礎(chǔ)的一部分，”他說(shuō)。但他說(shuō)，即使在Experian，現(xiàn)在討論智能體的典型生命周期也為時(shí)過(guò)早。

“當(dāng)我們退休或終止某個(gè)智能體時(shí)，那是因?yàn)槲覀冮_(kāi)發(fā)了一項(xiàng)新能力，”他補(bǔ)充道。所以，智能體不是被刪除，而是被更新了。

此外，公司對(duì)智能體設(shè)有人工監(jiān)督，防止他們失控。

“我們還沒(méi)有進(jìn)入自動(dòng)化的超大規(guī)模階段，并且確保我們的生成式AI智能體在大多數(shù)用例中負(fù)責(zé)非常具體的任務(wù)，”他說(shuō)。此外，還有編排智能體（orchestrator agents）、輸入輸出質(zhì)量控制以及人工驗(yàn)證結(jié)果。所有這些監(jiān)控系統(tǒng)還幫助公司避免了其他潛在的風(fēng)險(xiǎn)——不想要的剩余智能體，比如AI智能體對(duì)大語(yǔ)言模型（LLM）推理調(diào)用導(dǎo)致的成本超支，這些調(diào)用對(duì)公司無(wú)益，卻仍會(huì)帶來(lái)賬單。

“我們不希望成本爆炸式增長(zhǎng)，”他說(shuō)。但金融服務(wù)、醫(yī)療保健和其他高度監(jiān)管的行業(yè)是個(gè)例。

對(duì)于大多數(shù)公司來(lái)說(shuō)，即使有治理體系，他們也常常存在很大的盲點(diǎn)。例如，他們可能只專(zhuān)注于大型、以IT驅(qū)動(dòng)的自主AI智能體項(xiàng)目，而忽略了其他所有項(xiàng)目。他們也可能關(guān)注AI智能體的準(zhǔn)確性、安全性、保障和合規(guī)性，而當(dāng)智能體變得過(guò)時(shí)時(shí)，他們就會(huì)忽略這些?；蛘咚麄兛赡軟](méi)有處理不再需要的智能體的退役流程。

管理咨詢(xún)公司SSA & Company應(yīng)用解決方案負(fù)責(zé)人Nick Kramer說(shuō)：“這些東西發(fā)展得太快，管理層往往被忽視。”“建造新東西比回去修舊東西有趣多了?！倍以谥悄荏w生命周期管理方面，嚴(yán)謹(jǐn)性極為不足。

“正如我們過(guò)去經(jīng)歷過(guò)的，不可避免地會(huì)出現(xiàn)大量技術(shù)債務(wù)，”他補(bǔ)充道，“而智能體技術(shù)債務(wù)（agentic tech debt）是一個(gè)令人恐懼的概念?！?/span>

一、你知道你的智能體在哪里嗎？

首先，自主AI智能體不僅僅是公司數(shù)據(jù)科學(xué)、人工智能和IT團(tuán)隊(duì)的領(lǐng)域。幾乎所有企業(yè)軟件廠商都在大力投資智能體技術(shù)，Gartner表示，大多數(shù)企業(yè)應(yīng)用到今年底將配備AI助手，已有5%的企業(yè)擁有任務(wù)專(zhuān)屬的自主智能體，到2026年這一比例將升至40%。

像Salesforce這樣的大型SaaS平臺(tái)當(dāng)然有智能體。像Zapier這樣的DIY自動(dòng)化平臺(tái)也有。事實(shí)上，已經(jīng)有四款瀏覽器——Perplexity的Comet、OpenAI的Atlas、Google的Gemini 3和Microsoft的Edge for Business——內(nèi)置了智能體功能。還有一些智能體是在公司內(nèi)部創(chuàng)建，但不在IT部門(mén)。根據(jù)安永（EY）去年十月發(fā)布的近1000名高管領(lǐng)導(dǎo)調(diào)查，三分之二的公司允許公民開(kāi)發(fā)者（citizen developers）創(chuàng)建智能體。

無(wú)論是內(nèi)部開(kāi)發(fā)的智能體還是SaaS提供商的智能體，都需要訪問(wèn)數(shù)據(jù)和系統(tǒng)。你越希望智能體更有用，他們要求的訪問(wèn)權(quán)限就越多，也需要擁有更多工具。這些智能體可能會(huì)以意想不到和不受歡迎的方式行動(dòng)——而且已經(jīng)在這樣做了。

與傳統(tǒng)軟件不同，AI智能體不會(huì)只局限于自己的領(lǐng)域（stay in their lanes）。他們不斷學(xué)習(xí)、進(jìn)化，并不斷訪問(wèn)更多系統(tǒng)。他們不想“死”，并且可以采取行動(dòng)阻止這種情況發(fā)生。

甚至在智能體出現(xiàn)之前，影子AI（shadow AI）就已經(jīng)成為一個(gè)問(wèn)題。根據(jù)IBM去年11月的一項(xiàng)調(diào)查，基于3000名辦公室職員的回答，80%的人在工作中使用人工智能，但只有22%只使用雇主提供的工具。

員工也可以創(chuàng)建自己的智能體。根據(jù)Netskope的企業(yè)流量分析數(shù)據(jù)，67%的組織用戶(hù)正在從Hugging Face——一個(gè)流行的AI工具分享網(wǎng)站——下載資源。

AI智能體通常通過(guò)向LLM調(diào)用API來(lái)運(yùn)作，Netskope在66%的組織中看到對(duì)OpenAI調(diào)用API，其次是Anthropic，占13%。

這些使用率是公司調(diào)查報(bào)告的兩倍。這就是影子AI智能體的差距。當(dāng)涉及到公司已知的智能體時(shí)，要掌握AI智能體已經(jīng)足夠困難了。

“我們最大的恐懼是那些我們不知道的事情，”SSA的Kramer說(shuō)。他建議CIO們盡量避免用鐵腕手段管理AI智能體的誘惑。

“不要試圖用本能的懲罰來(lái)壓制它，”他說(shuō)?！斑@些影子事件之所以會(huì)發(fā)生，是因?yàn)橛刑嗾系K阻礙我們正確完成。無(wú)知和官僚主義是導(dǎo)致這些事情發(fā)生的最大兩大原因?！?/span>

而且，和所有影子IT一樣，好的解決方案很少。

他說(shuō)：“通過(guò)可觀測(cè)軟件系統(tǒng)性地發(fā)現(xiàn)這些東西是個(gè)挑戰(zhàn)，”他補(bǔ)充說(shuō)，在其他類(lèi)型的影子IT中，未經(jīng)批準(zhǔn)的AI智能體對(duì)公司來(lái)說(shuō)可能構(gòu)成重大風(fēng)險(xiǎn)?！拔覀円呀?jīng)看到智能體成為黑客的新攻擊面。”

但并非所有專(zhuān)家都認(rèn)為企業(yè)應(yīng)優(yōu)先考慮智能體生命周期管理，優(yōu)先于其他問(wèn)題，比如僅僅讓智能體正常工作。

“這些技術(shù)極其高效，能節(jié)省員工時(shí)間，”NWN技術(shù)咨詢(xún)公司總裁兼首席執(zhí)行官Jim Sullivan說(shuō)。“大多數(shù)公司都在努力利用這些效率，看看其影響。這可能是首要任務(wù)。你想進(jìn)入早期部署和早期回報(bào)，但現(xiàn)在談?wù)撋芷诠芾磉€處于早期階段。”

他說(shuō)，現(xiàn)在最重要的是實(shí)現(xiàn)業(yè)務(wù)成果，并確保智能體繼續(xù)按預(yù)期表現(xiàn)?！叭绻阍谶@些方面實(shí)施得當(dāng)，應(yīng)該沒(méi)問(wèn)題，”他補(bǔ)充道。

不過(guò)，現(xiàn)在判斷他的客戶(hù)是否正在創(chuàng)建環(huán)境中所有AI智能體的集中清單，還是訪問(wèn)其數(shù)據(jù)還為時(shí)過(guò)早。他說(shuō)：“我們的客戶(hù)正在確定他們希望推動(dòng)的業(yè)務(wù)成果?！薄八麄冋诖罱ɑA(chǔ)設(shè)施，以便部署，快速學(xué)習(xí)，并調(diào)整以保持正確的業(yè)務(wù)成果。”

他補(bǔ)充說(shuō)，未來(lái)可能會(huì)有某種“智能體的管理者”（agent manager of agents）。“會(huì)有智能體可以部署，負(fù)責(zé)那份庫(kù)存、訪問(wèn)權(quán)限和建議?！钡鹊街悄荏w完全成熟后才考慮生命周期管理可能為時(shí)已晚。

二、保質(zhì)期里有什么

AI智能體通常不會(huì)預(yù)設(shè)有效期（shelf life）。SaaS提供商當(dāng)然不希望讓企業(yè)用戶(hù)輕易關(guān)閉智能體，而單獨(dú)創(chuàng)建智能體的用戶(hù)很少考慮生命周期管理。即使是部署AI智能體的IT團(tuán)隊(duì)，通常也不會(huì)考慮AI智能體的整個(gè)生命周期。

博思艾倫漢密爾頓（Booz Allen Hamilton）商業(yè)業(yè)務(wù)的人工智能安全負(fù)責(zé)人Matt Keating表示：“在許多情況下，人們把人工智能當(dāng)作一個(gè)‘設(shè)置好然后不管’（set it and forget it）的解決方案，”他補(bǔ)充說(shuō)，雖然搭建智能體是一項(xiàng)技術(shù)挑戰(zhàn)，但持續(xù)的風(fēng)險(xiǎn)管理是跨學(xué)科的?！八罂绮块T(mén)協(xié)作，涵蓋合規(guī)、網(wǎng)絡(luò)安全、法律和業(yè)務(wù)領(lǐng)導(dǎo)力?！?/span>

而智能體管理不應(yīng)僅僅關(guān)注績(jī)效變化或業(yè)務(wù)需求的變化?！巴瑯由踔粮匾氖?，知道何時(shí)需要更換某個(gè)智能體或人工智能系統(tǒng)，”他說(shuō)。正確操作將有助于保護(hù)公司的業(yè)務(wù)和聲譽(yù)，并帶來(lái)可持續(xù)的價(jià)值。

“僵尸智能體”的另一個(gè)來(lái)源是那些從未正式關(guān)閉的失敗試點(diǎn)項(xiàng)目?！坝行┰圏c(diǎn)即使失敗也不會(huì)死。他們之所以能繼續(xù)，是因?yàn)槿藗儾粩嗯ψ屗鼈冞\(yùn)作，”SSA的Kramer說(shuō)。

需要有機(jī)來(lái)終止那些不成功的試點(diǎn)項(xiàng)目，即使預(yù)算里還有剩余資金。

“快速失敗（Failing fast）是人們至今未學(xué)會(huì)的教訓(xùn)，”他說(shuō)。“一定有階段性關(guān)卡（stage gates）可以讓你停下來(lái)。干掉那些沒(méi)工作能力的試點(diǎn)，在開(kāi)始之前要更清楚地理解你的目標(biāo)。”

另一個(gè)挑戰(zhàn)是，AI智能體面臨“通過(guò)災(zāi)難來(lái)管理”（manage by disaster）的誘惑。智能體只有在出現(xiàn)明顯問(wèn)題時(shí)才會(huì)退役，尤其是問(wèn)題公開(kāi)時(shí)。這可能讓其他智能體難以被察覺(jué)。

“人工智能項(xiàng)目不會(huì)突然失敗，但它們確實(shí)會(huì)悄然衰敗，”Decidr執(zhí)行董事David Brudenell說(shuō)，Decidr是一家自主AI智能體廠商。

他建議企業(yè)提前規(guī)劃，決定應(yīng)根據(jù)何種標(biāo)準(zhǔn)重新培訓(xùn)或讓智能體退役，例如，當(dāng)績(jī)效低于公司對(duì)錯(cuò)誤的容忍度時(shí)。

“每個(gè)AI項(xiàng)目都有半衰期，”他說(shuō)?！奥斆鞯膱F(tuán)隊(duì)每季度進(jìn)行定期審查，就像其他資產(chǎn)審計(jì)一樣?！彼a(bǔ)充說(shuō)，真正應(yīng)該決定何時(shí)停產(chǎn)（pull the plug）的是業(yè)務(wù)部門(mén)。“數(shù)據(jù)和工程團(tuán)隊(duì)支持，但業(yè)務(wù)決定何時(shí)性能下降，”他說(shuō)。

最大的錯(cuò)誤是把AI當(dāng)作一次性安裝。Brudenell說(shuō)：“許多公司已經(jīng)部署了一種模型，然后繼續(xù)前進(jìn)，認(rèn)為它能自我維持?！薄暗獳I系統(tǒng)會(huì)像舊代碼一樣積累組織債務(wù)?！?/span>

Experian從庫(kù)存和生命周期管理的角度審視智能體，確保他們不會(huì)失控?cái)U(kuò)散。

“我們很擔(dān)心，”Rodrigues說(shuō)?！拔覀儚腁PI和微服務(wù)中學(xué)到了這一點(diǎn)，現(xiàn)在我們有了更好的治理。我們不想只制造大量智能體。”

Experian創(chuàng)建了一個(gè)AI智能體市場(chǎng)（AI agent marketplace），讓公司能夠直觀地了解智能體的使用情況?！八o了我們所有需要的信息，包括我們不再使用的智能體的日落能力，”他說(shuō)。

AI智能體的生命周期管理是公司應(yīng)用生命周期管理流程的延伸。

“智能體是一種應(yīng)用，”Rodrigues說(shuō)。“Experian的每一個(gè)應(yīng)用都有一個(gè)所有者，我們會(huì)把這作為技術(shù)的一部分進(jìn)行跟蹤。所有變得過(guò)時(shí)的東西，我們都會(huì)淘汰。我們有定期審查，這是我們?yōu)樯芷谥贫ǖ恼叩囊徊糠?。?/span>