人工智能代理將改變企業(yè)格局，從自動(dòng)化日常任務(wù)到推動(dòng)客戶服務(wù)和創(chuàng)新。但建立強(qiáng)大的防護(hù)措施將是成功的關(guān)鍵。

圖源：Gorodenkoff / Shutterstock

人工智能的下一次進(jìn)化已經(jīng)到來(lái)，那就是代理式人工智能（AI智能體）。人工智能代理由與聊天機(jī)器人相同的人工智能系統(tǒng)驅(qū)動(dòng)，但可以獨(dú)立行動(dòng)，協(xié)作實(shí)現(xiàn)更大的目標(biāo)，并接管整個(gè)業(yè)務(wù)工作流程。這項(xiàng)技術(shù)相對(duì)較新，但所有主要參與者都已經(jīng)加入。 10 月，微軟宣布包括 Standard Bank、Thomson Reuters、Virgin Money 和 Zurich Insurance 在內(nèi)的 10 萬(wàn)家組織正在使用 Copilot Studio，僅幾個(gè)月前，這一數(shù)字翻了一番。Copilot Studio 允許企業(yè)構(gòu)建自主代理，以及將 CRM 系統(tǒng)、HR 系統(tǒng)和其他企業(yè)平臺(tái)連接到 Copilot 的其他代理。 在 2024 年底，微軟繼續(xù)通過(guò)針對(duì)特定用例的專用代理擴(kuò)展其代理產(chǎn)品。然后在 11 月，該公司推出了 Azure AI Agent Service，這是一項(xiàng)完全托管的服務(wù)，使企業(yè)能夠快速構(gòu)建、部署和擴(kuò)展代理。在 AWS 上，Amazon Bedrock Agents 自 2023 年以來(lái)一直可用，但在 12 月，亞馬遜增加了多代理協(xié)作功能。

主要的商業(yè)軟件供應(yīng)商也紛紛加入代理游戲。Salesforce 在 10 月推出了 Agentforce，幾個(gè)月后又推出了 Agentforce 2.0。此次升級(jí)包括一個(gè)預(yù)構(gòu)建技能和工作流集成庫(kù)，對(duì) Slack 的支持以及更好的推理能力。

在此之前，ServiceNow 在 9 月宣布了其 AI Agents 產(chǎn)品，其首批用例是客戶服務(wù)管理和 IT 服務(wù)管理，于 11 月推出。 還有 CrewAI 等純粹的代理式 AI 平臺(tái)提供商以及 UiPath 等智能自動(dòng)化提供商。而這僅僅是個(gè)開(kāi)始。在 1 月初發(fā)布的一份報(bào)告中，埃森哲預(yù)測(cè)，到 2030 年，人工智能代理將取代人類，成為大多數(shù)企業(yè)系統(tǒng)的主要用戶。在畢馬威 1 月對(duì)大型企業(yè) 100 位高級(jí)管理人員進(jìn)行的調(diào)查中，12% 的公司已經(jīng)部署了人工智能代理，37% 的公司處于試點(diǎn)階段，另有 51% 的公司正在探索其用途。但并非一帆風(fēng)順，因?yàn)樯墒饺斯ぶ悄鼙旧磉h(yuǎn)非完美。

埃森哲首席負(fù)責(zé)任人工智能官 Arnab Chakraborty 表示：“幻覺(jué)和偏見(jiàn)存在風(fēng)險(xiǎn)。因此，這不僅關(guān)乎用例，還關(guān)乎防護(hù)措施?！贝硪埠茈y構(gòu)建，而且規(guī)?；渴鸪杀竞芨摺?盡管如此，企業(yè)已經(jīng)在幾個(gè)用例中成功部署了人工智能代理。

1. 軟件開(kāi)發(fā)和 IT

Cognition 去年 3 月發(fā)布了 Devin，它被稱為世界上第一個(gè)人工智能軟件工程師。當(dāng)時(shí)，最好的人工智能在 SWE-bench（一項(xiàng)旨在了解人工智能解決現(xiàn)實(shí)世界編碼問(wèn)題能力的具有挑戰(zhàn)性的基準(zhǔn)）上的通過(guò)率還不到 5%。Devin 的得分接近 14%。到 8 月，代理式人工智能系統(tǒng)的得分接近 40%，如今，它們已經(jīng)超過(guò)了 60% 的里程碑。

與此同時(shí)，12 月，OpenAI 的新 O3 模型（一種尚未向公眾提供的代理模型）在同一測(cè)試中獲得了 72% 的分?jǐn)?shù)。根據(jù)?Capgemini?在 2024 年中期發(fā)布的一項(xiàng)調(diào)查，大型公司 60% 的高管表示，人工智能代理將在三到五年內(nèi)處理企業(yè)的大部分編碼工作。

?但是，軟件開(kāi)發(fā)生命周期中已經(jīng)有一些工作崗位準(zhǔn)備好接受人工智能代理的幫助。 Mitre 首席技術(shù)官 Charles Clancy 表示：“我們已經(jīng)開(kāi)發(fā)了自己的代碼管理代理式人工智能?！薄?span style="font-size: 18px; -webkit-tap-highlight-color: transparent; margin: 0px; padding: 0px; outline: 0px; max-width: 100%; font-weight: bold;">似乎效果最好的用例是存儲(chǔ)庫(kù)管理，它會(huì)遍歷并修復(fù)代碼存儲(chǔ)庫(kù)中的錯(cuò)誤。”

例如，他說(shuō)，10 年前的源代碼可能無(wú)法在現(xiàn)代計(jì)算機(jī)上正確編譯。 “人工智能代理會(huì)下載它，嘗試構(gòu)建它，如果它無(wú)法運(yùn)行，它會(huì)修復(fù)構(gòu)建腳本和必要的代碼，將代碼簽回存儲(chǔ)庫(kù)，并標(biāo)記它是由人工智能代理完成的，”他說(shuō)。 Clancy 補(bǔ)充說(shuō)，Mitre 不得不創(chuàng)建自己的系統(tǒng)，因?yàn)榇蠖鄶?shù)現(xiàn)有工具都使用供應(yīng)商管理的云基礎(chǔ)設(shè)施進(jìn)行人工智能推理?！俺鲇诎踩?，我們不能這樣做，”他說(shuō)。

還有一個(gè)獨(dú)立的研究項(xiàng)目正在研究 50 年前的大型機(jī)代碼，并使用人工智能提取業(yè)務(wù)邏輯并將其重寫為云原生框架，他說(shuō)。 “我們的目標(biāo)是實(shí)現(xiàn)所有政府組織中復(fù)雜的、任務(wù)關(guān)鍵的遺留 IT 系統(tǒng)的現(xiàn)代化，”他說(shuō)。 這些系統(tǒng)中有數(shù)百萬(wàn)行代碼，它們是用 COBOL、MUMPS 甚至與原始硬件綁定的匯編語(yǔ)言編寫的?！拔覀冋陂_(kāi)發(fā)自己的定制人工智能模型，以提高對(duì)稀有平臺(tái)的代碼理解，”他補(bǔ)充道。

Mitre 還在 Mitre 管理的安全云環(huán)境中，使用 AWS Bedrock 測(cè)試了數(shù)十種商業(yè)人工智能模型。到目前為止，已經(jīng)處理了超過(guò) 50 萬(wàn)行代碼，但由于存在幻覺(jué)和其他質(zhì)量問(wèn)題的風(fēng)險(xiǎn)，因此需要人工監(jiān)督。 Clancy 說(shuō)：“我們還發(fā)現(xiàn)，代理式人工智能可以與為軟件工程師開(kāi)發(fā)的工具配合使用，從而大大提高驗(yàn)證和編譯代碼的成功率?！边@為訓(xùn)練新的人工智能以減少監(jiān)督需求提供了潛在途徑。“即使考慮到必要的人工監(jiān)督，這個(gè)過(guò)程每天都在加快?！?12 月，Langbase 基于來(lái)自高管和技術(shù)專業(yè)人士的 3,400 多份回復(fù)發(fā)布了一份人工智能代理狀態(tài)報(bào)告。人工智能代理的首要用例是軟件開(kāi)發(fā)，87% 的受訪者提到了這一點(diǎn)。此外，48% 的人表示他們正在 IT 和運(yùn)營(yíng)中使用 LLM。

2. 自動(dòng)化和生產(chǎn)力

由于人工智能代理可以接觸到許多系統(tǒng)，因此工作流自動(dòng)化和生產(chǎn)力是企業(yè)的首要用例。根據(jù)畢馬威的報(bào)告，管理職責(zé)是人工智能代理的主要用例，60% 的受訪者提到了這一點(diǎn)。以全球律師事務(wù)所 Avantia 為例，該公司使用商業(yè)和開(kāi)源生成式人工智能為其代理提供支持。“我們這個(gè)領(lǐng)域的關(guān)鍵挑戰(zhàn)是，有數(shù)百個(gè)任務(wù)可能沒(méi)有得到很好的自動(dòng)化，”首席技術(shù)官 Paul Gaskell 說(shuō)?！岸宜鼈儾惶m合 SaaS 解決方案。在太多的地方有太多獨(dú)立的任務(wù)?！?現(xiàn)在，借助微軟，人工智能代理可以充當(dāng) Word 或 Outlook 中的助手，隨時(shí)執(zhí)行任務(wù)。 “如果客戶要求我們執(zhí)行交易或工作流，并且 Outlook 或 Word 已打開(kāi)，人工智能代理可以訪問(wèn)所有公司數(shù)據(jù)，”他說(shuō)?！岸矣捎谶@些是我們的律師處理我們的文件，我們有他們通常做什么的歷史記錄?！?/span>

其商業(yè)優(yōu)勢(shì)在于，律師可以比其他任何人更快地完成合同流程、更快地響應(yīng)客戶和更快地進(jìn)行交易。 Gaskell 預(yù)計(jì)到 2025 年中期，利潤(rùn)率將提高 45%。“我們已經(jīng)對(duì)我們已經(jīng)完成的工作進(jìn)行了時(shí)間和動(dòng)作研究，”他說(shuō)，“我很難想象這不會(huì)成為專業(yè)服務(wù)行業(yè)的未來(lái)?！?Gaskell 說(shuō)，他的公司對(duì) LLM 持不可知態(tài)度，這意味著人工智能代理可以由不同的 LLM 提供支持，具體取決于哪個(gè)最適合。他說(shuō)，這包括幾個(gè)主要的開(kāi)源模型，因?yàn)樗鼈兲峁╇[私、成本優(yōu)勢(shì)和更低的延遲。人工智能代理目前在超大規(guī)模企業(yè)中運(yùn)行，但該公司正在考慮投資自己的 GPU 并在托管設(shè)施中租用空間以進(jìn)一步降低成本。

另一家使用代理實(shí)現(xiàn)業(yè)務(wù)流程自動(dòng)化的公司是金融服務(wù)和醫(yī)療保健技術(shù)公司 SS&C。 “我們從 20,000 個(gè)客戶那里收到大量格式各異的文件，”公司自動(dòng)化高級(jí)董事總經(jīng)理 Brian Halpin 說(shuō)。這些文件可以是 PDF、數(shù)字表單、電子郵件，關(guān)鍵信息可以位于任何地方，并以不同的方式呈現(xiàn)。這加起來(lái)每月需要處理數(shù)百萬(wàn)份文件?！袄斫馕募纳舷挛牡哪芰κ歉?，”他補(bǔ)充道，過(guò)去，這一直是阻礙自動(dòng)化的最大因素，生成式人工智能可以提供幫助。 “因此，今天，我們有 20 個(gè)圍繞人工智能代理處理文件的生產(chǎn)用例，”Halpin 說(shuō)?！斑@是積極且強(qiáng)大的。”數(shù)據(jù)保存在私有云中以確保安全，LLM 也在內(nèi)部托管。Halpin 說(shuō)，SS&C 使用 Meta 的 Llama 以及其他模型。

該系統(tǒng)于 2024 年中期投入生產(chǎn)，11 月處理了 50,000 份文件?！拔覀儗⒗^續(xù)加大力度，”他說(shuō)。 他說(shuō)，使用傳統(tǒng)的自動(dòng)化，人類必須查看幾乎每份文件。使用人工智能，這個(gè)百分比被顛倒了。例如，對(duì)于貸款文件類型，自動(dòng)化百分比在 90% 左右，只有少數(shù)百分比的文件需要人工審核。

3. 客戶服務(wù)和支持

在 Dun & Bradstreet，人工智能代理幫助客戶與研究公司收集的關(guān)于全球 5 億家企業(yè)的信息進(jìn)行交互。

“我們?yōu)?95% 的財(cái)富 500 強(qiáng)企業(yè)提供服務(wù)，他們使用我們的數(shù)據(jù)做出一些最關(guān)鍵的決策，”公司首席數(shù)據(jù)和分析官 Gary Kotovets 說(shuō)。他說(shuō)，這包括信用決策和供應(yīng)鏈決策。這些數(shù)據(jù)還用于銷售和營(yíng)銷。 “對(duì)我們來(lái)說(shuō)，代理對(duì)于與我們的數(shù)據(jù)交互至關(guān)重要，”他說(shuō)?！八鼈?cè)试S客戶提出

關(guān)于公司的問(wèn)題，人工智能代理將確保與該公司相關(guān)的數(shù)據(jù)是最準(zhǔn)確的信息。”這并不總是那么容易，因?yàn)樵S多公司的名稱和地址都很相似?！斑@就是代理發(fā)揮作用的地方。我們的代理會(huì)說(shuō)，‘讓我確保這家公司是他們?cè)儐?wèn)的實(shí)際公司?！麄兡軌蚶斫馑岢龅膯?wèn)題?！?/span>4. 內(nèi)容創(chuàng)作編寫文本和創(chuàng)建圖像是生成式人工智能最初的兩個(gè)流行用例?，F(xiàn)在，人工智能代理可以增強(qiáng)內(nèi)容創(chuàng)建過(guò)程。根據(jù) Langbase 的調(diào)查，文本生成和摘要是第二大最流行的用例，59% 的受訪者提到了這一點(diǎn)，其次是營(yíng)銷和傳播，占 50%。安永在其第三方風(fēng)險(xiǎn)管理服務(wù)中使用人工智能代理。

安永合伙人 Sinclair Schuller 說(shuō)：“您聘請(qǐng)我們?cè)u(píng)估您引入的供應(yīng)商?！薄拔覀兊娘L(fēng)險(xiǎn)評(píng)估員會(huì)完成這項(xiàng)工作，在一個(gè)供應(yīng)商身上花費(fèi)多達(dá) 50 個(gè)小時(shí)，仔細(xì)研究合同和其他文件，生成一份指出我們觀察到的風(fēng)險(xiǎn)的報(bào)告?！?在生成式人工智能出現(xiàn)之前，通常是這樣做的。 “現(xiàn)在我們可以將所有聯(lián)系方式和公共文檔提供給人工智能，它可以在幾分鐘而不是幾天內(nèi)生成一份具有極高準(zhǔn)確性和詳細(xì)程度的報(bào)告，”他說(shuō)。然后人類專家會(huì)增強(qiáng)這些報(bào)告。“人工智能加上人類專業(yè)知識(shí)可以極大地提高質(zhì)量，”他說(shuō)。 現(xiàn)在，借助代理式人工智能，這個(gè)過(guò)程再次發(fā)生變化。

“我們將發(fā)布此過(guò)程的代理驅(qū)動(dòng)版本，它將持續(xù)監(jiān)控供應(yīng)商，這在以前是不可能的，”他說(shuō)。 他說(shuō)，這是公司在考慮人工智能代理時(shí)經(jīng)常忽略的事情?！昂芏嗳硕紝Ｗ⒂趦?yōu)化用例，”他說(shuō)?！暗嬲膬r(jià)值在于市場(chǎng)的擴(kuò)張和收入機(jī)會(huì)的擴(kuò)張?！?/span>

5. 人力資源和員工支持

人工智能代理的另一個(gè)相對(duì)低風(fēng)險(xiǎn)、高價(jià)值的用例是回答員工問(wèn)題并代表他們處理簡(jiǎn)單的任務(wù)。事實(shí)上，IBM 1 月份關(guān)于生成式人工智能開(kāi)發(fā)的調(diào)查得出結(jié)論，43% 的公司將人工智能代理用于人力資源。 例如，全球數(shù)據(jù)服務(wù)公司 Indicium 在 2024 年中期開(kāi)始部署人工智能代理，當(dāng)時(shí)該技術(shù)開(kāi)始成熟。 “你會(huì)開(kāi)始看到現(xiàn)成的應(yīng)用程序——包括開(kāi)源和專有的應(yīng)用程序——使構(gòu)建它們變得更容易，”公司首席數(shù)據(jù)官 Daniel Avancini 說(shuō)。 他說(shuō)，這些代理用于簡(jiǎn)化人力資源的工作，包括內(nèi)部知識(shí)檢索、標(biāo)記和文檔記錄等任務(wù)，以及其他業(yè)務(wù)流程。每個(gè)代理都像一個(gè)微服務(wù)，專門處理一個(gè)特定的事情?！八鼈兌荚诙啻硐到y(tǒng)中相互通信，”他說(shuō)。這些基于提示的對(duì)話可能會(huì)很特殊。棘手的是，存在幻覺(jué)和生成式人工智能帶來(lái)的所有其他問(wèn)題的可能性?！耙虼?，我們需要對(duì)模型進(jìn)行大量調(diào)整，以確保它們不會(huì)做錯(cuò)事或訪問(wèn)錯(cuò)誤的信息，”他說(shuō)。 從積極的方面來(lái)看，人工智能代理可以自主處理許多問(wèn)題，因此這具有商業(yè)優(yōu)勢(shì)。“我們還發(fā)現(xiàn)了一些沒(méi)有正確記錄的事情，因此它有助于我們改進(jìn)流程，”他補(bǔ)充道。

6.信任但驗(yàn)證

從一開(kāi)始，安全性就是人工智能代理開(kāi)發(fā)的基石。事實(shí)上，最早的代理框架之一是 BabyAGI，它于 2023 年初發(fā)布，它將 ChatGPT 與用于內(nèi)存的 Pinecone 向量數(shù)據(jù)庫(kù)和用于編排的?LangChain?相結(jié)合。創(chuàng)建它的開(kāi)發(fā)人員開(kāi)玩笑地要求它盡可能多地創(chuàng)建回形針——這是指由不受控制的人工智能引起的假設(shè)的回形針末日——系統(tǒng)立即意識(shí)到潛在的問(wèn)題，并首先為自己生成一個(gè)安全協(xié)議。但大多數(shù)代理式人工智能開(kāi)發(fā)人員都不愿意對(duì)人工智能抱有如此大的信心。 在 LangChain 11 月對(duì) 1,300 多名專業(yè)人士進(jìn)行的調(diào)查中，55% 的受訪者表示，跟蹤和可觀察性工具是人工智能代理的必備控制措施，有助于他們了解代理的行為和性能。此外，44% 的人設(shè)置了防護(hù)措施，40% 的人使用了離線評(píng)估。 瑞典于默奧大學(xué)教授、計(jì)算機(jī)協(xié)會(huì)技術(shù)政策委員會(huì)主席 Virginia Dignum 說(shuō)：“人工智能模型存在風(fēng)險(xiǎn)，會(huì)犯各種錯(cuò)誤?！?但她說(shuō)，可以創(chuàng)建系統(tǒng)來(lái)捕捉錯(cuò)誤，因此如果代理無(wú)法完成任務(wù)，它會(huì)承認(rèn)失敗，而不是試圖編造一些東西。 “關(guān)于這方面的研究很多，理論上是存在的，”她說(shuō)?！暗珦?jù)我所知，目前還沒(méi)有真正合適的代理式界面。一旦你開(kāi)始開(kāi)發(fā)這些系統(tǒng)，你就需要處理后果以及其中一個(gè)系統(tǒng)做錯(cuò)事會(huì)發(fā)生什么。” 這意味著需要治理和監(jiān)管。代理框架不僅需要處理可能的人工智能錯(cuò)誤帶來(lái)的實(shí)際和商業(yè)影響，還需要處理法律影響。 “如果這些問(wèn)題得不到解決，那么我認(rèn)為企業(yè)代理就不會(huì)有太大的用處，”她說(shuō)。 企業(yè)在部署人工智能代理時(shí)還需要應(yīng)對(duì)另一個(gè)風(fēng)險(xiǎn)：人工智能代理實(shí)現(xiàn)的人工智能驅(qū)動(dòng)的自動(dòng)化規(guī)?？赡茉斐傻钠茐暮拓?fù)面結(jié)果。Wipro Technologies 副總裁兼全球人工智能負(fù)責(zé)人 Pushpa Ramachandran 說(shuō)，部署這些系統(tǒng)時(shí)，變更管理流程非常重要?！拔铱吹胶芏嗫蛻粼谶@方面花費(fèi)了更多的時(shí)間，”他說(shuō)。提前花費(fèi)額外的時(shí)間意味著公司從長(zhǎng)遠(yuǎn)來(lái)看可以走得更遠(yuǎn)?！皩?duì)變更管理流程考慮周全的公司可以更快地?cái)U(kuò)展，”他說(shuō)。

【睿觀：AI 代理（AI 智能體）具有巨大的商業(yè)潛力，但企業(yè)需要謹(jǐn)慎部署，并充分考慮其帶來(lái)的風(fēng)險(xiǎn)和挑戰(zhàn)。通過(guò)建立強(qiáng)大的防護(hù)措施和進(jìn)行有效的變更管理，企業(yè)可以充分利用 AI 代理的優(yōu)勢(shì)，提高效率、降低成本、并推動(dòng)創(chuàng)新。

• 人工智能代理（AI agents）是人工智能的下一個(gè)進(jìn)化階段，它能夠獨(dú)立行動(dòng)，協(xié)作完成復(fù)雜任務(wù)，并接管整個(gè)業(yè)務(wù)流程。

• 盡管存在幻覺(jué)、偏見(jiàn)和部署成本等挑戰(zhàn)，但企業(yè)已經(jīng)在多個(gè)領(lǐng)域成功部署了 AI 代理，并取得了顯著成效。

• 建立強(qiáng)大的防護(hù)措施和進(jìn)行有效的變更管理是成功部署 AI 代理的關(guān)鍵。

AI 智能體的 5 大商業(yè)用例：

1. 軟件開(kāi)發(fā)和 IT：

• AI 代理能夠進(jìn)行代碼管理、bug 修復(fù)、遺留系統(tǒng)現(xiàn)代化等任務(wù)，提高軟件開(kāi)發(fā)效率。

• 例如，Mitre 使用 AI 代理進(jìn)行代碼倉(cāng)庫(kù)管理和遺留大型機(jī)代碼的現(xiàn)代化。

2. 自動(dòng)化和生產(chǎn)力：

• AI 代理能夠自動(dòng)化行政任務(wù)、處理文檔、優(yōu)化工作流程，提高員工生產(chǎn)力。

• 例如，Avantia 使用 AI 代理處理合同流程，SS&C 使用 AI 代理處理大量文檔。

3. 客戶服務(wù)和支持：

• AI 代理能夠回答客戶問(wèn)題、提供個(gè)性化服務(wù)、提高客戶滿意度。

• 例如，Dun & Bradstreet 使用 AI 代理幫助客戶查詢企業(yè)信息。

4. 內(nèi)容創(chuàng)作：

• AI 代理能夠生成文本、圖像、報(bào)告等內(nèi)容，提高內(nèi)容創(chuàng)作效率和質(zhì)量。

• 例如，EY 使用 AI 代理進(jìn)行第三方風(fēng)險(xiǎn)評(píng)估。

5. 人力資源和員工支持：

• AI 代理能夠回答員工問(wèn)題、處理簡(jiǎn)單任務(wù)、提高 HR 效率。

• Indicium使用AI代理進(jìn)行內(nèi)部知識(shí)檢索，文檔記錄等。

部署 AI 代理的注意事項(xiàng)：

• 安全性和可靠性：

• AI 模型存在幻覺(jué)和錯(cuò)誤的風(fēng)險(xiǎn)，需要建立系統(tǒng)進(jìn)行錯(cuò)誤檢測(cè)和糾正。

• 需要加強(qiáng)治理和監(jiān)管，處理 AI 代理可能帶來(lái)的法律和倫理問(wèn)題。

• 變更管理：

• AI 代理的部署可能對(duì)企業(yè)造成顛覆性影響，需要進(jìn)行有效的變更管理。

• 需要對(duì)員工進(jìn)行培訓(xùn)，使其適應(yīng) AI 驅(qū)動(dòng)的工作環(huán)境。

• 防護(hù)措施：

• 追蹤和可觀察性工具，是必須的控制措施。

• 離線評(píng)估，和防護(hù)欄的設(shè)立，能有效降低風(fēng)險(xiǎn)。】