導語：2026年，AI 已經(jīng)不再滿足于只陪你“聊天”了。隨著 Anthropic 的 Claude Cowork 和開源項目 OpenClaw 的爆火，AI 正在從“副駕駛”進化為直接幫你干活的“自動駕駛”。但當你放心地把電腦控制權(quán)交給 AI 時，噩夢可能才剛剛開始。
想象一下這個場景：你對 AI 說了一句“幫我清理一下收件箱”，然后轉(zhuǎn)身去倒了杯咖啡。回來時你卻發(fā)現(xiàn)，AI 正在以極其恐怖的速度，把你的郵件刪得一干二凈！
這并非危言聳聽。Meta 的 AI 安全研究員 Summer Yue 最近就遭遇了這種“翻車”事件。即使她提前設(shè)置了“行動前必須確認”的指令，AI 依然失控了。有網(wǎng)友神評論：“這就像遞給一只黑猩猩一把突擊步槍?！?/strong>
這就是當前“自主智能體（Autonomous Agentic AI）”面臨的終極悖論：收益大得誘人，風險高得嚇人。
一、為什么企業(yè)依然趨之若鶩？
很簡單，因為誘惑太大了。以前 AI 只是幫你寫文案，現(xiàn)在 AI 可以自己打開 Excel 分析數(shù)據(jù)，去 Slack 里抓取聊天記錄，甚至上網(wǎng)搜索資料，最后自動生成并發(fā)送一份完美的分析報告。
正如 Adaptavist 創(chuàng)新主管 Neal Riley 所言：“AI 最大的價值不是做得比人類快，而是它不需要人類參與。一旦跑通，你的員工就可以徹底從那些無聊的瑣事中解放出來?！?/span>
二、失控的加速器與“影子 AI”
但當 AI 擁有了操作你電腦底層文件、瀏覽器和應(yīng)用的權(quán)限時，潘多拉的魔盒就被打開了。
錯誤被無限放大：AI 如果誤解了工作流，它能在幾秒鐘內(nèi)把一個錯誤復制上萬次。
安全防護形同虛設(shè)：最新的安全報告顯示，許多公司甚至根本沒有對這些 AI 智能體進行監(jiān)控。一旦它們遭受“提示詞注入攻擊（Prompt Injection）”，后果不堪設(shè)想。
三、給 CIO 們的生存建議：
在這個沒有說明書、也沒有新手培訓的狂飆時代，堵不如疏。
不要封殺，允許試錯：鼓勵員工去“玩”這些工具，因為未來這會成為職場標配。
勒緊數(shù)據(jù)的韁繩：在放 AI 進場前，確保你的企業(yè)數(shù)據(jù)是干凈的，且底層應(yīng)用權(quán)限（誰能看什么、改什么）被設(shè)置得如同金庫密碼一般嚴密。
準備好迎接這個充滿未知的“自動駕駛”時代了嗎？系好安全帶，因為這輛車，可能隨時會無視你的剎車指令。
原文：自主 AI 采用率飆升，但風險暗流涌動
自主的智能體 AI 可以帶來前所未有的效率，但關(guān)于系統(tǒng)安全性和輸出一致性的深層擔憂，目前仍懸而未決。
圖片來源：Rob Schultz / Shutterstock
今年年初發(fā)布的兩款重量級 AI 工具，正促使用戶放棄對電腦的絕對控制權(quán)，讓自主智能體代為執(zhí)行任務(wù)。IT 領(lǐng)導者們必須做好準備，以應(yīng)對隨之而來的種種后果。
Anthropic 分別于今年一月和二月推出了適用于 macOS 和 Windows 的智能體平臺?Claude Cowork。與此同時，開源代理工具?OpenClaw的使用率在今年初也迎來了爆炸式增長——該項目由目前就職于 OpenAI 的開發(fā)者 Peter Steinberger 在 2025 年底正式發(fā)布。
IT 咨詢與數(shù)字化轉(zhuǎn)型公司 The Adaptavist Group 的創(chuàng)新主管、前 CIO Neal Riley 表示，雖然目前大多數(shù)組織仍將重點放在部署“增強（而非替代）人類工作”的 AI 上，但自去年底以來，業(yè)界對自主智能體 AI（Autonomous agentic AI）的興趣出現(xiàn)了驚人的激增。
他指出，許多組織——甚至是金融服務(wù)和醫(yī)療保健等傳統(tǒng)上極度厭惡風險的行業(yè)——也已經(jīng)開始嘗試自主 AI，試圖借此重塑其核心工作流。
一、人人皆可擁有的自主機器人
盡管人們對 AI 產(chǎn)生意外結(jié)果，以及自主智能體淪為“影子 AI（Shadow AI）”的隱患憂心忡忡，但該技術(shù)的早期采用者依然看到了其作為“力量倍增器”的巨大潛力。例如，它能賦能非技術(shù)人員獨立解決小型的 IT 故障，而完全不需要技術(shù)團隊的介入。
“步入 2026 年，我們開始看到企業(yè)在這些更具‘智能體（Agentic）’特性的流程上投入巨資。企業(yè)希望在極其嚴密和受監(jiān)管的框架內(nèi)，賦予這些系統(tǒng)更高層級的自主權(quán)，”Riley 說。“我們正目睹這一趨勢的急劇上升?！?/span>
OpenClaw 和 Claude Cowork 正站在這場即將到來的革命的最前沿，它們讓用戶能夠驅(qū)使 AI 在個人電腦上實現(xiàn)工作流的全面自動化。OpenClaw 機器人能夠與外部的大語言模型（LLM）無縫集成，如 Claude 和 OpenAI 的 GPT 模型；用戶只需通過 WhatsApp、Telegram 或 Discord 等即時通訊軟件上的聊天機器人，即可輕松調(diào)用它。
在使用 Claude Cowork 時，用戶需要授予其訪問本地應(yīng)用和文件的權(quán)限，隨后便可通過提示詞讓 AI 自動完成任務(wù)。據(jù) Anthropic 介紹，Cowork 可以通過訪問用戶電腦上的本地文件、從 Slack 等應(yīng)用中提取上下文、并在網(wǎng)頁上檢索更多信息，從而自主完成整理文件、制作電子表格、生成報告和分析筆記等復雜工作。在正式執(zhí)行操作之前，Claude 會向用戶展示執(zhí)行計劃，并等待人類的批準。
然而，部分用戶已經(jīng)賦予了這些自主智能體極高的控制權(quán)限。當用戶沒有設(shè)置硬性限制就交出電腦控制權(quán)時，巨大的風險便隨之而來。
Meta 公司的 AI 安全研究員 Summer Yue 在 2 月下旬發(fā)布推文稱，當她要求 OpenClaw 清理一下她的電子郵件收件箱時，該 AI 竟然試圖刪光她的所有郵件。
“沒有什么比這更讓人感到挫敗的了：你明明已經(jīng)告訴 OpenClaw‘行動前必須確認’，卻只能眼睜睜地看著它以極快的速度清空你的收件箱，”她寫道。
她承認這是自己犯下的一個“新手錯誤”?！笆聦嵶C明，即便是專門研究‘AI 對齊（Alignment）’的研究員，也無法對 AI 的‘錯位失控（Misalignment）’免疫，”她寫道?！拔易兊眠^于自信了，因為這個工作流已經(jīng)在我的‘測試版收件箱’里完美運行了好幾個星期。但面對真實的收件箱時，情況完全失控了?！?/span>
在 Yue 的這條推文下，最高贊的回復之一是一張配圖：某人正在遞給一只黑猩猩一把突擊步槍。
此外，安全研究人員還在 OpenClaw 中發(fā)現(xiàn)了多個高危安全漏洞，其中包括容易遭受“提示詞注入攻擊（Prompt injection attacks）”的致命缺陷。
二、高風險，高回報
這就是核心矛盾所在：AI 專家們看到了自主 AI 帶來的不可估量的潛在優(yōu)勢——它極有可能創(chuàng)造出令人驚嘆的職場效率——但隨之而來的風險同樣是毀滅性的。
Riley 坦言，安全隱患以及智能體 AI 采取用戶意料之外行動的風險確實存在。他指出，雖然由于底層 Token 的昂貴成本，用戶目前還沒有看到自主 AI 能比人類更快或更便宜地完成工作，但這項技術(shù)絕對擁有重塑人類工作本質(zhì)的潛力。
“當你談?wù)撍膬?yōu)勢時，它肯定會取代今天正在進行的很多工作，但這幾乎只是一種‘副產(chǎn)品’，”他說?！?span style="font-family: 微軟雅黑, "Microsoft YaHei"; font-size: 16px; -webkit-tap-highlight-color: rgba(0, 0, 0, 0); margin: 0px; padding: 0px; outline: 0px; max-width: 100%; color: rgb(172, 1, 249);">它真正賦予你的，是一種與過去完全不同的團隊協(xié)調(diào)方式。通過在團隊內(nèi)部自動傳遞信息，你能以更快的速度和更高的質(zhì)量交付成果。”
倡導者表示，自主 AI 將接管大量繁文縟節(jié)，使組織能夠?qū)⑷祟悇趧恿χ匦虏渴鸬礁邉?chuàng)造性的新任務(wù)中。
“一旦你開始信任這些智能體系統(tǒng)（或者說是數(shù)字同事）并讓它們承擔責任，你就會發(fā)現(xiàn)，其核心價值往往不在于它做得比人類更快或更好，”Riley 說?！八恼嬲齼r值在于，它不再需要人類的參與，這意味著人類可以騰出手來去做其他更有價值的事情?！?/span>
AI 數(shù)據(jù)集成供應(yīng)商 bem 的 CTO Upal Saha 表示，許多公司目前仍處于自主 AI 探索的極早期階段。他指出，最大的挑戰(zhàn)之一，是讓 AI 真正理解業(yè)務(wù)是如何運轉(zhuǎn)的。
“在大多數(shù)公司內(nèi)部，流程、數(shù)據(jù)和決策之間的關(guān)聯(lián)邏輯并沒有被清晰地記錄下來，”他補充道?！?/span>這些隱性知識分散在不同團隊和個人的腦子里。智能體可以非常強大，但如果缺乏這些具體的運營上下文，它們往往是在‘盲目猜測’，而不是在‘精準執(zhí)行’。”
Saha 強調(diào)，速度是自主智能體的巨大優(yōu)勢，但也是其最致命的弱點之一。
“如果它們掌握了正確的上下文，它們可以在幾秒鐘內(nèi)壓縮人類數(shù)小時的手動操作，”他補充道?！暗矌诺牧硪幻媸?，同樣的速度也會指數(shù)級地放大錯誤。如果一個智能體誤解了工作流或數(shù)據(jù)結(jié)構(gòu)，它會在極短的時間內(nèi)大規(guī)模地重復這個錯誤?！?/span>
人工智能生成內(nèi)容供應(yīng)商 BlogBuster 的 AI 研發(fā)負責人 Russell Twilligear 表示，盡管風險重重，市場正以驚人的速度向智能體 AI 傾斜，預(yù)計未來兩年內(nèi)將迎來大規(guī)模的爆發(fā)式采用。
“我們正在見證一場范式轉(zhuǎn)移：從僅僅能生成文本的系統(tǒng)，轉(zhuǎn)向能夠真正執(zhí)行多步驟復雜工作的系統(tǒng)，”他說。“自主智能體最大的優(yōu)勢在于，它們不再僅僅是對一個提示詞做出簡單回答。它們能夠通過收集信息、更新系統(tǒng)等一連串動作，將‘用戶意圖’直接轉(zhuǎn)化為‘實際執(zhí)行’。”
然而 Twilligear 警告說，如果自主智能體的部署方式不當，將帶來極大的危險。
“最大的隱患在于，它的擴展速度將遠遠超出我們?nèi)祟惖目刂颇芰Γ彼f?！斑@意味著每一次新系統(tǒng)的集成，都伴隨著極高的安全風險和走火的可能?！?/span>
他補充說，建立安全機制和有效監(jiān)督是當前亟待克服的首要難題?！爱斠粋€智能體被允許訪問你的電子郵件、本地文件和瀏覽器時，你實際上是在打開一個極其危險的潘多拉魔盒，”Twilligear 說。“最可怕的是這一切發(fā)生得太快了。最近的安全報告顯示，許多公司甚至根本沒有對他們的 AI 智能體實施任何監(jiān)控。對我來說，這簡直太瘋狂了?！?/span>
三、允許試錯與實驗
Adaptavist Group 的 Riley 建議，部署自主智能體的 IT 領(lǐng)導者必須建立極其強健的控制機制，確保底層數(shù)據(jù)的清潔和可訪問性，并絕對精準地配置應(yīng)用程序的訪問權(quán)限。
盡管面臨安全和輸出不可控的擔憂，Riley 仍強烈鼓勵 IT 領(lǐng)導者允許員工去探索和實驗這項新興技術(shù)，因為大規(guī)模的普及已是不可逆轉(zhuǎn)的趨勢。他指出，那些愿意在 AI 培訓上投資并允許員工自由探索該技術(shù)的組織，往往能在最終的部署中獲得豐厚的回報。
“面對目前層出不窮的新工具，人們現(xiàn)在應(yīng)該做的就是去嘗試，去搞懂它們到底是如何運轉(zhuǎn)的，”他說。“這些技術(shù)的迭代速度太快了，10 年前我們在傳統(tǒng) IT 軟件上能看到的那種詳盡的入職培訓和操作手冊，在這里根本不存在?，F(xiàn)在所有人應(yīng)對 AI 的唯一方式就是——直接上手去玩，玩著玩著，你自然就懂了?！?/span>
