IDC重磅預測：從“盲目擴張”到“財務清算”，AI落地的至暗時刻
如果你的企業(yè)正在如火如荼地采購GPU、租用云算力，準備在AI賽道上大干一場，那么IDC的一項最新預測可能會讓你背脊發(fā)涼。
預測：到2027年，全球1000強企業(yè)將低估其AI基礎設施成本高達30%。
這不僅是簡單的預算超支，更是一場即將來臨的“基礎設施清算”（Infrastructure Reckoning）。
為什么經(jīng)驗豐富的CIO們會在AI成本上集體翻車？在這個萬億級的燒錢游戲中，企業(yè)該如何守住錢袋子？
???讀完本文，你將獲得關于AI成本控制的3大核心洞察。
IDC副總裁Jevin Jensen指出，AI項目的成本結構與傳統(tǒng)的ERP或IT系統(tǒng)根本不同。
傳統(tǒng)IT：線性增長，可預測。買多少服務器，跑多少業(yè)務，一清二楚。
AI項目：指數(shù)增長，不可預測。
模型體積翻倍，算力消耗可能翻10倍。
推理成本是個無底洞：訓練是一次性的，但推理是持續(xù)的。隨著業(yè)務量增長，推理成本會像滾雪球一樣失控。
隱形成本驚人：監(jiān)控、漂移檢測、合規(guī)檢查等“周邊系統(tǒng)”的算力消耗，有時甚至超過模型推理本身。
睿信咨詢顧問解讀：
AI預算不再是一個靜態(tài)的Excel表格，而是一個“活的有機體”（Living Organism）。它會隨著數(shù)據(jù)、用戶行為和模型迭代而自我生長、消耗資源。如果用管理傳統(tǒng)IT的思維去管理AI預算，爆倉是必然的。
為什么現(xiàn)在的AI算力這么貴？
IBM CEO Arvind Krishna算了一筆賬：建設100吉瓦的數(shù)據(jù)中心需要8萬億美元。要支付這筆巨資的利息，供應商每年至少需要賺取8000億美元的利潤。
這導致了一個殘酷的現(xiàn)實：供需失衡與成本轉嫁。
AWS、微軟、谷歌等超大規(guī)模廠商（Hyperscalers）投入了數(shù)千億美元，他們必須在短期內(nèi)維持高價，才能收回成本。
好消息是： IDC預測，2027年之后，隨著競爭加劇和硬件成本下降，AI基礎設施價格有望回落。
壞消息是： 在這之前，企業(yè)將不得不為供應商的“軍備競賽”買單。
面對不可預測的成本和供應商的高價鐮刀，CIO唯一的防御武器是：FinOps（云財務運營）。
但傳統(tǒng)的FinOps（只看賬單）已經(jīng)不夠用了。思科專家Nik Kale建議，必須升級為“AI FinOps”：
模型級監(jiān)控：不僅要看花了多少錢，還要看每個模型的具體表現(xiàn)。
“小模型”策略：引導團隊使用能滿足需求的最小模型，而不是默認使用最昂貴的SOTA（State-of-the-Art）模型。
GPU利用率優(yōu)化：解決由于調(diào)度不佳導致的GPU空轉問題。
睿信咨詢顧問解讀：
在AI時代，F(xiàn)inOps必須從“周期性審計”轉變?yōu)椤俺掷m(xù)性可視”。
CIO需要建立一個實時儀表盤，一旦發(fā)現(xiàn)某個推理任務的Token消耗異常飆升，立即介入干預?！白屆恳环炙懔Χ蓟ㄔ诘度猩稀保瑢⒊蔀锳I團隊的核心KPI。
為了避免成為那低估成本的30%，建議采取以下行動：
1、建立“混合架構”以避免鎖定：不要把雞蛋放在一個籃子里。采用混合云架構，保持在不同供應商之間遷移工作負載的能力，以此作為議價籌碼。
2、戰(zhàn)略性耐心（Strategic Patience）：不要盲目追求最新技術。如果你的競爭對手正在某個不成熟的AI項目上燒錢虧損，讓他們?nèi)ヌ?。做一個聰明的跟隨者（Smart Follower），等技術成熟、成本下降后再入場。
3、實施“模型瘦身”計劃：全面審查現(xiàn)有的AI應用，問一個問題：“這個任務真的需要這么大的模型嗎？” 通過量化、壓縮或蒸餾技術，將大模型替換為專用小模型，可立竿見影地降低成本。
AI是一場馬拉松，不是百米沖刺。
在這場長跑中，決定勝負的不僅是誰跑得快（技術），更是誰跑得久（成本）。
CIO們，請立即啟動你們的“基礎設施清算”，別讓AI的輝煌前景，被一張付不起的賬單扼殺。
IDC 表示，AI 消費和定價的不可預測性，加上供應商的巨額投資，將在未來幾年引發(fā)“基礎設施清算”。
圖源：Rob Schultz /?Shutterstock
IDC 預測，未來幾年大型企業(yè)將嚴重誤估其 AI 基礎設施成本，這將促使更多 CIO 擴大其 FinOps（金融運營）團隊的職能范圍。
IDC 基礎設施與運營研究副總裁 Jevin Jensen 表示，隨著 CIO 和財務領導者意識到標準預算預測方法對計算密集型 AI 項目無效，企業(yè) AI 用戶正走向一場“AI 基礎設施清算”。IDC 預測，到 2027 年，全球 1000 強公司將低估其 AI 基礎設施成本達?30%。
Jensen 指出，加速 AI 項目的成本結構與企業(yè)幾十年來部署的新 ERP 解決方案或其他 IT 系統(tǒng)有著根本不同。計算 GPU、推理、網(wǎng)絡和 Token（令牌）的成本可能比為傳統(tǒng) IT 系統(tǒng)制定預算要復雜得多，此外 CIO 還需要考慮安全性、治理和員工培訓的成本。
他在一篇博客文章中寫道：“AI 昂貴、不可預測，與傳統(tǒng) IT 項目截然不同，且增長速度超過了大多數(shù)預算所能追蹤的速度。AI 驅(qū)動的應用往往是資源密集型的，加上不透明的消費模式，已經(jīng)超出了傳統(tǒng) IT 預算手冊的范疇?！?/span>
Jensen 寫道，IT 領導者常常低估了與擴展 AI 相關的定價復雜性。
摘自博客文章：“體積翻倍的模型可能消耗 10 倍的計算量。推理工作負載是持續(xù)運行的，在訓練結束后很久仍會持續(xù)消耗 GPU 周期。曾經(jīng)看似是一個固定預算條目的東西，現(xiàn)在卻像一個活生生的有機體——不可預測地生長、適應并消耗資源。”
一、無法回頭的時刻
隨著 CIO 們在估算 AI 成本方面苦苦掙扎，一些批評人士指出，OpenAI 和 Anthropic 等大型 AI 廠商的瘋狂支出加劇了回收投資的壓力。在最近一期《Decoder》播客中，IBM 首席執(zhí)行官?Arvind Krishna警告稱，建設 100 吉瓦（GW）數(shù)據(jù)中心容量的成本約為?8 萬億美元，這是支撐大型廠商 AI 雄心所需的預計燃料。
Krishna 說：“在我看來，你不可能從中獲得回報，因為 8 萬億美元的資本支出（Capex）意味著你僅支付利息就需要大約?8000 億美元的利潤?！?/span>
IBM 基礎設施首席運營官兼 IBM 系統(tǒng)總經(jīng)理?Barry Baker補充說，這筆賬怎么算都不對。他表示，短期內(nèi)，建設單個吉瓦級數(shù)據(jù)中心的成本可能超過?750 億美元，這呼應了他老板的擔憂。
Baker 說：“這些投資大多是并行發(fā)生的，導致需求遠超供應，并大幅推高了成本等式中每一個要素的價格——從人力、混凝土到芯片?！?/span>
同時，他補充道，AI 數(shù)據(jù)中心硬件的使用壽命是有限的。Baker 說：“除了這些驚人的數(shù)字之外，現(xiàn)實情況是實際的計算設備每隔幾年就需要更換一次，這就產(chǎn)生了一個持續(xù)的再投資周期，而許多組織在其長期規(guī)劃中未能充分考慮到這一點。”
IDC 的 Jensen 同意，供應商和超大規(guī)模云廠商（如 AWS、Microsoft Azure 和 Google Cloud）的巨額 AI 支出可能會在短期內(nèi)維持價格高位?！八麄冊噲D通過向你出售價值 1500 億美元的服務，來回收他們數(shù)千億美元的成本，”他說。
不過，他預測?2027 年以后，AI 基礎設施價格應該會下降。英偉達（Nvidia）等制造商的 GPU 價格可能會回落，超大規(guī)模企業(yè)和 AI 廠商最終可能會通過降價來刺激需求，以努力回收成本。
二、難以估算成本
一些專家表示，除了關于數(shù)據(jù)中心和 GPU 巨額支出的討論外，許多使用 AI 基礎設施服務的企業(yè) IT 領導者發(fā)現(xiàn)很難估算成本。
思科（Cisco）客戶體驗工程、云安全和 AI 平臺首席工程師?Nik Kale表示，IDC 關于成本被低估的預測是可信的，甚至可能還保守了。他補充說，許多組織將 AI 基礎設施成本預測得就像可預測的云工作負載一樣。
“一旦模型被引入業(yè)務，使用量會迅速擴大，”他說?！盀橐粋€團隊設計的工作流程往往會變成全公司共享的服務，導致需求顯著增長，而這在原始成本模型中并未被捕捉到?！?/span>
Kale 補充說，為了降低 AI 運行風險所需的系統(tǒng)——包括監(jiān)控、漂移檢測、日志記錄和驗證檢查——可能會比預期消耗更多的計算能力。
他說：“在幾個企業(yè)環(huán)境中，這些支持系統(tǒng)的成本已經(jīng)增長到與模型推理本身相當，甚至更高。”
三、FinOps 的必要性
專家表示，CIO 在試圖確定 AI 基礎設施成本時需要采取預防措施。IDC 的 Jensen 認為，企業(yè)對?FinOps（云財務運營）解決方案的依賴日益增加，采用 FinOps 已不再是可選項。他指出，CIO 將對此負責，因為 FinOps 團隊最常見的匯報結構通常設在 CIO 辦公室。
他說，F(xiàn)inOps 實踐對于理解特定企業(yè)最適合哪些 AI 項目至關重要。良好的 FinOps 實踐將迫使 IT 領導者專注于那些具有最佳 ROI 概率的 AI 項目，了解基礎設施成本，并隨著條件變化進行調(diào)整。
“AI 已經(jīng)將技術支出從‘可預測的消費’轉變?yōu)椤怕市孕袨椤?/span>，”他說。“這意味著財務可見性必須變成持續(xù)性的，而不是周期性的?！?/span>
Jensen 說，IT 領導者應首先關注那些容易獲勝的 AI 項目（Easy Wins），但每個組織的情況都不同；在一個企業(yè)相對簡單的 AI 項目，在另一個企業(yè)可能根本無法實現(xiàn)。
“如果你有一個項目的想法，但你的競爭對手正在上面虧錢，那就讓他們繼續(xù)虧錢，”他說?！叭绻胁煌ǎ憔偷酶淖儾呗??！?/span>
思科的 Kale 表示，采用 FinOps 實踐是一個好的開始，但 IT 領導者需要更進一步。傳統(tǒng)的 FinOps 提供了一種基于資源使用情況來跟蹤支出和分配成本的機制，但對于 AI，成本控制團隊需要了解模型的性能，并識別組織在何處消耗了不必要的計算資源。
他說，F(xiàn)inOps 團隊應使用運營分析，不僅讓組織看到錢花在哪里，還要展示工作負載是如何運行的。
“限制不必要資源消耗的一個可行策略是，引導團隊使用能滿足特定任務的最小模型，”他補充道?！巴ǔ＃埱罂梢员恢匦侣酚傻礁』蛘麴s過的模型，而不會影響用戶體驗。”
Kale 建議，F(xiàn)inOps 團隊還應評估其 AI 檢索系統(tǒng)、驗證管道和策略檢查的設計，確保它們獨立運行，且運行頻率不超過必要限度。
他補充說，CIO 還應關注 GPU 的使用情況?！坝捎谡{(diào)度不佳和缺乏整合的工作負載管理，GPU 節(jié)點往往只運行在其總容量的一小部分，”他說。“改進的編排和工作負載放置可以帶來顯著的成本節(jié)約?！?/span>
四、避免供應商鎖定
IBM 的 Baker 建議組織采用混合架構，以避免過度依賴單一 AI 基礎設施提供商。此外，CIO 應始終關注運行其 AI 工作負載所需的計算資源。
“合理調(diào)整（Right-sizing）AI 技術投資提供了顯著的節(jié)省機會，”他補充道。“并非每個問題都需要最大的模型或最快的響應時間?！?/span>
Baker 說，組織應考慮量化和壓縮技術，并部署針對特定任務微調(diào)的較小模型，而不是通用的大語言模型?！笆褂眠m當?shù)挠嬎阗Y源，而不是默認選擇可用的最強大選項?！?/span>
他補充說，許多組織也能從戰(zhàn)略性耐心中受益?！氨苊馔顿Y那些尚不需要的能力，可以讓組織向早期采用者學習，因為后者往往要承擔‘過早入場’的代價?！?/span>
作者： Grant Gross
