由于擔心成本和數據隱私問題,一旦人工智能工作負載穩(wěn)定下來且實驗階段結束,IT領導者們越來越認為,對于人工智能而言,私有云或本地部署是更好的選擇。

圖源:Rob Schultz / Shutterstock
? ? CIO已經開始重新思考他們在人工智能及其他工作負載方面對公共云的依賴,對私有云和本地部署環(huán)境重新燃起的興趣正在加速升溫。
? ? 數據可觀測性公司Prove AI的首席技術官Greg Whalen(格雷格·惠倫)表示,雖然公共云為人工智能實驗提供了靈活調配大量GPUs(圖形處理器)的能力,但隨著人工智能戰(zhàn)略的成熟,以及逐漸轉向可預測的人工智能工作負載,CIO們開始將目光投向私有云或本地部署環(huán)境,以控制開支并保護數據隱私。
? ? ProveAI最近對美國和加拿大的1000名企業(yè)領導者進行的一項調查顯示,其中67%的人計劃在未來12個月內將一些人工智能數據遷移到非云環(huán)境中。除了成本可預測性和數據隱私問題外,調查還顯示,遷移的其他主要原因是安全問題以及與SaaS(軟件即服務)環(huán)境的云集成挑戰(zhàn)。
? ? Whalen(惠倫)表示,對于運行穩(wěn)定人工智能工作負載的組織來說,與其在公共云中租用時間,不如購買幾塊GPU或在私有云提供商處安裝幾塊,這樣可以節(jié)省資金。他認為,如果IT領導者能夠準確估算需求,內部GPU將得到充分利用,幾乎沒有閑置時間。
? ? 他說:“如果你真的在進行微調,或者甚至只是想定制一個RAG(檢索增強生成)模型,你可能需要連續(xù)幾個小時使用圖形處理器進行計算。即使在實際評估模型、運行模型時,你的工作負載也不會有太大波動。”
? ? Whalen(惠倫)表示,他沒有看到太多組織因使用不足而運行自己的GPU。
? ? 他補充道:“如果有人說,‘你有一塊圖形處理器,但可能只有?10%?的時間會用到它’,以我們的經驗來看,情況并非如此。你總會找到事情讓它去做,而且大多數工作負載通常是訓練,這是非常連續(xù)的。它是在可預測的時間段內運行的任務。”
一、私有云支出增長
? ? 盡管ProveAI的調查顯示了對本地計算的興趣,但另一項調查表明,即使公共云支出也在以較低速度增長,私有云支出仍有顯著增長。
? ? 這項由網絡和安全提供商GTTCommunications開展的調查顯示,2024年至2025年間,計劃在公共云上花費超過1000萬美元的組織數量增長了12%。
? ? 然而,調查顯示,計劃在私有云服務上支出超過1000萬美元的受訪者比例增長更為迅速,從2023年的36%增長到2024年的43%,再到2025年的54%。這一增長速度是公共云大額支出者的兩倍。
? ? GTT發(fā)現,現在超過一半的人工智能工作負載分布在私有云和本地部署環(huán)境的組合中,安全性、合規(guī)性以及人工智能工作負載的特定需求是尋求公共云替代方案的主要原因。
? ? GTT的戰(zhàn)略和技術采用副總裁Bastien Aerni(巴斯蒂安·阿爾尼)表示,監(jiān)管和合規(guī)方面的擔憂是推動企業(yè)轉向私有云或本地部署解決方案的重要因素。他補充說,許多公司正在將敏感工作負載轉移到私有云,作為更廣泛的多云和混合云戰(zhàn)略的一部分,以支持智能體人工智能和其他復雜的人工智能計劃。
? ? Aerni(阿爾尼)說:“大多數時候,人工智能會涉及機密數據或業(yè)務關鍵數據。因此,關于架構的思考以及哪些工作負載應該是公共的、哪些應該是私有的,甚至是否應該在本地部署,正成為一個真正需要考慮的問題?!?/span>
? ? 他說,公共云仍然為人工智能項目提供了最大的可擴展性,近年來,CIO們被公共云提供的眾多額外功能所說服。
? ? Aerni(阿爾尼)補充道:“比如說,大約五年前,我在與一些CIO交談時,他們提到‘公共云有這么多功能,這么多工具’?,F在當我再次進行同樣的交談時,他們說‘實際上,我現在并沒有經常使用那些工具’。他們現在都在尋求穩(wěn)定性和可預測性?!?/span>
二、小規(guī)模撤離
? ? 其他云計算和人工智能專家認為,不會出現大規(guī)模從公共云撤離的情況,由于人工智能對計算的高需求,公共云仍在持續(xù)增長。云咨詢公司Zoi North America的董事總經理Danilo Kirschner(達尼洛·基爾施納)表示,很大一部分企業(yè)仍在使用混合云模式。
? ? 他說,數據回遷現象確實存在,但企業(yè)并沒有完全拋棄公共云。
? ? Kirschne(基爾施納)稱:“矛盾很明顯:人工智能工作負載一方面推動了云服務的大規(guī)模增長,另一方面又促使企業(yè)有選擇性地將數據回遷。這是因為市場擴張速度極快,能夠同時容納多種部署模式。我們現在看到的是,企業(yè)從那種‘一切都搬到云端’的簡單策略,逐漸發(fā)展為根據工作負載做出明智決策?!?/span>
? ? IT人員咨詢公司C4 Technology Services的首席人工智能官Zac Engler(扎克·恩格勒)也看到了同樣的趨勢。
? ? 他說:“我們并沒有看到大規(guī)模從云端撤離的現象。更像是企業(yè)正悄悄帶著最有價值的人工智能工作負載從‘側門’溜走。”
? ? 他補充道,對數據的信任、成本以及控制權問題,重新成為董事會的重要議題,并影響著有關人工智能工作負載運行地點和數據存儲位置的決策。
? ? Engler(恩格勒)說:“公共云在實驗階段、快速擴展規(guī)模以及在董事會演示中給人留下深刻印象方面,仍然表現出色。但涉及專有數據、合規(guī)性問題,或者不想無謂燒錢時,本地部署和私有云方案就更有意義得多?!?/span>
作者:Grant Gross(格蘭特·格羅斯)
Grant Gross(格蘭特·格羅斯)是CIO的資深撰稿人,是一名長期的科技記者。他曾擔任華盛頓記者,后來擔任IDG新聞服務的高級編輯。在他職業(yè)生涯的早期,他曾擔任Linux.com的總編輯和科技職業(yè)網站Techies.com的新聞編輯。在遙遠的過去,他曾在明尼蘇達州和達科他州的報紙擔任記者和編輯。
譯者:寶藍
睿觀:
【核心趨勢:從公有云“悄然回遷”】隨著AI實驗階段結束,工作負載趨于穩(wěn)定和可預測,企業(yè)對公有云在成本、數據隱私和安全方面的擔憂日益加劇。因此,一股新的趨勢正在形成:IT領導者們正加速將部分AI工作負載和數據從公有云遷移至私有云或本地部署環(huán)境。調查數據顯示,計劃在私有云上進行大額投資的企業(yè)比例正以公有云兩倍的速度增長,超過一半的AI工作負載現已分布在私有云和本地部署的組合中?。
【策略演變:非大規(guī)模撤離,而是明智決策】這并非一場從公有云的大規(guī)模撤離,而是一種更成熟、更明智的策略演變,專家稱之為針對高價值工作負載的“悄然回遷”。企業(yè)正從過去“一切上云”的簡單策略,轉向根據工作負載的性質做出具體決策?。公有云因其靈活性和可擴展性,依然是進行AI實驗、快速擴展和展示成果的理想場所。然而,當涉及到核心專有數據、嚴格的合規(guī)要求以及可預測的、持續(xù)運行的工作負載時,私有云或本地部署因其更高的成本效益和數據控制權而變得更具吸引力?。
【未來展望:成熟的混合云模式】最終,AI的部署正朝著一個成熟的混合云模式發(fā)展,即企業(yè)根據不同需求,戰(zhàn)略性地在不同環(huán)境中分配工作負載?。對CIO而言,挑戰(zhàn)在于重新思考云戰(zhàn)略,建立能夠平衡創(chuàng)新、成本與風險的治理框架。成功的關鍵在于,將云架構的選擇與具體的業(yè)務目標、成本可預測性和安全合規(guī)要求緊密結合,從而真正駕馭多云環(huán)境的復雜性,釋放AI的全部價值。
金句:AI的云旅程正從“上云”的狂熱,轉向“用云”的智慧;公有云是實驗場,而私有云與本地部署,正成為核心價值的“保險箱”。