大多數(shù)CIO都認為資金短缺是他們面臨的主要問題，因為他們面臨著從AI中獲取價值的壓力，而低估AI的綜合成本可能會帶來災難性的后果。
面臨部署成功AI項目壓力的CIO還有第二個擔憂：他們沒有足夠的資金來實現(xiàn)這一目標。
最近，Gartner（高德納咨詢公司）【Gartner（高德納咨詢公司）是全球領先的信息技術研究和顧問咨詢公司，成立于1979年，總部設在美國康涅狄格州斯坦福德。Gartner 為客戶提供包括IT研究、發(fā)展、評估、應用、市場等領域的客觀、公正的論證報告及市場調(diào)研報告，協(xié)助客戶進行市場分析、技術選擇、項目論證、投資決策，并在投資風險管理、營銷策略、發(fā)展方向等重大問題上提供重要的咨詢建議】對首席信息官進行了一項調(diào)查，其中90%的受訪者表示，管理人工智能（AI）的成本限制了他們從AI中獲取價值的能力。此外，Gartner專注于數(shù)字業(yè)務高管領導的分析師Hung LeHong（洪黎宏）【Hung LeHong（洪黎宏）是Gartner的杰出分析師高管，專注于數(shù)字業(yè)務的高管領導研究團隊。他專注于幫助首席執(zhí)行官和其他C級高管預測數(shù)字業(yè)務對商業(yè)模式和客戶趨勢的影響。他的工作是幫助高管們理解三年及以后將發(fā)生的變化，以便他們能夠創(chuàng)新，以改善未來的地位或效率】表示，如果CIO們沒有完全理解擴展生成性AI的成本，他們可能會低估成本500%到1000%。根據(jù)不同的AI項目，這樣的錯誤可能會導致數(shù)百萬美元的損失。
LeHong在最近的一次網(wǎng)絡直播中表示，在很多情況下，當有更便宜的工具可用時，使用LLM進行簡單的AI任務（例如轉(zhuǎn)錄和翻譯）可能會花費不菲?！耙恍〤IO根本不了解其中的所有成本要素，”他補充道?！凹词顾麄兞私獬杀荆麄円矝]有能力改變它?！?/span>
1.隱性成本和價格上漲
金融軟件供應商BlackLine（BlackLine是一家成立于2001年的金融軟件公司，總部位于美國加州伍德蘭希爾斯。它提供云服務，幫助企業(yè)自動化財務流程，如對賬、結算和報告，以提高效率和準確性）的首席信息官Sumit Johar（蘇米特·喬哈爾）【Sumit Johar（蘇米特?喬哈爾）是BlackLine公司的首席信息官。在擔任這一職位之前，Sumit Johar在Accenture（埃森哲）有超過20年的工作經(jīng)驗，他在那里擔任過多個高級領導職位，專注于為客戶提供戰(zhàn)略咨詢服務，包括IT戰(zhàn)略、業(yè)務流程外包、共享服務和全球交付模型】補充說，部署人工智能的方法與其他技術不同。
“真正的問題是，在嘗試成功部署之前，人們并不總是能理解實施人工智能的成本，”他說?！?span style="font-family: 黑體; outline: 0px; color: rgb(172, 1, 249);">使用原型很容易快速獲得成功，但讓數(shù)據(jù)為人工智能做好準備、用公司數(shù)據(jù)訓練人工智能模型、部署后進行調(diào)整、設置控制以限制濫用、偏見和幻覺等都存在隱性成本。”
Johar（喬哈爾）表示，BlackLine已部署了自己的AI工具，重點關注影響大多數(shù)員工和客戶的項目。他補充說，具有廣泛影響的AI項目向領導層和員工展示了AI的力量。
但他補充道，與人工智能相關的部署挑戰(zhàn)是許多CIO以前從未面臨過的?！拔覀兞晳T于編寫基于規(guī)則的系統(tǒng)，這些系統(tǒng)總是按照你設計的方式運行，”他說。“生成式人工智能不是這樣運作的，需要幾項其他投資來控制它，同時將其用于構建的目的?！?/span>
CIO控制生成式AI成本的100分評價指標體系
【睿觀：CIO的觀點強調(diào)了生成式人工智能（Generative AI）與傳統(tǒng)基于規(guī)則的系統(tǒng)的根本區(qū)別。生成式AI具有高度的自主性和不確定性，這使得其部署面臨諸多挑戰(zhàn)。這些挑戰(zhàn)主要源于：
模型的不確定性：?生成式AI模型的輸出往往難以完全預測，這給系統(tǒng)的穩(wěn)定性和可控性帶來了挑戰(zhàn)。
數(shù)據(jù)依賴性：?模型的性能高度依賴于訓練數(shù)據(jù)的質(zhì)量和數(shù)量，而數(shù)據(jù)的偏差或不足可能導致模型產(chǎn)生偏見或錯誤的結果。
倫理風險：?生成式AI可能生成虛假、有害或歧視性的內(nèi)容，這引發(fā)了嚴重的倫理問題。
控制生成式AI所需的投資
為了有效控制生成式AI，企業(yè)CIO需要在以下幾個方面進行投資：
數(shù)據(jù)治理與質(zhì)量提升
數(shù)據(jù)清洗與標注：?確保訓練數(shù)據(jù)的高質(zhì)量和一致性。
數(shù)據(jù)隱私保護：?建立健全的數(shù)據(jù)隱私保護機制，符合相關法規(guī)。
數(shù)據(jù)多樣性：?收集多樣化的數(shù)據(jù)，減少模型偏差。
模型開發(fā)與優(yōu)化
模型選擇與定制：?根據(jù)業(yè)務需求選擇合適的模型架構，并進行定制化開發(fā)。
模型評估與驗證：?建立完善的模型評估體系，確保模型的可靠性。
模型持續(xù)學習：?隨著數(shù)據(jù)和業(yè)務環(huán)境的變化，不斷對模型進行更新和優(yōu)化。
系統(tǒng)監(jiān)控與風險管理
實時監(jiān)控：?對模型的輸出進行實時監(jiān)控，及時發(fā)現(xiàn)異常。
風險評估：?定期評估系統(tǒng)存在的潛在風險，并制定應急預案。
倫理審查：?建立倫理審查機制，確保AI應用符合倫理規(guī)范。
人才培養(yǎng)與團隊建設
人才引進：?引進具備AI技術和領域知識的專業(yè)人才。
人才培養(yǎng)：?對現(xiàn)有員工進行AI培訓，提升團隊整體素質(zhì)。
組織文化建設：?建立鼓勵創(chuàng)新和探索的組織文化。
基礎設施建設
計算資源：?提供充足的計算資源，支持模型訓練和部署。
云平臺：?利用云平臺提供的彈性計算和存儲服務。
安全防護：?加強系統(tǒng)安全防護，防止數(shù)據(jù)泄露和攻擊。】
Gartner表示，除了AI部署挑戰(zhàn)之外，軟件供應商還因為新增AI功能而將價格提高了30%。LeHong（黎宏）表示，雖然一些軟件供應商目前正在吸收AI帶來的額外成本，但首席信息官需要為情況的變化做好計劃。
“以后這些價格會上漲，”他補充道。“這不僅僅是人工智能的成本。他們已經(jīng)在業(yè)務中運行的應用程序的成本才是他們真正擔心的問題?！?/span>
2.轉(zhuǎn)向小勝利
工業(yè)人工智能公司IFS【IFS（Industrial and Financial Systems）是一家提供企業(yè)軟件的公司，專注于幫助工業(yè)企業(yè)提高效率和生產(chǎn)力。它提供云服務，包括企業(yè)資源規(guī)劃、資產(chǎn)管理和供應鏈管理等。IFS利用人工智能和機器學習技術，幫助客戶做出更好的業(yè)務決策】的首席技術官Kevin Miller（凱文·米勒）【Kevin Miller（凱文?米勒）是工業(yè)人工智能公司IFS的首席技術官（CTO）。他在2021年5月加入IFS，最初擔任北美地區(qū)的售前解決方案副總裁。在成功領導北美售前團隊一年半后，他晉升為北美地區(qū)的首席技術官，他的工作重點是推動領先的產(chǎn)品和行業(yè)解決方案，為客戶提供真正的商業(yè)價值】表示，成本問題，加上來自首席執(zhí)行官和董事會部署人工智能并創(chuàng)造價值的巨大壓力，使首席信息官和其他IT領導者陷入困境。他指出，在IFS最近對工業(yè)和相關行業(yè)IT決策者進行的一項調(diào)查中，82%的受訪者表示，他們面臨著迅速采用人工智能的巨大壓力。
他說：“我們可能都有點內(nèi)疚，因為我們沖進了人工智能的森林，卻不一定知道我們要去哪里，也不一定知道這個愿景是什么樣的。首席信息官需要找到的第一件事是，人工智能的潛在優(yōu)勢在哪里？”
Miller（米勒）表示，Gartner預測CIO可能會低估AI成本 1,000%，這應該給CIO敲響警鐘，讓他們想辦法衡量和優(yōu)先考慮能夠提供價值的AI項目。
他補充道，成本“只會呈指數(shù)級增長。它確實有可能失控?！?/span>
Miller（米勒）建議，在許多情況下，能夠快速體現(xiàn)價值的小勝利可能比龐大的高風險項目更有吸引力。他還建議CIO與同行群體互動，了解已經(jīng)取得成功的AI項目。
“我們可以向已經(jīng)經(jīng)歷過這種情況的人學習，”他說?！拔胰绾尾拍苁惯@項工作最有效，滿足董事會和我合作的高管層的要求，通過與這些同事互動，找出哪些方法有效，哪些方法無效，以及他們從哪里獲得了最大的價值？”
數(shù)據(jù)管理供應商K2view（K2View是一家數(shù)據(jù)管理公司，專注于幫助企業(yè)實時處理和分析數(shù)據(jù)。它的技術可以整合分散在不同系統(tǒng)和數(shù)據(jù)源中的數(shù)據(jù)，使企業(yè)能夠更安全、更有效地訪問和控制數(shù)據(jù)。K2View提供的服務包括客戶數(shù)據(jù)分析、測試數(shù)據(jù)管理、數(shù)據(jù)隱私保護等）的首席技術官Yuval Perlov（尤瓦爾·佩洛夫）【Yuval Perlov（尤瓦爾·佩洛夫）是K2View的首席技術官（CTO），擁有近三十年的企業(yè)技術建設與管理經(jīng)驗。豐富經(jīng)驗和專業(yè)知識使他成為任何公司寶貴的資產(chǎn)，他的領導和管理能力帶來了成功的項目和滿意的客戶】表示，當首席信息官考慮部署新一代人工智能時，成本肯定是一個問題。K2view在最近對高級人工智能部署專業(yè)人士的調(diào)查中發(fā)現(xiàn)，成本是最受關注的問題，其次是數(shù)據(jù)安全和隱私，以及新一代人工智能響應的可靠性。
然而，Perlov（佩洛夫）表示，問題既是規(guī)模問題，也是成本問題。在許多情況下，組織啟動雄心勃勃的人工智能項目，這些項目擴大規(guī)模的成本可能很高，而小型戰(zhàn)略計劃可能會帶來更快的回報，他說。
“一些CIO正在嘗試各種技術，他們看到了很酷的東西，但這不是戰(zhàn)略的一部分，然后他們想擴大規(guī)模，”他說?！暗ǔ?，它無法擴大規(guī)模，要么是因為他們沒有提前計算，要么是他們使用了極其昂貴的方法來做到這一點，好像有更簡單或更便宜的方法可以實現(xiàn)這一點。”
與建議部署具有廣泛用戶基礎的AI項目的BlackLine的Johar（喬哈爾）不同，Perlov（佩洛夫）鼓勵IT領導者進行戰(zhàn)略思考，并專注于對其組織具有特定戰(zhàn)略意義的用例。在某些情況下，CIO會愿意犧牲短期投資回報率來換取長期戰(zhàn)略優(yōu)勢，而在其他情況下，CIO會從易于部署的項目開始，這些項目可以帶來立竿見影的收益，并向CEO和董事會成員展示。
他建議，不要創(chuàng)建一個可以回答200個問題的客戶聊天機器人，而是先創(chuàng)建一個可以回答10個最常見問題的聊天機器人，然后將不常見的問題交給人工代理。
“從小處著手，深入，不要從廣度和深度著手，或者只做一件事或兩件事，把它們做好，直到你可以推廣并從中獲得價值。”Perlov（佩洛夫）說。
作者：Grant Gross（格蘭特·格羅斯）
譯者：穿山甲
【睿觀：
LIME（Local Interpretable Model-agnostic Explanations）和SHAP（SHapley Additive exPlanations）的說明：
1. LIME（Local Interpretable Model-agnostic Explanations）
定義：LIME 是一種用于解釋機器學習模型預測結果的工具。它是一種模型不可知的解釋方法，適用于任何復雜的機器學習模型。LIME 的主要思想是通過在一個局部區(qū)域內(nèi)用一個簡單可解釋的模型（如線性回歸模型或決策樹）來近似復雜模型的行為，從而幫助理解該模型在某個特定樣本點上的決策過程。
特點：
- 局部解釋：LIME 提供的是局部解釋，即它解釋的是模型在某個特定樣本點附近的預測行為，而不是整個模型。
- 簡單可解釋：使用的簡單模型 是易于理解和解釋的，如線性和邏輯回歸模型。
- 模型不可知：LIME 可以應用于任何機器學習模型，無論是黑盒模型還是白盒模型。
- 靈活性：可以通過改變簡單模型的類型（如使用線性模型或決策樹）和局部數(shù)據(jù)集的大小來調(diào)整解釋方法的靈活性。
2. SHAP（SHapley Additive exPlanations）
定義：
SHAP 是一種基于博弈論的模型解釋方法。SHAP 值（SHapley Values）是從博弈論中的Shapley值借鑒而來，用于衡量每個特征對預測結果的具體貢獻。SHAP值確保了在不同的解釋中，特征的重要性總和等于最終的預測結果與基線預測的差值。
特點：
- 公平性和一致性：SHAP 方法確保了每個特征的貢獻是公平且一致的，符合Shapley值的定義。
- 全局和局部解釋：SHAP 可以提供全局解釋（解釋訓練數(shù)據(jù)集上所有樣本的預測結果）和局部解釋（解釋單個樣本的預測結果）。
- 獨特性和獨立性：SHAP值可以處理特征之間的相互依賴性，確保每個特征的貢獻是獨立且獨特的。
- 計算復雜性：SHAP值的計算可能會比較復雜，特別是對于具有大量特征或復雜結構的數(shù)據(jù)集。
- 適用范圍：SHAP 方法適用于各種類型的機器學習模型，不僅限于線性模型。
總結
- LIME?通過在一個局部區(qū)域內(nèi)用簡單的可解釋模型近似復雜模型的行為，提供針對特定樣本點的局部解釋。
- SHAP基于博弈論中的Shapley值，衡量每個特征對預測結果的具體貢獻，提供全局和局部的解釋，并確保公平性和一致性。
這兩種方法都有助于提升機器學習模型的可解釋性，幫助企業(yè)和用戶更好地理解模型的預測邏輯?！?/span>
