麥肯錫的數(shù)據(jù)顯示，近三分之二的組織難以在業(yè)務(wù)范圍內(nèi)推廣AI。原因很簡單：數(shù)據(jù)沒準備好。許多企業(yè)試圖在“碎片化的數(shù)據(jù)源”和“混亂的數(shù)據(jù)”之上構(gòu)建復(fù)雜的AI模型，這就像是在流沙上蓋樓。
——CIO必須掌握的“數(shù)據(jù)備戰(zhàn)”清單，別讓AI接管了錯誤的方向
各位CIO和CDO：
當我們在談?wù)揂I雄心時，現(xiàn)實往往是骨感的。
麥肯錫最新的全球調(diào)查顯示，近三分之二的領(lǐng)導者表示，他們的組織在業(yè)務(wù)范圍內(nèi)推廣AI一直遇到困難。許多項目止步于試點（Pilot），投資回報率（ROI）難以證明。
為什么？軟件開發(fā)商Aras的CTO Rob McAveney一針見血地指出：
“許多組織假設(shè)他們需要AI，但真正的起點應(yīng)該是：定義你希望AI支持什么‘決策’，并確保你有正確的‘數(shù)據(jù)’來支持它?！?/strong>
如果數(shù)據(jù)孤島林立、質(zhì)量堪憂，AI只會放大這些不一致，導致不可靠甚至誤導性的結(jié)果。
今天，我們?yōu)槟崂砹艘环荨皵?shù)據(jù)備戰(zhàn)”清單，幫助您在AI接管方向盤之前，先修好路。
在急于采用AI時，很多企業(yè)忘記了最根本的問題：到底要解決什么業(yè)務(wù)問題？
【睿信咨詢顧問建議：COE（卓越中心）篩選機制】
VyStar信用合作社的CTO Anurag Sharma建議，CIO應(yīng)該“放慢對話節(jié)奏”，以便區(qū)分哪些是“閃亮的（炒作）”，哪些是“戰(zhàn)略的（剛需）”。
企業(yè)應(yīng)建立一個AI COE或?qū)ｉT工作組，成員不僅包括技術(shù)人員，還要有業(yè)務(wù)、法律、合規(guī)和安全團隊。他們的任務(wù)是：
定義基線要求：在項目啟動前，明確AI必須滿足的安全和業(yè)務(wù)標準。
設(shè)定退出機制：建議設(shè)立30或45天的檢查點。如果結(jié)果未達預(yù)期，不要猶豫，果斷叫停。
國際特赦組織的CIO Paul Smith提出了一個深刻的觀點：
“沒有所謂的‘非結(jié)構(gòu)化數(shù)據(jù)’，只有尚未被應(yīng)用結(jié)構(gòu)的數(shù)據(jù)?！?/strong>
【實戰(zhàn)動作：數(shù)據(jù)血統(tǒng)與所有權(quán)】在金融等高信任行業(yè)，如果你不能清楚回答“數(shù)據(jù)從哪來？”以及“它有多可信？”，那你還沒準備好。
標準化：通過標準化模式（Schemas）、執(zhí)行數(shù)據(jù)合同（Data Contracts），在數(shù)據(jù)攝取時自動化質(zhì)量檢查。
單一事實源：Reworld公司創(chuàng)建了“單一事實源數(shù)據(jù)架構(gòu)”（Single Source of TruthData Fabric），并為每個領(lǐng)域分配了數(shù)據(jù)管理員（Data Stewards）。
AI會放大它在數(shù)據(jù)中發(fā)現(xiàn)的任何模式——包括那些組織寧愿摒棄的舊偏見。
【睿信咨詢顧問建議：人機閉環(huán)（Human-in-the-loop）】
Reworld的CIO分享了一個教訓：在早期的AI線索資格認證試點中，取消人工審核導致了分類效果不佳。他們迅速調(diào)整模型，重新加入了人類反饋。
決策不應(yīng)在沒有人工驗證的情況下做出。公平性指標（如差別影響）應(yīng)被納入模型驗證流程。
成功的AI采用，始于明確的業(yè)務(wù)需求、扎實的數(shù)據(jù)和人類的判斷力，而不是讓技術(shù)發(fā)號施令。
在加大投入之前，請先問自己：我的數(shù)據(jù)治理夠強嗎？質(zhì)量標準執(zhí)行了嗎？數(shù)據(jù)所有權(quán)明確了嗎？
如果答案是否定的，請先停下來修好地基。因為在流沙上，建不起AI的大廈。
CIO們提醒不要讓 AI 主導企業(yè)戰(zhàn)略。成功的采用始于明確的業(yè)務(wù)需求、扎實的數(shù)據(jù)和人類判斷，而非技術(shù)主導。
圖源：Rob Schultz /?Shutterstock
在人工智能（AI）的采用方面，雄心與執(zhí)行之間的鴻溝可能無法彌合。公司試圖將技術(shù)融入產(chǎn)品、工作流程和戰(zhàn)略中，但良好的初衷常常因混亂的數(shù)據(jù)和缺乏清晰計劃而在日?，F(xiàn)實的重壓下崩潰。
“這是我們合作的全球制造商中最常遇到的挑戰(zhàn)，”軟件開發(fā)商Aras的首席技術(shù)官（CTO）Rob McAveney說?！霸S多組織假設(shè)他們需要AI，但真正的起點應(yīng)該是定義你希望AI支持什么決策，并確保你擁有支持它的正確數(shù)據(jù)?！?/span>
根據(jù)麥肯錫最近的一項全球調(diào)查，近三分之二的領(lǐng)導者表示，他們的組織在業(yè)務(wù)范圍內(nèi)擴展AI（scale AI）一直遇到困難。他們往往無法超越試點項目的測試階段，這一挑戰(zhàn)在小型組織中更為明顯。試點往往未能成熟，投資決策也變得難以證明合理性。
一個典型的問題是數(shù)據(jù)還沒準備好用于AI。團隊試圖在零散的源頭或混亂的數(shù)據(jù)上構(gòu)建復(fù)雜的模型，希望技術(shù)能“抹平裂縫”。
“從我們的角度來看，實現(xiàn)有意義AI成果的最大障礙是數(shù)據(jù)質(zhì)量、數(shù)據(jù)一致性和數(shù)據(jù)上下文，”McAveney說?！爱敂?shù)據(jù)存在于孤島中或未被共享標準所治理時，AI只會反映這些不一致，導致不可靠或誤導性的結(jié)果?！?/span>
這是一個影響幾乎所有行業(yè)的問題。在組織加大投入新型AI工具之前，必須先建立更強的數(shù)據(jù)治理，執(zhí)行質(zhì)量標準，并明確誰真正擁有這些系統(tǒng)所需的數(shù)據(jù)。
一、確保人工智能不會掌控一切
在急于采用AI的過程中，許多組織忘記了問一個根本性的問題：到底需要解決什么問題。沒有這種清晰度，很難取得有意義的結(jié)果。
VyStar信用合作社的CTO Anurag Sharma認為，AI只是幫助解決特定業(yè)務(wù)問題的又一工具，他表示每一項舉措都應(yīng)以清晰、簡單的業(yè)務(wù)成果聲明開始。他鼓勵團隊找出AI可能解決的問題，并敦促高管們在推進任何事情之前，先了解哪些內(nèi)容將發(fā)生變化，以及誰將受到影響。
“CIO和CTO可以通過堅持這種紀律，并適當放慢對話節(jié)奏，以便將‘閃亮的（炒作）’與‘戰(zhàn)略的’區(qū)分開來，從而讓舉措保持穩(wěn)固，”Sharma說。
當組織擁有AI卓越中心（COE）或?qū)ｉT工作組專注于識別真實機會時，這種區(qū)分會變得更加容易。這些團隊幫助篩選想法，設(shè)定優(yōu)先事項，并確保舉措扎根于業(yè)務(wù)需求而非炒作。
該小組還應(yīng)包括那些工作將受AI影響的人員，以及企業(yè)領(lǐng)導者、法律與合規(guī)專家以及安全團隊。他們可以共同定義AI舉措必須滿足的基線要求。
“當這些要求在一開始就明確時，團隊可以避免追求那些看起來令人興奮但缺乏真正業(yè)務(wù)錨點的AI項目，”安全與治理平臺Zenity的AI安全與政策倡導總監(jiān)Kayla Underkoffler表示。
她補充說，COE中應(yīng)有人對當前的AI風險格局有扎實的理解。該人應(yīng)準備好回答關(guān)鍵問題，清楚在每個項目上線前需要解決哪些關(guān)切。
“一個計劃可能存在團隊都未察覺的巨大裂縫，”Underkoffler說?！皬囊婚_始就必須包含安全措施，以確保護欄和風險評估能從一開始就加入，而不是在舉措啟動運行后才‘補裝’（bolted on）。”
此外，還應(yīng)有明確且可衡量的業(yè)務(wù)成果，以確保努力是值得的?！懊總€提案都必須事先定義成功指標，”云質(zhì)量工程平臺LambdaTest, Inc.的DevOps和DevSecOps副總裁Akash Agrawal說?！癆I從不是被探索（explored），而是被應(yīng)用（applied）?！?/span>
他建議公司設(shè)立定期的30天或45天檢查點，以確保工作持續(xù)與業(yè)務(wù)目標保持一致。如果結(jié)果未達預(yù)期，組織不應(yīng)猶豫重新評估并做出誠實決策，他說。即使這意味著要完全放棄該舉措。
然而，即使技術(shù)前景看好，人類仍需保持在回路中（remain in the loop）?！霸谖覀兓贏I的潛在客戶資格認證的早期試點中，取消人工審核導致了無效的潛在客戶分類，”可持續(xù)廢棄物解決方案公司Reworld的CIO Shridhar Karale表示?！拔覀冄杆僦匦抡{(diào)整模型以包含人類反饋，因此它不斷精煉，隨著時間推移變得更準確?！?/span>
當決策在沒有人工驗證的情況下做出時，組織就有可能基于錯誤的假設(shè)或被誤解的模式來行動。目標不是取代人，而是建立人機相互增強的伙伴關(guān)系。
二、數(shù)據(jù)，戰(zhàn)略資產(chǎn)
確保數(shù)據(jù)得到有效管理是讓AI按預(yù)期運作的一個常被忽視的前提。創(chuàng)造合適的條件意味著將數(shù)據(jù)視為戰(zhàn)略資產(chǎn)：組織它、清理它，并制定正確的政策，以確保其隨著時間推移保持可靠。
“CIO應(yīng)關(guān)注數(shù)據(jù)質(zhì)量、完整性和相關(guān)性，”國際特赦組織（Amnesty International）CIO Paul Smith說。他的組織每天都在處理非結(jié)構(gòu)化數(shù)據(jù)，通常來自外部來源。鑒于工作性質(zhì)，數(shù)據(jù)質(zhì)量可能不一。分析師篩選文件、視頻、圖片和報告，這些文件以不同格式和條件制作。管理如此大量雜亂、不一致且常常不完整的信息，教會了他們嚴謹?shù)闹匾浴?/span>
“沒有所謂的非結(jié)構(gòu)化數(shù)據(jù)，只有尚未被應(yīng)用結(jié)構(gòu)的數(shù)據(jù)，”Smith說。他還敦促組織從扎實的日常數(shù)據(jù)治理習慣的基礎(chǔ)開始。這意味著要核查數(shù)據(jù)是否相關(guān)，并確保其完整、準確且一致，而過時的信息可能會扭曲結(jié)果。
Smith還強調(diào)核實數(shù)據(jù)血統(tǒng)（data lineage）的重要性。這包括建立來源（provenance）——了解數(shù)據(jù)來自哪里以及其使用是否符合法律和倫理標準——以及審查任何詳細說明數(shù)據(jù)如何收集或轉(zhuǎn)化的現(xiàn)有文檔。
在許多組織中，混亂的數(shù)據(jù)來自遺留系統(tǒng)或手動錄入的工作流程。“我們通過標準化模式（schemas）、執(zhí)行數(shù)據(jù)合同（data contracts）、在攝取時自動化質(zhì)量檢查以及整合工程部門的可觀測性來增強可靠性，”Agrawal說。
當團隊信任數(shù)據(jù)時，他們的AI成果會得到提升?！?/span>如果你無法清楚回答數(shù)據(jù)從哪里來以及它有多可信，那你還沒準備好，”Sharma補充道?！芭c其追逐方向錯誤或操作上有害的見解，不如一開始放慢腳步，尤其是在金融行業(yè)，信任是我們的貨幣。”
Karale表示，Reworld創(chuàng)建了一個單一事實源數(shù)據(jù)架構(gòu)（single source of truth data fabric），并為每個領(lǐng)域分配了數(shù)據(jù)管理員（data stewards）。他們還維護一個“活”的數(shù)據(jù)字典，使定義和訪問策略通過簡單搜索就能輕松找到?！懊織l記錄都包含血統(tǒng)和所有權(quán)詳情，這樣每個團隊都能知道誰負責，并且可以信任所使用的數(shù)據(jù)，”Karale補充道。
三、對組織偏見的嚴肅審視
AI有一種放大它在數(shù)據(jù)中發(fā)現(xiàn)的任何模式的能力——包括有益的模式，以及組織寧愿摒棄的舊偏見。避免這種陷阱首先要認識到偏見往往是一個結(jié)構(gòu)性問題。
CIO可以采取幾種措施來防止問題生根?！霸贏I進入工作流程之前，審查所有用于培訓或試點運行的數(shù)據(jù)，并確認基礎(chǔ)控制措施已到位，”Underkoffler說。
此外，盡量詳細理解代理式AI（agentic AI）如何改變風險模型?！斑@些系統(tǒng)引入了新的自主性、依賴性和互動形式，”她說。“控制必須相應(yīng)進化?！?/span>
Underkoffler還補充說，強有力的治理框架可以指導組織進行監(jiān)控、風險管理和設(shè)置防護措施。這些框架明確了誰負責監(jiān)管AI系統(tǒng)、決策如何記錄，以及何時需要人類判斷介入，為技術(shù)發(fā)展速度快于大多數(shù)政策的環(huán)境提供結(jié)構(gòu)。
Karale表示，公平性指標，如差別影響（disparate impact），在這種監(jiān)督中起著重要作用。這些指標幫助團隊了解AI系統(tǒng)是否公平對待不同群體，還是無意中偏袒某一方。這些指標可以納入模型驗證流程。
領(lǐng)域?qū)＜?/strong>還可以在發(fā)現(xiàn)和重新訓練產(chǎn)生偏見或偏離目標輸出的模型中發(fā)揮關(guān)鍵作用。他們理解數(shù)據(jù)背后的背景，因此通常是第一個發(fā)現(xiàn)異常的人?！俺掷m(xù)學習對機器和對人同樣重要，”Karale說。
國際特赦組織的Smith也表示同意，他說組織需要持續(xù)培訓員工，幫助他們識別潛在的偏見?！疤岣邔︼L險和危害的認識，”他說。“第一道防線或風險緩解是人類?！?/span>
