麥肯錫的數(shù)據(jù)顯示，近三分之二的組織難以在業(yè)務(wù)范圍內(nèi)推廣AI。原因很簡單：數(shù)據(jù)沒準(zhǔn)備好。許多企業(yè)試圖在“碎片化的數(shù)據(jù)源”和“混亂的數(shù)據(jù)”之上構(gòu)建復(fù)雜的AI模型，這就像是在流沙上蓋樓。
——CIO必須掌握的“數(shù)據(jù)備戰(zhàn)”清單，別讓AI接管了錯(cuò)誤的方向
各位CIO和CDO：
當(dāng)我們?cè)谡務(wù)揂I雄心時(shí)，現(xiàn)實(shí)往往是骨感的。
麥肯錫最新的全球調(diào)查顯示，近三分之二的領(lǐng)導(dǎo)者表示，他們的組織在業(yè)務(wù)范圍內(nèi)推廣AI一直遇到困難。許多項(xiàng)目止步于試點(diǎn)（Pilot），投資回報(bào)率（ROI）難以證明。
為什么？軟件開發(fā)商Aras的CTO Rob McAveney一針見血地指出：
“許多組織假設(shè)他們需要AI，但真正的起點(diǎn)應(yīng)該是：定義你希望AI支持什么‘決策’，并確保你有正確的‘?dāng)?shù)據(jù)’來支持它。”
如果數(shù)據(jù)孤島林立、質(zhì)量堪憂，AI只會(huì)放大這些不一致，導(dǎo)致不可靠甚至誤導(dǎo)性的結(jié)果。
今天，我們?yōu)槟崂砹艘环荨皵?shù)據(jù)備戰(zhàn)”清單，幫助您在AI接管方向盤之前，先修好路。
在急于采用AI時(shí)，很多企業(yè)忘記了最根本的問題：到底要解決什么業(yè)務(wù)問題？
【睿信咨詢顧問建議：COE（卓越中心）篩選機(jī)制】
VyStar信用合作社的CTO Anurag Sharma建議，CIO應(yīng)該“放慢對(duì)話節(jié)奏”，以便區(qū)分哪些是“閃亮的（炒作）”，哪些是“戰(zhàn)略的（剛需）”。
企業(yè)應(yīng)建立一個(gè)AI COE或?qū)ｉT工作組，成員不僅包括技術(shù)人員，還要有業(yè)務(wù)、法律、合規(guī)和安全團(tuán)隊(duì)。他們的任務(wù)是：
定義基線要求：在項(xiàng)目啟動(dòng)前，明確AI必須滿足的安全和業(yè)務(wù)標(biāo)準(zhǔn)。
設(shè)定退出機(jī)制：建議設(shè)立30或45天的檢查點(diǎn)。如果結(jié)果未達(dá)預(yù)期，不要猶豫，果斷叫停。
國際特赦組織的CIO Paul Smith提出了一個(gè)深刻的觀點(diǎn)：
“沒有所謂的‘非結(jié)構(gòu)化數(shù)據(jù)’，只有尚未被應(yīng)用結(jié)構(gòu)的數(shù)據(jù)。”
【實(shí)戰(zhàn)動(dòng)作：數(shù)據(jù)血統(tǒng)與所有權(quán)】在金融等高信任行業(yè)，如果你不能清楚回答“數(shù)據(jù)從哪來？”以及“它有多可信？”，那你還沒準(zhǔn)備好。
標(biāo)準(zhǔn)化：通過標(biāo)準(zhǔn)化模式（Schemas）、執(zhí)行數(shù)據(jù)合同（Data Contracts），在數(shù)據(jù)攝取時(shí)自動(dòng)化質(zhì)量檢查。
單一事實(shí)源：Reworld公司創(chuàng)建了“單一事實(shí)源數(shù)據(jù)架構(gòu)”（Single Source of TruthData Fabric），并為每個(gè)領(lǐng)域分配了數(shù)據(jù)管理員（Data Stewards）。
AI會(huì)放大它在數(shù)據(jù)中發(fā)現(xiàn)的任何模式——包括那些組織寧愿摒棄的舊偏見。
【睿信咨詢顧問建議：人機(jī)閉環(huán)（Human-in-the-loop）】
Reworld的CIO分享了一個(gè)教訓(xùn)：在早期的AI線索資格認(rèn)證試點(diǎn)中，取消人工審核導(dǎo)致了分類效果不佳。他們迅速調(diào)整模型，重新加入了人類反饋。
決策不應(yīng)在沒有人工驗(yàn)證的情況下做出。公平性指標(biāo)（如差別影響）應(yīng)被納入模型驗(yàn)證流程。
成功的AI采用，始于明確的業(yè)務(wù)需求、扎實(shí)的數(shù)據(jù)和人類的判斷力，而不是讓技術(shù)發(fā)號(hào)施令。
在加大投入之前，請(qǐng)先問自己：我的數(shù)據(jù)治理夠強(qiáng)嗎？質(zhì)量標(biāo)準(zhǔn)執(zhí)行了嗎？數(shù)據(jù)所有權(quán)明確了嗎？
如果答案是否定的，請(qǐng)先停下來修好地基。因?yàn)樵诹魃成?，建不起AI的大廈。
CIO們提醒不要讓 AI 主導(dǎo)企業(yè)戰(zhàn)略。成功的采用始于明確的業(yè)務(wù)需求、扎實(shí)的數(shù)據(jù)和人類判斷，而非技術(shù)主導(dǎo)。
圖源：Rob Schultz /?Shutterstock
在人工智能（AI）的采用方面，雄心與執(zhí)行之間的鴻溝可能無法彌合。公司試圖將技術(shù)融入產(chǎn)品、工作流程和戰(zhàn)略中，但良好的初衷常常因混亂的數(shù)據(jù)和缺乏清晰計(jì)劃而在日常現(xiàn)實(shí)的重壓下崩潰。
“這是我們合作的全球制造商中最常遇到的挑戰(zhàn)，”軟件開發(fā)商Aras的首席技術(shù)官（CTO）Rob McAveney說?！霸S多組織假設(shè)他們需要AI，但真正的起點(diǎn)應(yīng)該是定義你希望AI支持什么決策，并確保你擁有支持它的正確數(shù)據(jù)?！?/span>
根據(jù)麥肯錫最近的一項(xiàng)全球調(diào)查，近三分之二的領(lǐng)導(dǎo)者表示，他們的組織在業(yè)務(wù)范圍內(nèi)擴(kuò)展AI（scale AI）一直遇到困難。他們往往無法超越試點(diǎn)項(xiàng)目的測(cè)試階段，這一挑戰(zhàn)在小型組織中更為明顯。試點(diǎn)往往未能成熟，投資決策也變得難以證明合理性。
一個(gè)典型的問題是數(shù)據(jù)還沒準(zhǔn)備好用于AI。團(tuán)隊(duì)試圖在零散的源頭或混亂的數(shù)據(jù)上構(gòu)建復(fù)雜的模型，希望技術(shù)能“抹平裂縫”。
“從我們的角度來看，實(shí)現(xiàn)有意義AI成果的最大障礙是數(shù)據(jù)質(zhì)量、數(shù)據(jù)一致性和數(shù)據(jù)上下文，”McAveney說?！爱?dāng)數(shù)據(jù)存在于孤島中或未被共享標(biāo)準(zhǔn)所治理時(shí)，AI只會(huì)反映這些不一致，導(dǎo)致不可靠或誤導(dǎo)性的結(jié)果?！?/span>
這是一個(gè)影響幾乎所有行業(yè)的問題。在組織加大投入新型AI工具之前，必須先建立更強(qiáng)的數(shù)據(jù)治理，執(zhí)行質(zhì)量標(biāo)準(zhǔn)，并明確誰真正擁有這些系統(tǒng)所需的數(shù)據(jù)。
一、確保人工智能不會(huì)掌控一切
在急于采用AI的過程中，許多組織忘記了問一個(gè)根本性的問題：到底需要解決什么問題。沒有這種清晰度，很難取得有意義的結(jié)果。
VyStar信用合作社的CTO Anurag Sharma認(rèn)為，AI只是幫助解決特定業(yè)務(wù)問題的又一工具，他表示每一項(xiàng)舉措都應(yīng)以清晰、簡單的業(yè)務(wù)成果聲明開始。他鼓勵(lì)團(tuán)隊(duì)找出AI可能解決的問題，并敦促高管們?cè)谕七M(jìn)任何事情之前，先了解哪些內(nèi)容將發(fā)生變化，以及誰將受到影響。
“CIO和CTO可以通過堅(jiān)持這種紀(jì)律，并適當(dāng)放慢對(duì)話節(jié)奏，以便將‘閃亮的（炒作）’與‘戰(zhàn)略的’區(qū)分開來，從而讓舉措保持穩(wěn)固，”Sharma說。
當(dāng)組織擁有AI卓越中心（COE）或?qū)ｉT工作組專注于識(shí)別真實(shí)機(jī)會(huì)時(shí)，這種區(qū)分會(huì)變得更加容易。這些團(tuán)隊(duì)幫助篩選想法，設(shè)定優(yōu)先事項(xiàng)，并確保舉措扎根于業(yè)務(wù)需求而非炒作。
該小組還應(yīng)包括那些工作將受AI影響的人員，以及企業(yè)領(lǐng)導(dǎo)者、法律與合規(guī)專家以及安全團(tuán)隊(duì)。他們可以共同定義AI舉措必須滿足的基線要求。
“當(dāng)這些要求在一開始就明確時(shí)，團(tuán)隊(duì)可以避免追求那些看起來令人興奮但缺乏真正業(yè)務(wù)錨點(diǎn)的AI項(xiàng)目，”安全與治理平臺(tái)Zenity的AI安全與政策倡導(dǎo)總監(jiān)Kayla Underkoffler表示。
她補(bǔ)充說，COE中應(yīng)有人對(duì)當(dāng)前的AI風(fēng)險(xiǎn)格局有扎實(shí)的理解。該人應(yīng)準(zhǔn)備好回答關(guān)鍵問題，清楚在每個(gè)項(xiàng)目上線前需要解決哪些關(guān)切。
“一個(gè)計(jì)劃可能存在團(tuán)隊(duì)都未察覺的巨大裂縫，”Underkoffler說?！皬囊婚_始就必須包含安全措施，以確保護(hù)欄和風(fēng)險(xiǎn)評(píng)估能從一開始就加入，而不是在舉措啟動(dòng)運(yùn)行后才‘補(bǔ)裝’（bolted on）?！?/span>
此外，還應(yīng)有明確且可衡量的業(yè)務(wù)成果，以確保努力是值得的?！懊總€(gè)提案都必須事先定義成功指標(biāo)，”云質(zhì)量工程平臺(tái)LambdaTest, Inc.的DevOps和DevSecOps副總裁Akash Agrawal說?！癆I從不是被探索（explored），而是被應(yīng)用（applied）?！?/span>
他建議公司設(shè)立定期的30天或45天檢查點(diǎn)，以確保工作持續(xù)與業(yè)務(wù)目標(biāo)保持一致。如果結(jié)果未達(dá)預(yù)期，組織不應(yīng)猶豫重新評(píng)估并做出誠實(shí)決策，他說。即使這意味著要完全放棄該舉措。
然而，即使技術(shù)前景看好，人類仍需保持在回路中（remain in the loop）。“在我們基于AI的潛在客戶資格認(rèn)證的早期試點(diǎn)中，取消人工審核導(dǎo)致了無效的潛在客戶分類，”可持續(xù)廢棄物解決方案公司Reworld的CIO Shridhar Karale表示?！拔覀冄杆僦匦抡{(diào)整模型以包含人類反饋，因此它不斷精煉，隨著時(shí)間推移變得更準(zhǔn)確?！?/span>
當(dāng)決策在沒有人工驗(yàn)證的情況下做出時(shí)，組織就有可能基于錯(cuò)誤的假設(shè)或被誤解的模式來行動(dòng)。目標(biāo)不是取代人，而是建立人機(jī)相互增強(qiáng)的伙伴關(guān)系。
二、數(shù)據(jù)，戰(zhàn)略資產(chǎn)
確保數(shù)據(jù)得到有效管理是讓AI按預(yù)期運(yùn)作的一個(gè)常被忽視的前提。創(chuàng)造合適的條件意味著將數(shù)據(jù)視為戰(zhàn)略資產(chǎn)：組織它、清理它，并制定正確的政策，以確保其隨著時(shí)間推移保持可靠。
“CIO應(yīng)關(guān)注數(shù)據(jù)質(zhì)量、完整性和相關(guān)性，”國際特赦組織（Amnesty International）CIO Paul Smith說。他的組織每天都在處理非結(jié)構(gòu)化數(shù)據(jù)，通常來自外部來源。鑒于工作性質(zhì)，數(shù)據(jù)質(zhì)量可能不一。分析師篩選文件、視頻、圖片和報(bào)告，這些文件以不同格式和條件制作。管理如此大量雜亂、不一致且常常不完整的信息，教會(huì)了他們嚴(yán)謹(jǐn)?shù)闹匾浴?/span>
“沒有所謂的非結(jié)構(gòu)化數(shù)據(jù)，只有尚未被應(yīng)用結(jié)構(gòu)的數(shù)據(jù)，”Smith說。他還敦促組織從扎實(shí)的日常數(shù)據(jù)治理習(xí)慣的基礎(chǔ)開始。這意味著要核查數(shù)據(jù)是否相關(guān)，并確保其完整、準(zhǔn)確且一致，而過時(shí)的信息可能會(huì)扭曲結(jié)果。
Smith還強(qiáng)調(diào)核實(shí)數(shù)據(jù)血統(tǒng)（data lineage）的重要性。這包括建立來源（provenance）——了解數(shù)據(jù)來自哪里以及其使用是否符合法律和倫理標(biāo)準(zhǔn)——以及審查任何詳細(xì)說明數(shù)據(jù)如何收集或轉(zhuǎn)化的現(xiàn)有文檔。
在許多組織中，混亂的數(shù)據(jù)來自遺留系統(tǒng)或手動(dòng)錄入的工作流程?！拔覀兺ㄟ^標(biāo)準(zhǔn)化模式（schemas）、執(zhí)行數(shù)據(jù)合同（data contracts）、在攝取時(shí)自動(dòng)化質(zhì)量檢查以及整合工程部門的可觀測(cè)性來增強(qiáng)可靠性，”Agrawal說。
當(dāng)團(tuán)隊(duì)信任數(shù)據(jù)時(shí)，他們的AI成果會(huì)得到提升?！?/span>如果你無法清楚回答數(shù)據(jù)從哪里來以及它有多可信，那你還沒準(zhǔn)備好，”Sharma補(bǔ)充道?！芭c其追逐方向錯(cuò)誤或操作上有害的見解，不如一開始放慢腳步，尤其是在金融行業(yè)，信任是我們的貨幣。”
Karale表示，Reworld創(chuàng)建了一個(gè)單一事實(shí)源數(shù)據(jù)架構(gòu)（single source of truth data fabric），并為每個(gè)領(lǐng)域分配了數(shù)據(jù)管理員（data stewards）。他們還維護(hù)一個(gè)“活”的數(shù)據(jù)字典，使定義和訪問策略通過簡單搜索就能輕松找到?！懊織l記錄都包含血統(tǒng)和所有權(quán)詳情，這樣每個(gè)團(tuán)隊(duì)都能知道誰負(fù)責(zé)，并且可以信任所使用的數(shù)據(jù)，”Karale補(bǔ)充道。
三、對(duì)組織偏見的嚴(yán)肅審視
AI有一種放大它在數(shù)據(jù)中發(fā)現(xiàn)的任何模式的能力——包括有益的模式，以及組織寧愿摒棄的舊偏見。避免這種陷阱首先要認(rèn)識(shí)到偏見往往是一個(gè)結(jié)構(gòu)性問題。
CIO可以采取幾種措施來防止問題生根?！霸贏I進(jìn)入工作流程之前，審查所有用于培訓(xùn)或試點(diǎn)運(yùn)行的數(shù)據(jù)，并確認(rèn)基礎(chǔ)控制措施已到位，”Underkoffler說。
此外，盡量詳細(xì)理解代理式AI（agentic AI）如何改變風(fēng)險(xiǎn)模型?！斑@些系統(tǒng)引入了新的自主性、依賴性和互動(dòng)形式，”她說。“控制必須相應(yīng)進(jìn)化?！?/span>
Underkoffler還補(bǔ)充說，強(qiáng)有力的治理框架可以指導(dǎo)組織進(jìn)行監(jiān)控、風(fēng)險(xiǎn)管理和設(shè)置防護(hù)措施。這些框架明確了誰負(fù)責(zé)監(jiān)管AI系統(tǒng)、決策如何記錄，以及何時(shí)需要人類判斷介入，為技術(shù)發(fā)展速度快于大多數(shù)政策的環(huán)境提供結(jié)構(gòu)。
Karale表示，公平性指標(biāo)，如差別影響（disparate impact），在這種監(jiān)督中起著重要作用。這些指標(biāo)幫助團(tuán)隊(duì)了解AI系統(tǒng)是否公平對(duì)待不同群體，還是無意中偏袒某一方。這些指標(biāo)可以納入模型驗(yàn)證流程。
領(lǐng)域?qū)＜?/strong>還可以在發(fā)現(xiàn)和重新訓(xùn)練產(chǎn)生偏見或偏離目標(biāo)輸出的模型中發(fā)揮關(guān)鍵作用。他們理解數(shù)據(jù)背后的背景，因此通常是第一個(gè)發(fā)現(xiàn)異常的人?！俺掷m(xù)學(xué)習(xí)對(duì)機(jī)器和對(duì)人同樣重要，”Karale說。
國際特赦組織的Smith也表示同意，他說組織需要持續(xù)培訓(xùn)員工，幫助他們識(shí)別潛在的偏見?！疤岣邔?duì)風(fēng)險(xiǎn)和危害的認(rèn)識(shí)，”他說?！暗谝坏婪谰€或風(fēng)險(xiǎn)緩解是人類。”
