公有云以及對數(shù)據(jù)治理的重視，為這家資產(chǎn)達390億美元的金融機構(gòu)在人工智能領(lǐng)域的成功奠定了基礎(chǔ)。該公司的人工智能負(fù)責(zé)人認(rèn)為，那些用傳統(tǒng)方法計算人工智能投資回報率的CIO（首席信息官）們，很可能會錯失良機。
圖源：Prem Natarajan /?Capital One
生成式人工智能幾乎在各個方面都在重塑IT行業(yè)。然而，資產(chǎn)達390億美元的Capital One公司的人工智能戰(zhàn)略負(fù)責(zé)人發(fā)現(xiàn)，許多首席信息官在計算生成式人工智能成本時出現(xiàn)嚴(yán)重偏差，以至于在制定生成式人工智能戰(zhàn)略時做出“不可挽回的錯誤決策”。
Capital One企業(yè)人工智能執(zhí)行副總裁兼負(fù)責(zé)人Prem Natarajan（普雷姆·納塔拉詹）表示，生成式人工智能成本的經(jīng)濟模式變化極為迅速，試圖用傳統(tǒng)財務(wù)工具來計算和預(yù)測人工智能投資回報率是行不通的。
Natarajan（納塔拉詹）在接受筆者采訪時表示：“在過去22個月里，在性能相當(dāng)?shù)幕A(chǔ)上，推理成本降低了超過1000倍。（兩年前）做一次推理需要花費10美元，現(xiàn)在只需要1美分。在成本變化如此巨大的環(huán)境下，任何以近期穩(wěn)健的投資回報率預(yù)測作為投資生成式人工智能的理由都很可能失敗。”
Natarajan（納塔拉詹）將這種經(jīng)濟變化形容為“處于代際拐點的陣痛之中”。他認(rèn)為，鑒于首席信息官們“面對跨越代際的技術(shù)時執(zhí)著于計算投資回報率”，采用這種方式預(yù)測投資回報率的首席信息官們“正在做出不可挽回的錯誤決策，這將使他們落后于時代”。
Natarajan（納塔拉詹）于2023年3月從亞馬遜跳槽至Capital One公司，他在亞馬遜擔(dān)任Alexa人工智能副總裁近五年時間。他估計，在Capital One公司，他負(fù)責(zé)管理的“幾百PB（1PB=1,024TB）的數(shù)據(jù)，在‘幾年內(nèi)’將接近EB（1EB=1,024PB）規(guī)?！?。Natarajan（納塔拉詹）稱，這些海量數(shù)據(jù)是Capital One公司充分利用人工智能的關(guān)鍵資產(chǎn)，他認(rèn)為數(shù)據(jù)治理和數(shù)據(jù)可訪問性是人工智能取得成功的另外兩個關(guān)鍵因素。
Moor Insights & Strategy負(fù)責(zé)跟蹤人工智能領(lǐng)域的副總裁兼首席分析師Jason Andersen（杰森·安德森）表示，Natarajan（納塔拉詹）對首席信息官們在投資回報率問題上的看法是有道理的。Andersen（安德森）稱：“像Capital One公司這樣的企業(yè)，在如何部署人工智能以及構(gòu)建人工智能應(yīng)用方面，正變得越來越明智。現(xiàn)實情況是，我們從未見過一項技術(shù)的發(fā)展趨勢如此之快——前所未有的快?！?/span>
Andersen（安德森）補充道，這種快速變化讓許多IT高管措手不及，因為過去一直行之有效的方法如今不再適用。他說：“以這種前所未有的速度發(fā)展，過去那些試圖確定投資金額的老方法，如今已不再管用。如果你用傳統(tǒng)方法，根本無法理解其中的變化?！?/span>
雖然Andersen（安德森）認(rèn)同推理成本已大幅下降，但他表示：“現(xiàn)實情況是，與兩年前相比，如今我們要求人工智能完成的任務(wù)更加復(fù)雜，查詢的復(fù)雜程度可能提高了1000倍?！?/span>
一、借助云技術(shù)與數(shù)據(jù)實現(xiàn)發(fā)展
當(dāng)Natarajan（納塔拉詹）于2023年3月加入Capital One時，ChatGPT才剛剛誕生四個月。盡管當(dāng)時生成式人工智能已經(jīng)被使用了大約15年，但直到OpenAI推出ChatGPT，它才在企業(yè)高層和董事會的關(guān)注中嶄露頭角。
Natarajan（納塔拉詹）說：“我在Capital One的頭八到九周令人異常興奮。我們每周至少開三次會，每次會議都持續(xù)好幾個小時。到五月底，我們確定了前進的方向。到六月，我們就真正開始動手實干了?！?/span>
他說，對于幾乎任何形式的人工智能而言，“數(shù)據(jù)優(yōu)勢就是人工智能和機器學(xué)習(xí)的優(yōu)勢”。
Natarajan（納塔拉詹）強調(diào)：“我們擁有的大量專有數(shù)據(jù)是一項重要資產(chǎn)，能夠在構(gòu)建生成式人工智能應(yīng)用和能力的過程中發(fā)揮作用，使我們脫穎而出。” 他強調(diào)，他們的評估表明，“不能使用閉源模型，因為無法對這些模型進行有意義的定制?！?/span>
最終，Capital One人工智能團隊選擇使用Meta的開源Llama大語言模型，并在Natarajan（納塔拉詹）加入這家金融服務(wù)公司之前就已建立的公有云基礎(chǔ)上著手構(gòu)建人工智能解決方案。
Natarajan（納塔拉詹）解釋說：“Capital One是第一家——到目前為止也是唯一一家——全面采用公有云的銀行。他們在兩年時間里關(guān)閉了所有的數(shù)據(jù)中心，并將所有業(yè)務(wù)遷移到了AWS（亞馬遜網(wǎng)絡(luò)服務(wù)）。我們成為了云原生開發(fā)者?！?/span>
Capital One公司雇傭了大約14,000名IT專家。Natarajan（納塔拉詹）表示，在這家公司，人才固然關(guān)鍵，但數(shù)據(jù)同樣重要——或許數(shù)據(jù)更為重要。
他問道：“你可以打造一個一流的科技團隊，但你不可能在一夜之間創(chuàng)造出三十年的數(shù)據(jù)。你也買不到這些數(shù)據(jù)。誰會賣呢？我們所說的數(shù)據(jù)非常深入，不僅僅是從Visa或Mastercard（萬事達）那里能獲取的交易數(shù)據(jù)。”
根據(jù)Natarajan（納塔拉詹）的說法，數(shù)據(jù)質(zhì)量和可發(fā)現(xiàn)性也是首要關(guān)注點。企業(yè)的數(shù)據(jù)存儲中可能蘊藏著數(shù)萬億的有價值信息，但如果數(shù)據(jù)不干凈或難以發(fā)現(xiàn)，這些信息就無法被利用。
他說，非結(jié)構(gòu)化數(shù)據(jù)尤其“在很大程度上超出了傳統(tǒng)機器學(xué)習(xí)算法的處理范圍。所以，一直以來，蘊藏在非結(jié)構(gòu)化數(shù)據(jù)中的所有信息和能力都被埋沒了，直到生成式人工智能的出現(xiàn)?！?/span>
至于困擾許多生成式人工智能應(yīng)用的數(shù)據(jù)可靠性問題，包括產(chǎn)生幻覺等問題，Capital One公司通過嚴(yán)格限制查詢范圍，只允許查詢公司自有數(shù)據(jù)中的信息，從而避開了大部分此類問題。
Natarajan（納塔拉詹）說：“我們不必滿足世人對隨機信息的好奇心。我們（只）是試圖為那些對特定事物感興趣的客戶解答問題，而這些答案來自我們精心整理的知識庫和數(shù)據(jù)庫。我們只回答我們有答案的問題?！?/span>
該公司還定制了數(shù)據(jù)保護措施，通過人工參與嚴(yán)格檢查人工智能的輸出結(jié)果，并廣泛運用RAG（檢索增強生成）技術(shù) 。
Natarajan（納塔拉詹）說：“我們試圖減少人工修改答案的次數(shù)。理想情況下，我們希望將其降為零。每次人工進行修正時，你都要從中學(xué)習(xí)?！?/span>
他表示，Capital One公司的智能客服服務(wù)模式已經(jīng)取得成效，幫助客服人員更高效地解決客戶問題。
他解釋道：“例如，如果客戶打電話詢問一筆被拒絕的信用卡交易是否會計入他們的每日信用卡限額，我們的客服人員可以使用這個工具實時快速搜索相關(guān)信息，從而比以往任何時候都更快地提供可靠信息。與傳統(tǒng)的非生成式人工智能工具相比，使用這個工具后，高度相關(guān)的搜索結(jié)果從84%提升到了93%?！?/span>
該公司還部署了一款名為Chat Concierge的智能人工智能工具，以幫助那些通過Capital One公司提供汽車貸款的汽車經(jīng)銷商。
Natarajan（納塔拉詹）說：“Chat Concierge由多個邏輯智能體組成，它們協(xié)同工作，模仿人類推理方式，不僅為客戶提供信息，還能根據(jù)客戶的請求代表他們采取行動。在一次對話中，Chat Concierge可以執(zhí)行諸如比較不同車輛，幫助購車者做出最佳選擇，以及安排試駕或與銷售人員預(yù)約等任務(wù)。一些汽車經(jīng)銷商報告稱，使用該工具后客戶參與度提高了多達55%，而且自今年早些時候部署以來，我們已將其延遲降低了5倍。”
二、為成功做好數(shù)據(jù)準(zhǔn)備
對Natarajan（納塔拉詹）而言，成功的秘訣完全在于數(shù)據(jù)——數(shù)據(jù)治理、數(shù)據(jù)質(zhì)量、數(shù)據(jù)可靠性以及數(shù)據(jù)可發(fā)現(xiàn)性。
Natarajan（納塔拉詹）表示：“如今，許多試圖進行生成式人工智能轉(zhuǎn)型的公司，如果不把主要精力轉(zhuǎn)向準(zhǔn)備好數(shù)據(jù)，就不會成功。生成式人工智能技術(shù)非常擅長從大量數(shù)據(jù)集合中學(xué)習(xí)細(xì)微模式。（但）如果不給它們大量數(shù)據(jù)，其功能就會受到根本性限制。它們只能從所接觸到的事物中學(xué)習(xí)模式?！?/span>
Moor公司的Andersen（安德森）稱，做出合理的架構(gòu)決策也有助于影響生成式人工智能項目的成果。他指出，就Capital One公司而言，選擇部署開源模型是一個明智的決定。
他說：“這體現(xiàn)了一種當(dāng)今許多企業(yè)都沒有的成熟思維?！彼€補充道，在可用模型方面保持靈活性也至關(guān)重要，Capital One公司選擇AWS（亞馬遜網(wǎng)絡(luò)服務(wù)）作為其云平臺，就凸顯了這一點。
Andersen（安德森）提到：“亞馬遜表示，（他們）支持多種不同的模型。與谷歌和微軟不同，他們不會過度依賴自家內(nèi)部模型?！彼€表示，采用AWS的方式能夠帶來“最大的靈活性和適應(yīng)性”。
作者：Evan Schuman（埃文·舒曼）
Evan Schuman（埃文·舒曼）從事IT問題報道的時間比他愿意承認(rèn)的要長得多。作為零售技術(shù)網(wǎng)站StorefrontBacktalk的創(chuàng)始編輯，他曾在CBSNews.com、RetailWeek、Computerworld和eWeek擔(dān)任專欄作家，其署名文章也出現(xiàn)在《商業(yè)周刊》《風(fēng)險投資》《財富》《紐約時報》《今日美國》《路透社》《費城詢問報》《巴爾的摩太陽報》《底特律新聞》和《亞特蘭大憲法報》等刊物上。
譯者：寶藍
睿觀：Capital One人工智能負(fù)責(zé)人警告，因AI推理成本正以千倍速度急劇下降，CIO若仍用傳統(tǒng)財務(wù)方法計算其短期投資回報率（ROI），將是“不可挽回的錯誤決策”。其自身的成功正是建立在三大支柱之上：早已全面遷移至公有云的堅實技術(shù)基礎(chǔ)、三十年來積累的無法復(fù)制的海量專有數(shù)據(jù)，以及基于開源模型和嚴(yán)格數(shù)據(jù)治理的審慎實施。這證明在AI的代際變革中，擁有并善用獨特的、高質(zhì)量的數(shù)據(jù)資產(chǎn)，遠(yuǎn)比執(zhí)著于計算一個靜態(tài)且很快會過時的ROI更為重要，前者才是真正的競爭優(yōu)勢所在。
金句：在AI的指數(shù)級變革前，手持傳統(tǒng)ROI計算器的CIO，就像試圖用量尺測量光速，注定會錯失整個時代。
