在關(guān)鍵節(jié)點將生成式人工智能插入工作流程可以最大限度地發(fā)揮其有效性，同時最小化成本。一些首席信息官對此充滿熱情；而另一些則持懷疑態(tài)度。
圖源：Tirachard Kumtanom /?Shutterstock
【睿觀：生成式人工智能在工作流程中的應(yīng)用前景廣闊，但企業(yè)在實施過程中需要仔細規(guī)劃，選擇合適的應(yīng)用場景，并注意成本控制和人機協(xié)同。通過合理應(yīng)用生成式人工智能，企業(yè)可以實現(xiàn)效率提升和成本降低。
核心觀點：在關(guān)鍵節(jié)點引入生成式人工智能，可以顯著提升工作效率，同時最大程度地降低成本。
時機至關(guān)重要：?生成式人工智能應(yīng)在需要時激活，以保證信息的實時性和相關(guān)性。
成本控制：?生成式人工智能的成本較高，因此需要合理規(guī)劃，在必要時使用。
RAG技術(shù)：?檢索增強生成（RAG）技術(shù)可以降低成本，提高生成質(zhì)量。
廣泛應(yīng)用：?生成式人工智能可以應(yīng)用于多個領(lǐng)域，如IT服務(wù)、客戶服務(wù)、軟件開發(fā)等。
人機協(xié)同：?人工智能應(yīng)與人類協(xié)同工作，確保結(jié)果的準確性和可靠性。
以防萬一：?生成式人工智能應(yīng)作為一種備選方案，在需要時提供支持。
Just-in-time?AI:?通過在恰當?shù)臅r機激活A(yù)I，企業(yè)可以實現(xiàn)高效的資源利用，降低成本。
RAG技術(shù):?RAG技術(shù)通過減少對自定義模型訓(xùn)練的需求，降低了AI應(yīng)用的成本。
人才需求:?預(yù)訓(xùn)練模型的出現(xiàn)降低了對高價數(shù)據(jù)科學(xué)人才的需求，企業(yè)只需將AI組件集成到應(yīng)用程序中。
廣泛應(yīng)用場景:?從IT服務(wù)到客戶服務(wù)，生成式AI在各個領(lǐng)域都有廣泛的應(yīng)用前景。
人機協(xié)同的重要性:?人工智能需要與人類協(xié)同工作，以確保結(jié)果的準確性和可靠性，并避免偏見和幻覺。
以防萬一的策略:?生成式AI應(yīng)作為一種備選方案，在需要時提供支持，以確保業(yè)務(wù)的連續(xù)性?！?/span>
就像幾十年前日本的“看板”-Kanban techniques（?是一種起源于日本的生產(chǎn)管理技術(shù)，主要用于制造業(yè)中實現(xiàn)高效的生產(chǎn)流程管理。Kanban/看板是一個日語詞匯，字面意思是“信號卡”，在生產(chǎn)制造環(huán)境中，看板作為信號卡，通知上游工序繼續(xù)生產(chǎn)。除非從下游獲得看板信號，否則每個工序中的工人不準進行額外生產(chǎn)，這符合精益思想中的“拉動式生產(chǎn)”。）徹底改變了制造業(yè)一樣，隨著公司開始涉足生成式人工智能，類似“just-in-time（JIT，準時生產(chǎn)，?是一種生產(chǎn)管理方法，主要用于減少庫存、縮短生產(chǎn)周期、降低成本并提高生產(chǎn)效率。其核心思想是在需要的時候，按需要的量生產(chǎn)所需的產(chǎn)品，通過計劃的制定和控制以及庫存的管理，追求一種無庫存或庫存最小的生產(chǎn)系統(tǒng)。）”的方法也在帶來回報。
“時機至關(guān)重要。你不想提前太多完成工作，因為你需要實時的背景信息。我們在恰當?shù)臅r候激活人工智能。”金融服務(wù)公司TIAA（美國教師退休基金會，是一個為全美教師設(shè)立的退休養(yǎng)老基金體系，成立于1918年，總部位于紐約，主要服務(wù)于教育事業(yè)和非贏利性的組織，核心業(yè)務(wù)包括退休基金、養(yǎng)老基金和個人保險等。世界上最大的退休保險公司和重要的公共投資團體。）的首席運營、信息和數(shù)字官Sastry Durvasula（薩斯特里·杜爾瓦蘇拉）說。
TIAA推出了一個生成式人工智能應(yīng)用項目，在其內(nèi)部被稱為“Research Buddy/研究伙伴”，它根據(jù)需要從公開文件中為TIAA的資產(chǎn)管理部門Nuveen（是由美國教師退休基金TIAA全資擁有的投資管理公司，成立于1918年，擁有125年的歷史。Nuveen管理著超過1.3萬億美元的資產(chǎn)，覆蓋全球50多個國家和地區(qū)，為超過500萬在職及退休員工提供服務(wù)。）收集相關(guān)的事實和見解。
“當研究分析師需要研究時，人工智能就會被激活。它接收分析師的輸入，為分析師的問題提供答案，并生成報告?！?span style="font-size: 18px; font-family: "Times New Roman";">Durvasula（杜爾瓦蘇拉）解釋說。
然而，及時性并不是運用just-in-time approach to AI（是一種動態(tài)調(diào)整計算資源的方法，是在人工智能領(lǐng)域中，特別是在機器學(xué)習(xí)模型訓(xùn)練和部署過程中，采用即時處理和優(yōu)化的方法。這種方法的核心思想是在需要時才進行計算和處理，以減少資源浪費和提高效率。）的唯一原因。生成式人工智能處理的費用加重了砝碼?！叭斯ぶ悄艿某杀究赡芨叩皿@人，而且并不總能以商業(yè)價值來證明?！?span style="font-size: 18px; font-family: "Times New Roman";">Durvasula（杜爾瓦蘇拉）指出。
一、并非總是如此
Forrester（弗雷斯特市場咨詢，是一家獨立的技術(shù)和市場研究公司，針對技術(shù)給業(yè)務(wù)和客戶所帶來的影響提供務(wù)實和具有前瞻性的建議。公司已經(jīng)被公認為思想的領(lǐng)導(dǎo)者和可信賴的咨詢商，通過所從事的研究、咨詢、市場活動和高層對等交流計劃，幫助那些全球性的企業(yè)用戶建立起市場領(lǐng)導(dǎo)地位。）分析師Mike Gualtieri（邁克·瓜爾蒂耶里）即時方法很棒——但只是有時才有效。
“這是一個我經(jīng)常聽到的概念，但我不確定我是否同意人們的說法，”他說，并補充說大多數(shù)領(lǐng)導(dǎo)者對即時方法感興趣，因為他們認為生成人工智能成本高昂。Gualtieri 說，它可能適用于低利潤的客戶互動，但對于涉及數(shù)百萬美元的場合，調(diào)用生成人工智能的成本微不足道。
他斷言道：“如果它花費你一百萬美元，但卻為你節(jié)省了一千萬美元，那么成本就不應(yīng)該成為你的阻礙?！?/span>
Gualtieri表示，IT?領(lǐng)導(dǎo)者應(yīng)該知道成本在什么時候是影響?AI?工作負載的一個因素，何時不是。例如，由于他們通常使用預(yù)先訓(xùn)練的大型語言模型?(LLM)，因此大多數(shù)組織不會在基礎(chǔ)設(shè)施和訓(xùn)練模型的成本上花費過多。盡管AI?人才價格昂貴，但使用預(yù)先訓(xùn)練的模型也使得高價數(shù)據(jù)科學(xué)人才變得沒有必要。
這位分析師聲稱：“他們只需要他們的軟件開發(fā)團隊將（gen AI）組件整合到應(yīng)用程序中，因此人才不再是限制因素。”
他說，使用檢索增強生成(RAG)服務(wù)是降低?AI?成本的一種方法。RAG?提高了生成?AI?輸出的質(zhì)量和相關(guān)性，同時減少了對自定義模型訓(xùn)練的需求并控制了成本。（RAG即檢索增強生成，是一種自然語言處理模型，旨在改進各種NLP任務(wù)的表現(xiàn)，包括問答、摘要生成等。）服務(wù)“供應(yīng)商正在提供內(nèi)置的?RAG?解決方案，因此企業(yè)無需自行構(gòu)建。谷歌推出了一項?RAG?服務(wù)。您可以使用模型，然后在需要時在最后一刻注入內(nèi)容，”Gualtieri?解釋道。
然而，Gualtieri提出的最后一點總結(jié)了即時生成?AI?方法的價值主張：僅在必要時注入模型調(diào)用 — 并且在最后一刻。事實上，RAG?等技術(shù)已成為?AI?注入運營的最佳實踐，對于開發(fā)和使用它們的團隊來說，它們不僅可以實現(xiàn)最大的商業(yè)價值，還可以最大限度地減少目標用例和工作流程的?AI?負載。
此類技術(shù)使企業(yè)能夠利用現(xiàn)成的、預(yù)先訓(xùn)練好的LLM，而無需針對特定數(shù)據(jù)集進一步訓(xùn)練它們，并通過?RAG?設(shè)計工作流程，強調(diào)軟件開發(fā)工作，而不是更昂貴、更稀缺的數(shù)據(jù)科學(xué)人才。這是即時?AI?精神的一部分。
二、及時決策的生成式人工智能
一家公司推出了個全公司范圍的生成式人工智能平臺，旨在特定情況下加速工作流程。SAIC（Science Applications International Corporation，是一家主要從事政府和國防領(lǐng)域的技術(shù)解決方案和服務(wù)的公司。成立于1969年，總部位于美國弗吉尼亞州麥克萊恩，并在全球范圍內(nèi)設(shè)有多個辦事處和研發(fā)中心。公司的主要業(yè)務(wù)包括信息技術(shù)、工程、科學(xué)和數(shù)據(jù)分析服務(wù)，特別是在政府和國防領(lǐng)域。其在大數(shù)據(jù)分析、人工智能和零信任網(wǎng)絡(luò)方面具有豐富的專業(yè)知識和經(jīng)驗。）是一家服務(wù)于國防、太空、民用和情報市場的技術(shù)集成商，在2024年5月，它向所有24,000名員工推出了其在Microsoft Azure（是微軟基于云計算的操作系統(tǒng)，主要目標是為開發(fā)者提供一個平臺，幫助開發(fā)可運行在云服務(wù)器、數(shù)據(jù)中心、Web和PC上的應(yīng)用程序。云計算的開發(fā)者能使用微軟全球數(shù)據(jù)中心的儲存、計算能力和網(wǎng)絡(luò)基礎(chǔ)服務(wù)。）和OpenAI（在美國成立的人工智能研究公司，核心宗旨在于“實現(xiàn)安全的通用人工智能，AGI”，使其有益于人類。OpenAI于2015年由一群科技領(lǐng)袖，包括山姆·阿爾特曼、彼得·泰爾、里德·霍夫曼和埃隆·馬斯克等人創(chuàng)辦。）平臺上的Tenjin GPT。初始用例在整個組織的戰(zhàn)略點上增強了工作流程。
例如，公司構(gòu)建了一個聊天機器人，幫助員工處理IT服務(wù)事件，以及一個虛擬代理來為客戶服務(wù)請求提供信息。Tenjin也被用于人工智能輔助軟件開發(fā)、數(shù)據(jù)準備和可視化以及內(nèi)容生成。SAIC也將其提供給自己的客戶。
SAIC首席信息官Nathan Rogers（內(nèi)森·羅杰斯）表示，Tenjin GPT是長期生成式人工智能戰(zhàn)略的第一步。
“我們希望讓人工智能進入更廣泛的用戶基礎(chǔ)。我們最終將在整個公司擁有citizen developers（項目管理協(xié)會/PMI將公民開發(fā)人員定義為無需編碼知識即可構(gòu)建應(yīng)用程序的人，但通常需要IT的支持。），他們能夠在內(nèi)部用例和我們的政府客戶的決策關(guān)鍵時刻及時做出決策?！?span style="font-size: 18px; font-family: "Times New Roman";">Rogers（羅杰斯）說。
三、這意味著什么？
一位IT負責人承認人工智能可能很昂貴，必須謹慎處理，但他質(zhì)疑just-in-time這個標簽是否合適。
“Just-in-time不太能引起我的共鳴。這更像是在正確的地方使用正確的技術(shù)，以減少對不必要資源的需求并管理成本和效率。這與我們所做的一切都是一樣的，”技術(shù)分銷商和解決方案提供商Avnet（安富利集團，財富500強公司，是全球最大的電子元件、計算機產(chǎn)品和嵌入技術(shù)分銷商之一，服務(wù)于全球70多個國家的客戶。安富利連接世界領(lǐng)先的技術(shù)提供商和超過10萬的涵蓋廣泛領(lǐng)域的客戶，并通過提供高性價比的增值服務(wù)和解決方案助力其合作伙伴取得成功。）的首席信息官Max Chan（馬克斯·陳）說。
“然而，”他補充說，“[just-in-time]類比適用于生成式人工智能的高成本和高資源消耗。生成式人工智能和大型語言模型使用大量的計算周期，生成式人工智能并不是萬能的。我們不想浪費不必要的周期且得不到結(jié)果，”Chan說，“[人工智能]必須非常有針對性。我們不是為了人工智能而做人工智能，而是在考慮它如何協(xié)助增長利潤?！?/span>
關(guān)于生成式人工智能的just-in-time approach的另一個問題是，是否有可能human in the loop/HITL（人在回環(huán)/人在回圈/人機回圈等。具體來說就是設(shè)計某種機制讓機器/算法和人互動協(xié)作來更好的處理某件事情。針對智能產(chǎn)品的設(shè)計而言，這個概念被引入所要解決的問題就是在算法準確率跟用戶要求還有不小差距的情況下，將人引入到這個循環(huán)中，讓人去處理算法拿不準的問題，通過修正、提供反饋、輸入更多知識來彌補或改進算法，共同完成任務(wù)。在這個互動過程中讓人和機器發(fā)揮各自的優(yōu)勢，相互增強。）以確保生成式人工智能的響應(yīng)沒有偏見或幻覺。根據(jù)整體工作流程的結(jié)構(gòu)，HITL可能具有挑戰(zhàn)性。
“當你有just-in-time AI時，你沒有應(yīng)用HITL的奢侈了。但這是一個可以解決的問題。必須事先完成?！?span style="font-size: 18px; font-family: "Times New Roman";">TIAA的Durvasula（杜爾瓦蘇拉）說。
這意味著要確保負責任的人工智能規(guī)則被嵌入到人工智能代理中后，才能在生產(chǎn)中部署。在TIAA的情況下，這也意味著讓Nuveen分析師在Research Buddy結(jié)果被使用之前進行審查，這位首席信息官解釋說。
四、Just-in-case/以防萬一
對Durvasula（杜爾瓦蘇拉）來說，“Just-in-case/以防萬一”的概念也適用于Nuveen員工使用的由人工智能驅(qū)動的Research Buddy，它在恰當?shù)臅r候生成報告，但僅在需要時。
“投資驅(qū)動的工作流應(yīng)該是以防萬一的。如果投資的專業(yè)人士需要，你需要有自己的見解?！贝送?，這位首席信息官補充說，“當你用大量的公共數(shù)據(jù)實時為投資專業(yè)人士提供服務(wù)時，你不能有很多延遲。個性化和自定義提示需要實時完成。”
雖然具有革命性，但生成式人工智能通常是逐步實施的，一點一點地改善操作、體驗和結(jié)果。日本技術(shù)同樣通過在許多地方削減少量時間和成本來徹底改變制造業(yè)。無論是just-in- time、Just-in-case/以防萬一還是僅僅是plain smart（是指通過簡化復(fù)雜信息，使其易于理解和使用的一種人工智能技術(shù)。這種技術(shù)利用先進的人工智能技術(shù)，將深奧的知識以簡潔、易懂的方式傳達給用戶，幫助用戶更好地理解和應(yīng)用這些知識。），充分利用人工智能需要類似水平的思考和規(guī)劃。
作者：Stan Gibson（斯坦·吉布森）
Stan Gibson（斯坦·吉布森）是一位屢獲殊榮的技術(shù)編輯、作家和演說家，在信息技術(shù)領(lǐng)域擁有36年的經(jīng)驗。他曾是《eWeek/電子周刊》和《PC Week/電腦周刊》的執(zhí)行編輯，目前是StanGibsonCommunications的負責人，他繼續(xù)在IT領(lǐng)域各方面鉆研并撰寫文章。
譯者：寶藍
