以下文章來源于CIOCDO?，作者CIO.com&睿信咨詢
【睿觀：本文討論了生成式人工智能對公司IT戰(zhàn)略的影響，以及在這個新時代領(lǐng)導層應如何適應和管理這種技術(shù)的應用。文章強調(diào)生成式AI能夠提高工程敏捷性，并可能推動IT行業(yè)進行大規(guī)模創(chuàng)新，但同時也可能帶來前所未有的技術(shù)債務(wù)。Red Monk的分析師Stephen O’Grady和其他行業(yè)專家，如Salesforce的Juan Perez和Walgreens的Neal Sample等，都對生成式AI技術(shù)的利弊進行了探討。
文章指出，生成式AI加速了代碼的生產(chǎn)，這可能增加了技術(shù)債務(wù)的積累，因此，公司領(lǐng)導層需要密切監(jiān)督AI的應用，以確保代碼質(zhì)量并減輕潛在的技術(shù)債務(wù)。這要求進行適當?shù)闹卫怼踩刂?、維護和支持，以及生命周期管理。同時也需選擇正確的模型和基礎(chǔ)數(shù)據(jù)，讓AI成為支持企業(yè)發(fā)展的有力工具。
為了保持軟件質(zhì)量并減少技術(shù)債務(wù)，文章建議采用應用程序測試和其他質(zhì)量措施，并進行深思熟慮的決策，以確保AI技術(shù)能夠被有效使用且不產(chǎn)生超出管理能力的負債。此外，政府監(jiān)管和公司治理對于負責任地應用人工智能至關(guān)重要。
最后，文章提到了對人工智能潛在風險的警惕，如數(shù)據(jù)隱私和安全、算法偏見、工作崗位流失等問題。它呼吁采取多種方法應對產(chǎn)生的各種擔憂。這包括確保使用的數(shù)據(jù)高質(zhì)量、進行代碼測試、適度地啟動新技術(shù)，以及制定有關(guān)人工智能的企業(yè)治理和監(jiān)管政策。】
生成式人工智能正在為全公司范圍內(nèi)的大規(guī)模創(chuàng)新敞開大門。但在這個新時代，領(lǐng)導層必須仔細監(jiān)督其應用，以保持代碼質(zhì)量并減輕技術(shù)債務(wù)。
圖源：GROUND PICTURE（圖片上傳者，可以譯為用戶GROUND PICTURE，或者GROUND PICTURE）?/ SHUTTERSTOCK
在其起步階段，生成式人工智能已經(jīng)在改變組織并深刻地影響其IT戰(zhàn)略。但是，盡管大型語言模型（LLM）加速了工程的敏捷性，但它們也為前所未有的技術(shù)債務(wù)積累打開了閘門。分析師公司Red Monk（開源分析公司）的首席分析師兼聯(lián)合創(chuàng)始人Stephen O'Grady（斯蒂芬·奧格雷迪）表示：“生成系統(tǒng)可能會加速生成代碼的數(shù)量，因此僅在此基礎(chǔ)上，技術(shù)債務(wù)就會增加。”
但Salesforce（創(chuàng)建于1999年3月的一家客戶關(guān)系管理/CRM 軟件服務(wù)提供商，總部設(shè)于美國舊金山，可提供隨需應用的客戶關(guān)系管理平臺）執(zhí)行副總裁兼首席信息官Juan Perez（胡安·佩雷斯）補充道，這不應阻止首席信息官探索和實施人工智能。他認為人工智能只是另一個需要適當治理、安全控制、維護和支持以及全生命周期管理的應用程序。他說，由于人工智能產(chǎn)品的數(shù)量正在增加，選擇最合適的模型和基礎(chǔ)數(shù)據(jù)對于支持人工智能之旅至關(guān)重要。
如果實施得當，生成式人工智能就可以用更低的成本生產(chǎn)更高質(zhì)量的產(chǎn)品。Walgreens Boots Alliance（沃博聯(lián)，美國保健、藥店和零售業(yè)務(wù)一體化的企業(yè)。是美國最大的零售藥店、健康和日常生活目的地之一。此外，該公司還是世界上最大的處方藥及許多其他健康和福利產(chǎn)品的采購商之一。）的首席信息官Neal Sample（尼爾·桑普）表示：“這不是人工智能是否會對整體業(yè)務(wù)產(chǎn)生積極影響的問題，而是影響程度和速度的問題?！蓖瑫r，他指出，要實現(xiàn)負責任的人工智能發(fā)展，政府監(jiān)管和公司治理都是必要的。
一、生成式人工智能：IT戰(zhàn)略的核心
機器學習模型有潛力解鎖更快速的IT迭代。代碼測試平臺Sonar（SonarQube，是一個開源平臺，用于管理源代碼的質(zhì)量。Sonar 不只是一個質(zhì)量數(shù)據(jù)報告工具，更是代碼質(zhì)量管理平臺。支持的語言包括：Java、PHP、C#、C、Cobol、PL/SQL、Flex 等。）的首席信息官Andrea Malagodi（安德烈·馬爾格拉蒂）表示，他們至少可以將日常的重復任務(wù)自動化，釋放軟件開發(fā)人員的帶寬，專注于更有創(chuàng)造性、更高級別的操作。他說：“投資于生成式人工智能工具來支持這些團隊，是對他們的成長、生產(chǎn)力和總體滿意度的投資?！?/span>
Palo Alto Networks（派拓網(wǎng)絡(luò)。網(wǎng)絡(luò)安全公司。致力于為企業(yè)、服務(wù)提供商和政府實體提供網(wǎng)絡(luò)安全解決方案。）首席信息官Meerah Rajavel（梅拉·拉賈威爾）補充道，生成式人工智能將顯著增加開發(fā)，尤其是Java、Python和C++等成熟編程語言的代碼生成。但它的力量并不止于此。她認為人工智能有助于將代碼測試向左轉(zhuǎn)移，以幫助在軟件開發(fā)周期的早期進行單元測試、調(diào)試和識別錯誤配置。她說：“作為首席信息官，為我們的開發(fā)人員提供成功的最佳工具是工作的關(guān)鍵組成部分，人工智能無疑會提高效率。”
人工智能還能顯著推進跨部門的業(yè)務(wù)。對于無代碼自動化平臺公司W(wǎng)orkato（是一家專注于云端應用集成的公司，致力于研發(fā)云端應用程序互聯(lián)的解決方案，通過連接不同的SaaS端應用程序和API，消除應用程序之間的跳轉(zhuǎn)來達到簡化工作流程的目的。）的首席信息官Carter Busse（卡特·巴斯）來說，人工智能是其公司今年IT戰(zhàn)略的中心。但它的優(yōu)點超越了IT領(lǐng)域，還有助于客戶支持、提高生產(chǎn)力和推動跨團隊創(chuàng)新等領(lǐng)域。他表示：“首席信息官們的任務(wù)是幫助業(yè)務(wù)高效發(fā)展，而人工智能是我們實現(xiàn)未來發(fā)展的方式。”
因此，代碼生成并不是唯一一個從最新的人工智能浪潮中受益的領(lǐng)域。據(jù)基于云計算的數(shù)據(jù)倉庫公司Snowflake（是一家國外的SaaS公司，主要提供數(shù)據(jù)倉庫和分析解決方案，為企業(yè)提供了一站式數(shù)據(jù)解決方案。）的首席信息官Sunny Bedi（桑尼·貝迪）表示，員工的工作效率將受到最大影響。他預見到，在未來，所有員工都將與輔助人工智能密切合作，協(xié)助采取行動，如為新員工提供個性化的入職體驗、協(xié)調(diào)內(nèi)部溝通和創(chuàng)新想法原型。他補充說，通過利用LLM的開箱即用功能，企業(yè)還可以減少對搜索、文檔提取、內(nèi)容創(chuàng)建和審查以及聊天機器人等操作的第三方依賴。
二、人工智能如何生成技術(shù)債務(wù)
IT債務(wù)生成的最大決定因素并不是生成式人工智能模型本身——而是它們在實踐中的應用方式。Sample（桑普）表示：“人工智能在組織中的實施地點和方式需要仔細考慮，以避免未來產(chǎn)生技術(shù)債務(wù)。”他補充道，將人工智能模型應用于現(xiàn)有技術(shù)生態(tài)系統(tǒng)時，積累債務(wù)的風險更高，例如在使用舊堆棧的同時修改連接和集成生成式人工智能模型。
另一方面，如果使用得當，生成式人工智能可以通過重寫遺留應用程序和自動化積壓的任務(wù)來幫助消除舊的技術(shù)債務(wù)。也就是說，如果沒有合適的云環(huán)境和戰(zhàn)略，首席信息官不應該搶先一步。企業(yè)管理軟件套件OnBase（企業(yè)內(nèi)容管理/ECM解決方案。是當今市場上最靈活和最全面的ECM產(chǎn)品之一。使用戶能夠隨著需求變化和業(yè)務(wù)發(fā)展而擴展其解決方案。不僅是為部門量身定制的，對企業(yè)來說也是全面的。）的開發(fā)商Hyland（是一家提供內(nèi)容服務(wù)平臺和解決方案的軟件公司，其數(shù)字化檔案軟件可以幫助組織將紙質(zhì)檔案轉(zhuǎn)換為電子格式，并提供高級搜索、審計和合規(guī)功能。）的首席信息官Steve Watt（史蒂夫·瓦特）表示：“如果組織過早地實施生成式人工智能，現(xiàn)有的技術(shù)債務(wù)可能會繼續(xù)增長，或者在某些情況下變得長期存在?！币虼?，他建議制定一個計劃來解決現(xiàn)有的技術(shù)債務(wù)，這樣人工智能驅(qū)動的新舉措就不會崩潰。
起初，公司可能會在試驗人工智能和LLM的同時增加IT債務(wù)。但Busse（巴斯）贊同，從長遠來看，LLM會減少這種情況，但這取決于人工智能對不斷變化的需求做出動態(tài)響應的能力。他說：“將人工智能嵌入到您的業(yè)務(wù)流程中，您將能夠更快地適應流程變化，從而減少技術(shù)債務(wù)。”
三、評估人工智能代碼的質(zhì)量
最近，人們對人工智能生成代碼的質(zhì)量提出了質(zhì)疑，其中一份報告強調(diào)了自人工智能助手出現(xiàn)以來，代碼流失率和代碼重用率的上升。根據(jù)Red Monk的O'Grady（奧格雷迪）的說法，人工智能生成的代碼的質(zhì)量將取決于許多因素，包括部署的模型、手頭的用例和開發(fā)人員的技能集等。他說：“像人類開發(fā)人員一樣，人工系統(tǒng)也會繼續(xù)輸出有缺陷的代碼。”
例如，Sonar的Malagodi（馬爾格拉蒂）引用了微軟研究院最近的一項研究，該研究評估了22個模型，發(fā)現(xiàn)它們在進行基準測試時通常會出現(xiàn)問題，這暗示了訓練設(shè)置中的盲點。該報告解釋說，雖然人工助手可以生成功能性代碼，但它們并不總是超越功能正確性來考慮其他上下文，如效率、安全性和可維護性，更不用說遵守代碼約定了。
Malagodi（馬爾格拉蒂）的結(jié)論是還有很大的改進空間。他說：“雖然生成式人工智能可以更快地生成更多的代碼行，但如果它的質(zhì)量不好，它可能會成為一個耗時的麻煩”他敦促首席信息官們采取必要的步驟，以確保人工智能生成的代碼是干凈的。“這意味著它是一致的、有意義的、可適應性強的和負責任的，從而生成安全、可維護、可靠和可訪問的軟件。”
這些模型根源上的質(zhì)量問題可能會對代碼輸出產(chǎn)生不利影響。云技術(shù)智能平臺Snow Software（技術(shù)情報領(lǐng)域的全球領(lǐng)導者。是唯一一個統(tǒng)一的云原生平臺，可為IT環(huán)境提供可操作的見解。將SaaS管理、軟件資產(chǎn)管理和云成本管理結(jié)合在一起，可以優(yōu)化IT支出，控制成本，降低風險，并推動所有技術(shù)的價值。）的首席信息官Alastair Pooley（阿拉斯泰爾·普利）表示，雖然生成式人工智能有產(chǎn)生卓越技術(shù)工件的潛力，但數(shù)據(jù)質(zhì)量、模型架構(gòu)和訓練程序都可能導致較差的結(jié)果。他說：“訓練不足的模型或不可預見的邊緣案例可能會導致輸出質(zhì)量下降，帶來運營風險并損害系統(tǒng)可靠性。”所有這些都需要對產(chǎn)出和質(zhì)量進行持續(xù)的審查和驗證。
Palo Alto Networks的Rajavel（拉賈威爾）補充說，人工智能就像任何其他工具一樣，結(jié)果取決于您使用哪個工具以及如何使用。對她來說，如果沒有適當?shù)娜斯ぶ悄苤卫?，您選擇的模型可能會產(chǎn)生不符合產(chǎn)品架構(gòu)和預期結(jié)果的低質(zhì)量工件。她補充道，另一個重要因素是您為手頭的工作選擇了哪種人工智能，因為沒有一種模式是一刀切的。
四、潛在的人工智能風險清單
除了IT債務(wù)和代碼質(zhì)量之外，在部署生成式人工智能時，還有一系列潛在的不利后果需要考慮。Pooley（普利）說：“這些可能涉及數(shù)據(jù)隱私和安全、算法偏見、工作崗位流失以及人工智能生成內(nèi)容的道德困境?！?/span>
一種可能性是黑客可能如何利用生成式人工智能來作惡。Rajavel（拉賈威爾）指出，網(wǎng)絡(luò)犯罪分子已經(jīng)在利用這項技術(shù)進行大規(guī)模的攻擊，因為它能夠發(fā)起令人信服的網(wǎng)絡(luò)釣魚活動并傳播虛假信息。攻擊者還可能針對生成式人工智能工具和模型本身，導致數(shù)據(jù)泄露或輸出有害信息。
“生成式人工智能系統(tǒng)有可能會加速并支持攻擊者，”O(jiān)'Grady（奧格雷迪）補充道，“然而，可以說，許多企業(yè)最擔心的是從封閉的供應商系統(tǒng)中泄露私人數(shù)據(jù)。”
這些技術(shù)可以產(chǎn)生非常令人信服的結(jié)果，可能充斥不準確之處。除了模型中的錯誤之外，還需要考慮成本影響，而且很容易在不知情或不必要的情況下在生成式人工智能上花費大量資金，無論是因為使用了錯誤的模型，忽視消費成本，還是沒能有效地使用它們。
“人工智能并非沒有風險，”Perez（佩雷斯）說，“它需要從頭開始，由人類控制各個領(lǐng)域，以確保任何人都能信任它的結(jié)果——從最基本的用戶到最有經(jīng)驗的工程師?！盤erez（佩雷斯）面臨的另一個懸而未決的問題是人工智能開發(fā)和維護的所有權(quán)，因為這也給IT團隊帶來了跟上創(chuàng)新需求的壓力，因為許多IT工作者缺乏時間來實施和培訓人工智能模型和算法。
五、房間里的大象（潛在問題）是：就業(yè)
還有一個結(jié)果在主流媒體上引起了轟動：人工智能取代了人類勞動力。但人工智能將如何影響IT群體的就業(yè)，還有待確定。“目前，對就業(yè)的影響很難預測，所以這是一個潛在的問題，”O(jiān)'Grady（奧格雷迪）說。
雖然在這場辯論無疑眾說紛紜，但Walgreens的Sample（桑普）并不認為人工智能對人類構(gòu)成生存威脅。相反，他對生成式人工智能能夠改善員工生活的潛力持樂觀態(tài)度。“glass-half-empty（消極思維。對半杯水看做水杯一半是空的，常用來表示看待事物或形勢時看到更多壞的一面的傾向。）的觀點是，人工智能會影響很多工作，但glass-half-full（積極思維。對半杯水看做水杯一半是半滿的，常用來表樂觀的人，對生活抱有積極態(tài)度。）的觀點是，它會讓人類做得更好。”他說，“最終，我認為人工智將使人們不必做重復的任務(wù)，這些任務(wù)可以自動化，并使他們能夠?qū)Ｗ⒂诟呒墑e的工作?！?/span>
六、如何緩解人們對人工智能的憂慮
要應對人工智能提出的大量擔憂，將采取多種方法。對Perez（佩雷斯）來說，生成式人工智能的質(zhì)量取決于這些模型攝取的數(shù)據(jù)?！?span style="font-size: 16px; font-family: 微軟雅黑, "Microsoft YaHei"; padding: 0px; outline: 0px; max-width: 100%; color: rgb(172, 57, 255);">如果您想要高質(zhì)量、可信的人工智能，您就需要高質(zhì)量、可靠的數(shù)據(jù)。”他說。然而，問題是數(shù)據(jù)經(jīng)常充斥著錯誤，需要工具來集成不同來源的不同格式的非結(jié)構(gòu)化數(shù)據(jù)。他還強調(diào)超越“human in the loop（人在回環(huán)/人在回圈/人機回圈等。具體來說就是設(shè)計某種機制讓機器/算法和人互動協(xié)作來更好的處理某件事情。針對智能產(chǎn)品的設(shè)計而言，這個概念被引入所要解決的問題就是在算法準確率跟用戶要求還有不小差距的情況下，將人引入到這個循環(huán)中，讓人去處理算法拿不準的問題，通過修正、提供反饋、輸入更多知識來彌補或改進算法，共同完成任務(wù)。在這個互動過程中讓人和機器發(fā)揮各自的優(yōu)勢，相互增強。）”的方法，讓人類更多主導。他補充道：“我認為人工智能是個值得信賴的顧問，但不應該是唯一的決策者?！?/span>
為了保證軟件質(zhì)量，還需要進行嚴格的測試，以檢查人工智能生成的代碼是否準確無錯誤。為此，Malagodi（馬爾格拉蒂）鼓勵公司采用一種“邊編碼邊清理”的方法，包括靜態(tài)分析和單元測試，以確保進行適當?shù)馁|(zhì)量檢查。他說：“當開發(fā)人員專注于干凈的代碼最佳實踐時，他們可以確信他們的代碼和軟件是安全、可維護、可靠和可訪問的?！?/span>
Bedi（貝迪）補充道，與任何新技術(shù)一樣，最初的熱情需要適度謹慎。因此，IT領(lǐng)導者應該考慮有效使用人工智能助手的步驟，如可觀察性工具，這些工具能夠檢測架構(gòu)漂移，并支持為應用程序需求做準備。
七、圍繞人工智能的采用應用治理
Pooley（普利）說：“生成式人工智能代表了一個技術(shù)進步的新時代，如果管理得當，就有可能帶來實質(zhì)性的好處。”然而，他建議首席信息官們在創(chuàng)新和風險之間取得平衡。必須特別應用控制和指導方針，通過不受控制地使用這些工具來限制數(shù)據(jù)暴露。他補充說：“就像許多技術(shù)機會一樣，如果出現(xiàn)問題，首席信息官會發(fā)現(xiàn)自己有責任。”
對于Sample（桑普）來說，監(jiān)管機構(gòu)有責任充分應對人工智能對社會構(gòu)成的風險。例如，他引用了拜登政府最近的一項行政命令，該命令旨在建立新的人工智能安全保障標準。另一個方面是率先制定企業(yè)指導方針來管理這種快節(jié)奏的技術(shù)。例如，Walgreens已經(jīng)開始了圍繞人工智能定義治理框架的旅程，其中包括公平、透明、安全和可解釋性等因素，他補充。
Workato的Busse（巴斯）同樣主張在人工智能之后制定優(yōu)先考慮安全和治理的內(nèi)部指令。他建議對員工進行培訓，制定內(nèi)部行動手冊，并實施人工智能實驗的審批流程。Pooley（普利）指出，許多公司已經(jīng)建立了人工智能工作組，以幫助應對風險和利用生成式人工智能的優(yōu)勢。一些有安全意識的組織正在采取更嚴格的措施。O'Grady（奧格雷迪）補充說，為了防止泄露，許多買家優(yōu)先考慮內(nèi)部系統(tǒng)。
Perez（佩雷斯）說：“首席信息官應該領(lǐng)導團隊，確保他們的團隊擁有正確的培訓和技能來識別、構(gòu)建、實施和使用生成式人工智能，從而使組織受益。”他描述了在Salesforce，產(chǎn)品和工程團隊如何在人工智能輸入和輸出之間實現(xiàn)信任層，以最大限度地減少使用這項強大技術(shù)帶來的風險。
也就是說，想要使用人工智能與管理它一樣重要。Hyland的Watt（瓦特）說：“組織急于實施人工智能，卻不清楚它能做什么，以及它將如何惠及他們的業(yè)務(wù)。”人工智能不會解決所有問題。因此他說，了解這項技術(shù)能夠解決和不能解決的問題，對于了解如何最大限度地利用它至關(guān)重要。
八、對業(yè)務(wù)產(chǎn)生積極影響
有了適當?shù)臋z查，生成式人工智能將在無數(shù)領(lǐng)域催生更大的敏捷性，首席信息官預計它將被用來實現(xiàn)有形的業(yè)務(wù)成果，如用戶體驗。“生成式人工智能將使公司能夠為客戶創(chuàng)造曾經(jīng)覺得不可能的體驗。”Perez（佩雷斯）說，“人工智能不再只是小眾團隊的工具。每個人都有機會使用它來提高生產(chǎn)力和效率?！?/span>
但是用戶體驗的好處并沒有僅限外部客戶。Rajavel（拉賈威爾）補充道，內(nèi)部員工體驗也將受益。她預測，經(jīng)過內(nèi)部數(shù)據(jù)培訓的人工智能輔助可以將IT入門請求減少一半，內(nèi)部員工只需立即查找公司內(nèi)部頁面找答案。
Sample（桑普）說，Walgreens還在通過使用生成式人工智能驅(qū)動的語音助手、聊天機器人和短信來改善客戶體驗。通過減少通話量和提高客戶滿意度，團隊成員可以更好地關(guān)注店內(nèi)客戶。此外，該公司還部署了生成式人工智能來優(yōu)化店內(nèi)運營，如供應鏈、占地面積和庫存管理，幫助領(lǐng)導者就業(yè)務(wù)的頂部和底部做出決策。但保持警惕是關(guān)鍵。
“與之前所有的技術(shù)浪潮一樣，人工智能也可能將伴隨著重大的負面影響和附帶損害?！監(jiān)'Grady（奧格雷迪）說，“總的來說，它將加速發(fā)展，增強人類能力，同時大幅擴大問題的范疇。”
作者：Bill Doerrfeld（比爾·多菲爾德）
Bill（比爾）是一名專門研究企業(yè)云軟件領(lǐng)域最先進技術(shù)的技術(shù)記者。他也是北歐（一個面向API從業(yè)者的知識中心）的主編，并為DevOps.com、Cloud Native Now（前身為Container Journal）和Acceleration Economy撰稿。
譯者：寶藍 ?審核：@lex
