軟件開發(fā)人員可以通過生成式人工智能驅(qū)動的編碼幫助下實現(xiàn)顯著的生產(chǎn)力提高，但這些可能會帶來負(fù)擔(dān)。在討論生成式人工智能（AI）在軟件開發(fā)中的應(yīng)用時，采用一些關(guān)鍵性的實踐和考慮因素，它們對于確保這些技術(shù)帶來的益處能夠被有效利用，并同時規(guī)避潛在風(fēng)險至關(guān)重要。
圖源：Yaroslav Kushta/Getty Images
【睿觀：一些實踐包括：
安全第一：雖然生成式AI能顯著提升開發(fā)人員的工作效率，但必須保證生成的代碼或配置的安全性。開發(fā)人員需要對自動生成的代碼進(jìn)行嚴(yán)格的審查和測試，確保代碼的安全無漏洞。這涉及到代碼審計、漏洞測試以及安全規(guī)范的實施。
質(zhì)量控制：自動化工具雖然可以加快開發(fā)速度，但并不意味著可以完全替代人類開發(fā)者的細(xì)致審查。高質(zhì)量的軟件產(chǎn)品需要通過綜合的測試和驗證流程，確保滿足用戶需求并且性能穩(wěn)定。這要求開發(fā)團(tuán)隊設(shè)立相應(yīng)的質(zhì)量保障措施，對AI生成的輸出進(jìn)行充分的檢驗。
知識產(chǎn)權(quán)和數(shù)據(jù)隱私：使用AI編碼工具時，開發(fā)人員需要特別警覺于知識產(chǎn)權(quán)的保護(hù)和數(shù)據(jù)隱私的維護(hù)。當(dāng)AI工具接觸和學(xué)習(xí)自有或敏感數(shù)據(jù)時，必須確保數(shù)據(jù)不會被不當(dāng)?shù)厥褂没蛐孤?。合理的?shù)據(jù)管理和合規(guī)措施是必須的。
技術(shù)和政策的更新：AI技術(shù)迅速發(fā)展，相關(guān)的法律和行業(yè)標(biāo)準(zhǔn)也在不斷更新。組織需要投入資源持續(xù)關(guān)注技術(shù)動態(tài)和法規(guī)變化，確保開發(fā)實踐符合最新的要求。這包括對AI工具的性能評估，以及對開發(fā)過程的持續(xù)優(yōu)化。
教育和培訓(xùn)：由于生成式AI技術(shù)的復(fù)雜性及其對開發(fā)流程的深刻影響，對開發(fā)人員進(jìn)行相應(yīng)的教育和培訓(xùn)是非常重要的。增強(qiáng)開發(fā)人員對AI工具的理解和正確使用的能力，可以最大化AI的利益，同時減少由于誤用或濫用技術(shù)產(chǎn)生的風(fēng)險。
通過這些舉措，組織可以更好地融入生成式AI技術(shù)，將這股技術(shù)浪潮變?yōu)橥苿觿?chuàng)新和效率提升的動力，而不是成為不穩(wěn)定和風(fēng)險的源泉。在不斷變化的技術(shù)前景中，即時的適應(yīng)和持續(xù)的學(xué)習(xí)是關(guān)鍵，而且開發(fā)人員和管理層都需要積極面對這些挑戰(zhàn)和機(jī)遇?！?/span>
如今，開發(fā)者可以轉(zhuǎn)向生成式人工智能來更快、更高效地進(jìn)行編碼。盡管如此，他們還是應(yīng)該謹(jǐn)慎行事，而且要比以前更加注意。
Forrester（弗雷斯特市場咨詢，是一家獨(dú)立的技術(shù)和市場研究公司，針對技術(shù)給業(yè)務(wù)和客戶所帶來的影響提供務(wù)實和具有前瞻性的建議。公司已經(jīng)被公認(rèn)為思想的領(lǐng)導(dǎo)者和可信賴的咨詢商，通過所從事的研究、咨詢、市場活動和高層對等交流計劃，幫助那些全球性的企業(yè)用戶建立起市場領(lǐng)導(dǎo)地位。）副總裁兼首席分析師Diego Lo Giudice（迭戈·羅·朱迪斯）告訴筆者，盡管人工智能在軟件開發(fā)中的應(yīng)用可能不是什么新鮮事——至少從2019年開始就有了——但生成式人工智能在自然語言、圖像以及最近的視頻和其他資產(chǎn)（包括代碼）的生成方面帶來了顯著的改進(jìn)。
Giudice（朱迪斯）告訴筆者，之前的人工智能迭代主要用于代碼測試，利用機(jī)器學(xué)習(xí)來優(yōu)化測試策略的模型。生成式人工智能超越了這些用例，提供了對專家對等程序員或?qū)＜遥ㄈ鐪y試人員或業(yè)務(wù)分析師）的訪問，他們可以進(jìn)行交互式查詢以快速查找信息。生成式人工智能還可以提出解決方案和測試用例。
他說：“我們第一次看到了傳統(tǒng)人工智能和其他技術(shù)沒有為我們提供的顯著的生產(chǎn)率增長。”
Giudice（朱迪斯）指出，開發(fā)者可以在整個軟件開發(fā)生命周期中利用人工智能，每個階段都有一個專門的“TuringBots/圖靈機(jī)器人”來增強(qiáng)技術(shù)堆棧和平臺。
Forrester創(chuàng)造了“TuringBots”來描述幫助開發(fā)人員構(gòu)建、測試和部署代碼的人工智能工具。該研究公司相信，TuringBots將推動新一代的軟件開發(fā)，在開發(fā)生命周期的每個階段都提供幫助，包括查找技術(shù)文檔和自動完成代碼。
例如，Giudice（朱迪斯）說，“分析/規(guī)劃TuringBots”可以促進(jìn)軟件開發(fā)的分析和規(guī)劃階段，并指出OpenAI（在美國成立的人工智能研究公司，核心宗旨在于“實現(xiàn)安全的通用人工智能，AGI”，使其有益于人類。OpenAI于2015年由一群科技領(lǐng)袖，包括山姆·阿爾特曼、彼得·泰爾、里德·霍夫曼和埃隆·馬斯克等人創(chuàng)辦。）的ChatGPT（Chat Generative Pre-trained Transformer，是人工智能技術(shù)驅(qū)動的自然語言處理工具，它能夠通過理解和學(xué)習(xí)人類的語言來進(jìn)行對話，還能根據(jù)聊天的上下文進(jìn)行互動，真正像人類一樣來聊天交流，甚至能完成撰寫郵件、視頻腳本、文案、翻譯、代碼，寫論文等任務(wù)）和Atlassian Intelligence（是Atlassian云產(chǎn)品中人工智能功能的集合，利用Atlassian的人工智能模型和OpenAI技術(shù)打造而成。通過Atlassian Intelligence，團(tuán)隊能夠借助人工智能加速工作、提高效率并更快提供價值。）就是此類人工智能產(chǎn)品的例子。他說，其他公司，如谷歌云的Gemini Advanced（Google 發(fā)布了一款新的付費(fèi)聊天機(jī)器人，由 Ultra 1.0 提供支持。借助Ultra 1.0模型，Gemini Advanced在完成復(fù)雜任務(wù)方面，性能暴漲。），可以通過代碼實現(xiàn)生成微服務(wù)和API（應(yīng)用程序編程接口，是一些預(yù)先定義的函數(shù)，目的是提供應(yīng)用程序與開發(fā)人員基于某軟件或硬件的以訪問一組例程的能力，而又無需訪問源碼，或理解內(nèi)部工作機(jī)制的細(xì)節(jié)。）的設(shè)計，而微軟Sketch2Code（是一個基于 Web 的解決方案，使用 AI 將手繪的用戶界面草圖轉(zhuǎn)換為可用的 HTML 代碼。由微軟和 Kabel、Spike Techniques 合作開發(fā)。讀者可以在 GitHub 上找到與 Sketch2Code 相關(guān)的代碼、解決方案開發(fā)過程和其他詳細(xì)信息。）可以從手寫的草圖UI（user interface，也就是界面的設(shè)計）生成工作代碼。
Giudice（朱迪斯）補(bǔ)充說，“編碼器-TuringBots”是生成式人工智能目前在軟件開發(fā)中最受歡迎的用例，通過對流行的integrated development environments（集成開發(fā)環(huán)境，可以輔助開發(fā)程序的應(yīng)用軟件。一般包括代碼編輯器、編譯器、調(diào)試器和圖形用戶界面工具。IDE為用戶使用C、Java、ASP、PHP等編程語言提供了方便。）的自動補(bǔ)全，從提示以及代碼上下文和注釋中生成代碼。這些語言包括常見的語言，如JavaScript、C++、Python和Rust。
Boomi（以智能集成和自動化為商業(yè)的未來賦能。作為所在領(lǐng)域領(lǐng)先的全球軟件即服務(wù)/SaaS公司，擁有2萬多家全球客戶和由800家合作伙伴組成的全球網(wǎng)絡(luò)。各大組織均采用Boomi屢獲殊榮的平臺來連接其應(yīng)用程序、數(shù)據(jù)和人員，以加快數(shù)字化轉(zhuǎn)型。）的架構(gòu)和人工智能戰(zhàn)略主管Michael Bachman（邁克爾·巴赫曼）表示，生成模型的一大吸引力在于，它們可以用多種語言編寫代碼，允許開發(fā)人員輸入提示來生成、重構(gòu)或調(diào)試代碼行?！皬谋举|(zhì)上講，所有與生成式人工智能交互的人類都是準(zhǔn)高級開發(fā)人員，”他說。
這家軟件供應(yīng)商將生成式人工智能集成到其一些產(chǎn)品中，包括Boomi?AI，它可以將自然語言請求轉(zhuǎn)化為行動。Boomi表示，開發(fā)者可以使用Boomi?AI來設(shè)計集成流程、應(yīng)用程序編程接口和數(shù)據(jù)模型，以連接應(yīng)用程序、數(shù)據(jù)和流程。
該公司使用生成式人工智能來支持自己的軟件開發(fā)者，他們密切關(guān)注運(yùn)行其平臺的代碼。
“這就是關(guān)鍵，”Bachman（巴赫曼）說“如果你使用生成式人工智能作為構(gòu)建整個應(yīng)用程序的主要來源，你可能會感到失望。優(yōu)秀的開發(fā)人員將生成式人工智能作為起點，或者在將代碼投入生產(chǎn)之前徹底測試失敗場景。這就是我們內(nèi)部處理的方式?！?/span>
他的團(tuán)隊還致力于構(gòu)建功能，以滿足客戶的“實用人工智能目標(biāo)”。例如，Boomi正在創(chuàng)建一個檢索系統(tǒng)，因為它的許多客戶希望用自然語言查找內(nèi)容（如網(wǎng)站上的目錄）來取代關(guān)鍵詞搜索。
Giudice（朱迪斯）說，開發(fā)者還可以使用生成式人工智能來修復(fù)安全問題，尋找人工智能生成的代碼中的漏洞，并提供建議以幫助開發(fā)者修復(fù)某些漏洞。
Forrester的首席分析師John Bratincevic（約翰·布拉廷切維奇）表示，與傳統(tǒng)編碼相比，無代碼或低代碼開發(fā)策略可以提供速度、內(nèi)置質(zhì)量和適應(yīng)性。
Bratincevic（布拉廷切維奇）說，它還提供了一個集成的軟件開發(fā)生命周期工具鏈，并提供了訪問擴(kuò)展人才庫計劃，包括IT社區(qū)之外的非編碼員和“citizen developers”（項目管理協(xié)會/PMI將公民開發(fā)人員定義為無需編碼知識即可構(gòu)建應(yīng)用程序的人，但通常需要 IT 的支持。）。
然而，他提醒說，組織可能面臨與大規(guī)模實施的治理相關(guān)的挑戰(zhàn)，尤其是在管理成千上萬的公民開發(fā)人員方面。他說，定價也可能構(gòu)成障礙，因為它通常是基于最終用戶的數(shù)量。
Giudice（朱迪斯）表示，盡管生成式人工智能或注入人工智能的軟件助理可以使初級專業(yè)人員填補(bǔ)人才缺口，包括網(wǎng)絡(luò)安全方面的人才缺口，但對所有這些任務(wù)仍有必要進(jìn)行專家評審。
Bratincevic（布拉廷切維奇）對此表示贊同，強(qiáng)調(diào)軟件開發(fā)生命周期中的開發(fā)者和其他員工需要審查平臺使用人工智能生成或自動配置的所有內(nèi)容。
他說：“我們還沒有，也可能永遠(yuǎn)不會，在軟件開發(fā)中盲目相信人工智能?！?/span>
首先，Thoughtworks（是一家全球技術(shù)咨詢公司。它集成了戰(zhàn)略、設(shè)計和軟件工程，為企業(yè)和技術(shù)顛覆者提供支持。該公司成立于1993年，總部位于伊利諾伊州芝加哥。）亞太首席技術(shù)官Scott Shaw（斯科特·肖）說，需要考慮安全要求。這家技術(shù)咨詢公司定期測試新的工具，以提高其效率，無論是在集成開發(fā)環(huán)境中，還是為了支持開發(fā)人員的工作方式。Shaw（肖）告訴筆者，公司在適合客戶的情況下，只有得到客戶的同意才會進(jìn)行測試，并指出一些企業(yè)仍對使用生成式人工智能感到緊張。
“我們的經(jīng)驗是，（生成式人工智能驅(qū)動的）軟件編碼工具沒有那么有安全意識和（適應(yīng)）安全編碼實踐，”他說。例如，在受監(jiān)管或數(shù)據(jù)敏感的環(huán)境中為組織工作的開發(fā)人員可能必須遵守額外的安全實踐和控制，作為其軟件交付過程的一部分。
他指出，使用編碼助手可以提高生產(chǎn)力，但開發(fā)人員需要詢問他們是否能夠充分測試代碼并滿足管道中的質(zhì)量要求。
這是一把雙刃劍：組織必須研究生成式人工智能如何增強(qiáng)他們的編碼實踐，使其開發(fā)的產(chǎn)品更安全，同時研究人工智能如何通過新的攻擊載體和漏洞帶來額外的安全風(fēng)險。
Shaw（肖）指出，由于生成式人工智能具有顯著的規(guī)模，它放大了組織所做的一切，包括相關(guān)的風(fēng)險。使用它可以生成更多的代碼，這也意味著潛在風(fēng)險的數(shù)量呈指數(shù)級增長。
了解您的人工智能模型
雖然低代碼平臺可能是生成式人工智能TuringBots幫助軟件開發(fā)的良好基礎(chǔ)，但Bratincevic（布拉廷切維奇）指出，組織需要知道使用了哪些大型語言模型，并確保它們符合公司政策。
他說，生成式人工智能玩家在這方面“差異很大”，并敦促企業(yè)如果使用OpenAI的ChatGPT等公共大型語言模型，就檢查版本和許可協(xié)議。
他補(bǔ)充說，用于從自然語言生成代碼或組件配置的生成式人工智能驅(qū)動的功能尚未成熟。他們可能會看到公民開發(fā)者越來越多地采用他們，但不太可能給專業(yè)開發(fā)者留下深刻印象。
Bratincevic（布拉廷切維奇）說：“目前，一個經(jīng)過驗證且集成良好的低代碼平臺加上生成式人工智能是一種比一個未經(jīng)驗證或輕量級的平臺更明智的方法，它可以在人工智能上進(jìn)行一場精彩的比賽?！?/span>
Bachman（巴赫曼）說，雖然大型語言模型承擔(dān)著代碼編寫的重任，但人類仍然需要知道需要什么，并提供相關(guān)的上下文、專業(yè)知識和調(diào)試，以確保輸出的準(zhǔn)確性。
他說，開發(fā)者還需要注意共享專有數(shù)據(jù)和intellectual property/IP/知識產(chǎn)權(quán)，特別是使用開源工具。他們應(yīng)該避免使用代碼和財務(wù)數(shù)據(jù)等私人IP，以確保他們不會使用另一個組織的IP來訓(xùn)練生成式人工智能模型，反之亦然。他補(bǔ)充說：“如果你選擇使用一個開源的大型語言模型，請確保它在投入生產(chǎn)之前是經(jīng)過充分測試的。”
“我對生成式人工智能工具訓(xùn)練的模型非常謹(jǐn)慎。如果您希望這些模型很有價值，那么您就必須設(shè)置適當(dāng)?shù)墓艿馈Ｈ绻悴贿@樣做，生成式人工智能可能會造成更多的問題?！?/span>
現(xiàn)在還處于早期階段，技術(shù)還在不斷發(fā)展；它對包括軟件開發(fā)人員在內(nèi)的角色將如何改變的影響還遠(yuǎn)未確定。
例如，人工智能驅(qū)動的編碼助理可能會改變技能的價值。Shaw（肖）打趣道：開發(fā)人員會被認(rèn)為是更好的，因為他們更有經(jīng)驗，還是因為他們能記住所有的編碼序列？
目前，他認(rèn)為最大的潛力是生成式人工智能總結(jié)信息的能力，為開發(fā)人員更好地理解業(yè)務(wù)提供了良好的知識庫。然后，他們可以將這些知識轉(zhuǎn)化為特定的指令，這樣系統(tǒng)就可以執(zhí)行任務(wù)并構(gòu)建客戶想要的產(chǎn)品和功能。
作者：Eileen Yu（艾琳·余）
譯者：寶藍(lán) ? @lex
