當(dāng)被問及時，IT領(lǐng)導(dǎo)者和他們所代表的公司如何能夠立即利用生成式AI的力量，并理解和管理潛在的漏洞，偏見和其他風(fēng)險，以保護敏感數(shù)據(jù)并保持客戶信任的時候，CIO必須回答7個關(guān)鍵問題。
一些公司使用生成式人工智能來編寫代碼，有些公司使用它來創(chuàng)建營銷文本或為聊天機器人提供支持。還有一些像SmileDirectClub這樣的公司，他們利用人工智能來創(chuàng)建圖像是為了回答如何更好地為客戶服務(wù)的問題。
總部位于英國的遠程牙科公司SmileDirectClub使用生成AI來創(chuàng)建牙齒。或者，更具體地說，幫助人們了解如何矯正牙齒。
“我們有一個名為SmileMaker平臺的平臺，”首席信息官賈斯汀斯金納說?！拔覀冇檬謾C拍一張牙齒的照片，然后生成一個3D模型表示，我們可以用人工智能預(yù)測矯直計劃的樣子，需要多長時間，以及完成后會是什么樣子。
現(xiàn)有的生成AI平臺，如OpenAI的ChatGPT，Google Bard或Stable Diffusion，都沒有在牙齒的3D圖像上進行訓(xùn)練。當(dāng)SmileDirectClub開始時，這些甚至都沒有。
SmileDirectClub在自己的服務(wù)器上使用自己的數(shù)據(jù)集構(gòu)建了自己的生成AI，符合HIPAA，GDPR和其他法規(guī)。
該公司三年前與外部合作伙伴一起啟動了該項目。然后，當(dāng)合作伙伴不起作用時，公司聘請了自己的團隊來構(gòu)建所需的專有模型。
“沒有比這更好的精度水平了，”斯金納說?！把例X非常棘手。沒有太多的區(qū)別標(biāo)記，因此從手機中獲得準(zhǔn)確的3D模型是一項艱巨的任務(wù)。
第一代工具于去年11月在澳大利亞上線，今年5月在美國上線，到目前為止約有10萬人使用它。下一個版本將包括新牙齒外觀的逼真投影。
如今，該工具僅為客戶提供治療計劃草案，斯金納說。他們?nèi)匀恍枰タ囱泪t(yī)或在家中使用印模套件進行高清印模。隨著技術(shù)的進步，這種情況將來也可能發(fā)生變化。
但這并不是SmileDirectClub利用生成AI的唯一方式。
“出于降低成本和提高效率的原因，我們正在探索利用ChatGPT和Bard等工具，我們期待與Microsoft Copilot合作，”斯金納說。
他的公司并不孤單。
根據(jù)哈里斯民意調(diào)查最近代表Insight Enterprises對高級管理人員進行的一項民意調(diào)查，39%的公司已經(jīng)圍繞生成式AI制定了政策或戰(zhàn)略，42%的公司正在制定這些政策或戰(zhàn)略。另有17%的人計劃這樣做，但尚未開始。只有1%的公司沒有計劃制定生成式人工智能的計劃。
除了SmileDirectClub如何回答有關(guān)客戶服務(wù)的關(guān)鍵問題之外，首席信息官還需要回答以下七個問題，以幫助他們制定生成式AI戰(zhàn)略或政策。
一、商業(yè)價值在哪里？
根據(jù)哈里斯民意調(diào)查，72%的高管表示，他們計劃在未來三年內(nèi)采用生成式人工智能技術(shù)，以提高員工的生產(chǎn)力。66%的人表示他們計劃使用它來改善客戶服務(wù)。此外，53%的受訪者表示這將有助于他們進行研發(fā)，50%的受訪者表示將幫助他們實現(xiàn)軟件開發(fā)或測試的自動化。
就生成式AI的企業(yè)用例而言，這只是冰山一角，而且變化很快。
首席信息官必須努力工作才能掌握發(fā)展，Skinner說。更重要的是，首席信息官必須了解生成式人工智能的可能性通常如何具體應(yīng)用于他們的業(yè)務(wù)。
“這是第一個問題，”他說?！拔艺娴拿靼走@些事情嗎？我是否深刻理解如何將它應(yīng)用于我的業(yè)務(wù)以獲得價值？”
鑒于變化的快速步伐，理解生成式人工智能意味著對其進行試驗，并且要大規(guī)模地進行試驗。
這就是Insight Enterprises正在采取的方法。這家位于Tempe的解決方案集成商目前有10，000名員工使用生成式AI工具并分享他們的經(jīng)驗，以便公司能夠找出好的和壞的。
“這是我所知道的最大的生成式人工智能部署之一，”Insight的首席企業(yè)架構(gòu)師兼首席技術(shù)官David McCurdy說?！拔业娜蝿?wù)是了解模型做得好的地方，模型做得不好的地方。”
他說，生成人工智能的新穎性可能很酷，但它并不是特別有用。
“但我們坐下來給模型提供訓(xùn)練，并向模型提出細(xì)致問題：負(fù)債在哪里，風(fēng)險在哪里，”他說。這是真正的肉和骨頭在一起訓(xùn)練，它是100%有效的。這將成為全世界的第一個用例。
另一位倉庫工人員工提出了使用生成式人工智能來幫助他編寫SAP腳本的想法。
“他不必開票或問任何人怎么做，”麥柯迪說?！斑@就是我所追求的那種東西，這太不可思議了。
他說，每個首席信息官都應(yīng)該問自己的第一個問題是，他們的公司計劃在未來一兩年內(nèi)如何使用生成式人工智能?！澳切┱f它不在計劃中的人，這是一個糟糕的錯誤，”他補充道?！坝行┤擞X得他們會拭目以待，但他們會失去生產(chǎn)力。他們的董事會，他們的首席執(zhí)行官會問，'為什么其他公司喜歡這項技術(shù)？我們?yōu)槭裁床荒兀?/p>
但是，以生成式人工智能今天能夠提供的準(zhǔn)確性水平和商業(yè)價值機會來看，生成圖片只是一小部分。
二、我們的部署策略是什么？
希望進入生成式人工智能應(yīng)用的公司有多種方法可以做到這一點。
例如，他們可以微調(diào)和運行自己的模型。每周都有新的開源模型可用，每個模型都比上一個更強大。數(shù)據(jù)和人工智能供應(yīng)商正在提供可以在本地或私有云中運行的商業(yè)替代方案。
然后，傳統(tǒng)的SaaS供應(yīng)商，如Salesforce，當(dāng)然還有微軟和谷歌，正在將生成AI嵌入到他們的所有服務(wù)中。這些模型將針對特定的業(yè)務(wù)用例進行定制，并由已經(jīng)知道如何管理隱私和風(fēng)險的供應(yīng)商進行維護。
最后，還有公共模型，如ChatGPT，小公司可以通過其面向公眾的界面直接訪問，大公司可以通過安全的私有云使用。例如，Insight運行OpenAI的GPT 3.5 Turbo和GPT 4.0托管在私有云中。
對于有非常特殊要求但對訓(xùn)練自己的模型沒有興趣的公司來說，另一種選擇是使用 ChatGPT 之類的東西，然后通過矢量數(shù)據(jù)庫讓它訪問公司數(shù)據(jù)。
“價值在于使用現(xiàn)有模型并在它旁邊暫存自己的數(shù)據(jù)，”McCurdy 說?！斑@才是創(chuàng)新和生產(chǎn)力的真正所在。
通過將文檔粘貼到 ChatGPT 中以供它在提出問題之前進行分析，這在功能上是等效的，只是不必每次都粘貼文檔。例如，Insight已經(jīng)把它寫過的所有白皮書，所有的采訪記錄，加載到一個矢量數(shù)據(jù)庫中，供生成AI參考。
三、我們能否確保數(shù)據(jù)、客戶和員工的安全？
根據(jù)普華永道（PricewaterhouseCoopers）五月的一份報告，幾乎所有的商業(yè)領(lǐng)袖都表示，他們的公司將在短期內(nèi)優(yōu)先考慮至少一項與人工智能系統(tǒng)相關(guān)的舉措。
但只有35%的高管表示，他們的公司將在未來12個月內(nèi)專注于改善人工智能系統(tǒng)的治理，只有32%的風(fēng)險專業(yè)人士表示，他們現(xiàn)在正在參與生成式人工智能應(yīng)用的規(guī)劃和戰(zhàn)略階段。
畢馬威（KPMG）6月發(fā)布的一項針對高管的類似調(diào)查顯示，只有6%的組織擁有專門的團隊來評估生成式人工智能的風(fēng)險并實施風(fēng)險遷移策略。
只有5%的人制定了成熟的負(fù)責(zé)任的人工智能治理計劃，盡管19%的人正在制定一個，近一半的人表示他們計劃創(chuàng)建一個。
這對于使用外部生成AI平臺而不是從頭開始構(gòu)建自己的平臺的公司尤其重要。
例如，SmileDirectClub的斯金納（Skinner）也在關(guān)注像ChatGPT這樣的平臺，以獲得潛在的生產(chǎn)力優(yōu)勢，但擔(dān)心數(shù)據(jù)和隱私風(fēng)險。
“在首先進入之前，了解數(shù)據(jù)是如何受到保護的非常重要，”他說。
該公司即將啟動一項內(nèi)部溝通和教育活動，以幫助員工了解正在發(fā)生的事情，以及生成式人工智能的好處和局限性。
“你必須確保你在公司中設(shè)置安全策略，并且你的團隊成員知道這些策略是什么，”他說?！澳壳?，我們的政策是你不能將客戶數(shù)據(jù)上傳到這些平臺。
該公司也在等待有哪些企業(yè)級選項將上線。
“由于與Office 365的集成，Microsoft Copilot可能會首先大規(guī)模利用，”他說。
根據(jù)安永美洲新興技術(shù)負(fù)責(zé)人馬特·巴林頓（Matt Barrington）的說法，與他交談的公司中，約有一半擔(dān)心對ChatGPT和類似平臺采取一站式方法的潛在風(fēng)險。
“在我們理解它之前，我們是在阻止它，”他說。
另一半人則希望了解如何建立正確的框架來培訓(xùn)和支持人員。
“你必須謹(jǐn)慎，但你必須啟用，”他說。
此外，他補充說，即使是50%的人已經(jīng)對ChatGPT踩了剎車，他們的人仍然使用它。“火車已經(jīng)離開車站了，”他說。“這個工具的威力如此之大，以至于難以控制。這就像云計算的早期。
四、我們?nèi)绾畏婪镀姡?/strong>
對于傳統(tǒng)的機器學(xué)習(xí)系統(tǒng)來說，處理偏見已經(jīng)夠難的了，在傳統(tǒng)的機器學(xué)習(xí)系統(tǒng)中，公司正在使用明確定義的數(shù)據(jù)集。但是，對于大型基礎(chǔ)模型，例如用于代碼、文本或圖像生成的模型，此訓(xùn)練數(shù)據(jù)集可能完全未知。此外，模型的學(xué)習(xí)方式非常不透明——即使是開發(fā)它們的研究人員也不完全了解這一切是如何發(fā)生的。這是監(jiān)管機構(gòu)特別關(guān)注的問題。
“歐盟正在引領(lǐng)潮流，”安永的巴林頓說?！八麄兲岢隽艘豁椚斯ぶ悄芊ò?，OpenAI的Sam Altman正在呼吁制定核心法規(guī)，這還有很多事情要做。
奧特曼并不是唯一的企業(yè)。根據(jù)波士頓咨詢集團對 13 000名商業(yè)領(lǐng)袖、經(jīng)理和一線員工的調(diào)查，79% 的人支持人工智能監(jiān)管。
他說，公司收集的數(shù)據(jù)的敏感性越高，公司就越要謹(jǐn)慎。
“我們對人工智能在商業(yè)的影響持樂觀態(tài)度，但同樣對負(fù)責(zé)任和合乎道德的實施持謹(jǐn)慎態(tài)度，”他說?！?strong>我們將非常依賴的一件事是負(fù)責(zé)任地使用人工智能?！?/span>
他說，如果一家公司率先學(xué)習(xí)如何不僅有效地利用生成式人工智能，而且確保準(zhǔn)確性、可控制和負(fù)責(zé)任的使用，即使技術(shù)和法規(guī)不斷變化，它也會有優(yōu)勢。
這就是為什么轉(zhuǎn)錄公司 Rev 在將生成 AI 添加到其提供的工具套件之前花時間研究的原因。
該公司已經(jīng)經(jīng)營了近 12 年，最初提供人力轉(zhuǎn)錄服務(wù)，并逐漸增加了人工智能工具來增強其雇傭人工的能力。
現(xiàn)在，該公司正在探索使用生成式人工智能來自動創(chuàng)建會議摘要。
“我們正在花一點時間進行盡職調(diào)查，并確保這些事情按照我們希望的方式工作，”Rev的研發(fā)和人工智能主管Migüel Jetté說。
他補充說，摘要不像生成AI的其他應(yīng)用那樣危險?！斑@是一個定義明確的問題空間，很容易確保模型的行為。這不是一個完全開放式的事情，就像從提示生成任何類型的圖像一樣，但你仍然需要護欄。
他說，這包括確保模型是公平的、公正的、可解釋的、負(fù)責(zé)任的，并符合隱私要求。
“我們還對一些最大的用戶進行了非常嚴(yán)格的alpha測試，以確保我們的產(chǎn)品按照我們預(yù)期的方式運行，”他說?！拔覀儸F(xiàn)在的使用非常有限，以至于我不太擔(dān)心生成模型行為不端?！?/span>
五、我們可以與誰合作？
對于大多數(shù)公司來說，部署生成式人工智能的最有效方法是依靠值得信賴的合作伙伴，F(xiàn)orrester Research分析師Michele Goetz說。
“這是最簡單的方法，”她說?！皟?nèi)置的?！?/p>
她說，公司可能至少需要三年時間才能開始推出自己的生成式人工智能功能。在此之前，公司將在安全區(qū)研究這項技術(shù)，進行試驗，同時依靠現(xiàn)有的供應(yīng)商合作伙伴進行即時部署。
但她說，企業(yè)仍然需要盡職盡責(zé)。
“供應(yīng)商說他們正在將人工智能作為服務(wù)運行，但它被隔離了，”她說?！暗匀豢赡苷谟?xùn)練模型，并且可能仍然有知識和知識產(chǎn)權(quán)進入基礎(chǔ)模型。
例如，如果員工上傳敏感文檔進行校對，然后人工智能接受該交互培訓(xùn)，那么人工智能模型可能會學(xué)習(xí)該文檔的內(nèi)容，并使用該知識回答其他公司用戶的問題，從而泄露敏感信息。
她說，首席信息官可能還想問他們的供應(yīng)商，比如原始訓(xùn)練數(shù)據(jù)來自哪里，以及如何驗證和管理這些數(shù)據(jù)。此外，模型如何更新以及如何隨時間推移管理數(shù)據(jù)源。
“首席信息官必須相信供應(yīng)商在做正確的事情，”她說?！斑@就是為什么你有很多組織還沒有準(zhǔn)備好允許更新的生成人工智能進入他們的組織，在他們無法有效控制的領(lǐng)域。她說，在受到嚴(yán)格監(jiān)管的地區(qū)尤其如此。
六、要多少錢？
嵌入式AI的成本相對簡單。企業(yè)軟件公司將生成式人工智能添加到他們的工具集中——像微軟、谷歌、Adobe和Salesforce這樣的公司——使定價相對清晰。然而，當(dāng)公司開始構(gòu)建自己的生成式人工智能時，情況變得更加復(fù)雜。
在對生成式AI的所有興奮中，公司有時會忘記大型語言模型可能具有非常高的計算要求這一事實。
“人們希望開始看到結(jié)果，但沒有考慮大規(guī)模這樣做的影響，”麥肯錫公司高級合伙人Ruben Schaubroeck說。“由于隱私、安全和其他原因，他們不想使用公共 ChatGPT。他們希望使用自己的數(shù)據(jù)，并使其可以通過類似ChatGPT的接口進行查詢。我們看到組織在自己的數(shù)據(jù)上開發(fā)大型語言模型。
與此同時，較小的語言模型正在迅速出現(xiàn)和發(fā)展?！斑@里的變化速度是巨大的，”Schaubroeck說。他說，公司開始進行概念驗證，但關(guān)于總擁有成本的討論還不多。“這是一個我們聽得不多的問題，但你不應(yīng)該天真。
七、您的數(shù)據(jù)基礎(chǔ)架構(gòu)是否為生成式 AI 做好了準(zhǔn)備？
嵌入式生成式 AI 對于公司來說很容易部署，因為供應(yīng)商將 AI 添加到其運行所需的數(shù)據(jù)旁邊。
例如，Adobe正在為Photoshop添加生成AI填充，它需要處理的源圖像就在那里。當(dāng)Google將生成AI添加到Gmail或Microsoft將其添加到Office 365時，所需的所有文檔都將隨時可用。然而，更復(fù)雜的企業(yè)部署需要堅實的數(shù)據(jù)基礎(chǔ)，這是許多公司仍在努力的方向。
“很多公司還沒有準(zhǔn)備好，”數(shù)據(jù)和分析咨詢公司DAS42的首席執(zhí)行官Nick Amabile說。他說，數(shù)據(jù)必須針對人工智能應(yīng)用進行集中和優(yōu)化。例如，一家公司可能將數(shù)據(jù)分布在不同的后端系統(tǒng)之間，從人工智能中獲得最大價值將需要提取并關(guān)聯(lián)這些數(shù)據(jù)。
“人工智能的最大優(yōu)勢在于，它能夠以人類無法做到的規(guī)模分析或合成數(shù)據(jù)，”他說。
當(dāng)談到人工智能時，數(shù)據(jù)就是燃料，Genpact副總裁兼AI/ML服務(wù)全球負(fù)責(zé)人Sreekanth Menon證實。
他說，這使得為企業(yè)提供人工智能比以往任何時候都更加緊迫，使用正確的數(shù)據(jù)、清洗過的數(shù)據(jù)、高效工具、數(shù)據(jù)治理和合規(guī)護欄，并補充說“我目前的數(shù)據(jù)管道是否足以讓我的生成人工智能取得成功。
他說，這只是讓企業(yè)為生成式人工智能做好準(zhǔn)備的開始。例如，公司希望確保他們的生成式人工智能是可解釋的、透明的和合乎道德的。他說，這將需要可觀測性平臺，而這些平臺才剛剛開始出現(xiàn)在大型語言模型中。
這些平臺不僅需要能夠跟蹤結(jié)果的準(zhǔn)確性，還需要能夠跟蹤成本、延遲、透明度、偏見以及安全性和及時監(jiān)控。然后，模型通常需要一致的監(jiān)督，以確保它們不會隨著時間的推移而衰減。
“現(xiàn)在，你需要設(shè)置護欄和指導(dǎo)原則，”他說。然后，公司可以開始孵化生成式人工智能，一旦它們成熟，就將它們普及到整個企業(yè)。
