最近的進(jìn)展凸顯了人工智能無與倫比的潛力和尚未完全確定的風(fēng)險(xiǎn)，使首席信息官處于困境，以了解如何在業(yè)務(wù)中最好地利用這種日益有爭(zhēng)議的技術(shù)。以下是他們對(duì)此的看法。比如，一家咨詢公司的DevOps IT主管指出了首席信息官（CIO）在使用生成式人工智能時(shí)可以減輕風(fēng)險(xiǎn)的幾種方法，包括像風(fēng)險(xiǎn)資本家一樣思考；清楚地了解技術(shù)的價(jià)值；在測(cè)試之前確定道德和法律風(fēng)險(xiǎn)因素；進(jìn)行實(shí)驗(yàn)，但不要急于投資；以及從客戶的角度考慮其影響。
來源：MATEJ KASTELIC / SHUTTERSTOCK
隨著人工智能炒作周期和隨后的討論如火如荼地進(jìn)行，IT領(lǐng)導(dǎo)者發(fā)現(xiàn)自己在企業(yè)中使用人工智能時(shí)正處于一個(gè)尷尬的轉(zhuǎn)折點(diǎn)。
在Elon Musk（埃隆·馬斯克）和最近離開谷歌并正在廣播人工智能風(fēng)險(xiǎn)的受人尊敬的人工智能先驅(qū)Geoffrey Hinton發(fā)出嚴(yán)厲警告并呼吁后，IT領(lǐng)導(dǎo)人正在聯(lián)系全球各地的機(jī)構(gòu)、咨詢公司和律師，以獲得關(guān)于企業(yè)未來人工智能應(yīng)用的建議。
Hearst高級(jí)副總裁兼首席信息官Atti Riazi說：“埃隆·馬斯克等科技首席執(zhí)行官最近對(duì)人工智能的潛在危險(xiǎn)的警告言論表明，我們還沒有采取充分的準(zhǔn)備來減輕創(chuàng)新的風(fēng)險(xiǎn)?！薄白鳛閯?chuàng)新者，我們需要負(fù)責(zé)任地創(chuàng)新，并了解新興技術(shù)對(duì)人類生活、社會(huì)和文化的影響?！?/p>
許多IT領(lǐng)導(dǎo)人也贊同這種情緒，他們認(rèn)為自由市場(chǎng)社會(huì)的創(chuàng)新是不可避免的，應(yīng)該受到鼓勵(lì)，特別是在這個(gè)數(shù)字轉(zhuǎn)型的時(shí)代——但必須制定正確的規(guī)則和條例，以防止公司可能面臨的風(fēng)險(xiǎn)。
Regeneron Pharmaceuticals的首席信息官Bob McCowan說：“我支持暫停一些行業(yè)或某些高風(fēng)險(xiǎn)的用例，但在大多數(shù)情況下，我們應(yīng)該向前推進(jìn)，并快速探索這些工具提供哪些機(jī)會(huì)?！?/p>
“許多董事會(huì)成員正在質(zhì)疑這些技術(shù)是應(yīng)該被采用，還是會(huì)帶來太多的風(fēng)險(xiǎn)？”McCowan補(bǔ)充說。“我認(rèn)為兩者兼而有之。忽略或終止它，您將錯(cuò)過重要的機(jī)會(huì)，但在沒有控制的情況下給予[員工]不受限制的訪問權(quán)限也可能讓您的組織面臨風(fēng)險(xiǎn)?！?/p>
雖然人工智能工具已經(jīng)使用多年，但最近向大眾發(fā)布的ChatGPT引發(fā)了更大的爭(zhēng)議，讓許多首席信息官及其董事會(huì)暫停人工智能的嘗試。一些首席信息官非常認(rèn)真地對(duì)待行業(yè)和人類面臨的風(fēng)險(xiǎn)。
向美國(guó)證券交易委員會(huì)報(bào)告的關(guān)鍵監(jiān)管機(jī)構(gòu)金融業(yè)監(jiān)管局（FINRA）的首席信息官史蒂夫·蘭迪奇說：“我每天都更擔(dān)心這個(gè)問題?！?/p>
Randich（史蒂夫·蘭迪奇）注意到他最近看到的一張圖表，該圖表指出，人工智能程序的應(yīng)用成熟度剛剛超過了鼠標(biāo)，10年后將超過全人類的能力。他說：“考慮一下我的擔(dān)憂，特別是如果人工智能程序可能會(huì)受到不良行為者的影響，并且能夠黑客入侵，例如核心代碼?！?/p>
麻省理工學(xué)院斯隆管理學(xué)院高級(jí)講師George Westerman表示，全球企業(yè)的高管正在就使用生成人工智能的道德、風(fēng)險(xiǎn)和潛在責(zé)任向麻省理工學(xué)院斯隆和其他機(jī)構(gòu)尋求建議。盡管如此，Westerman認(rèn)為，大多數(shù)首席信息官已經(jīng)與他們的高管和董事會(huì)進(jìn)行了接觸，生成人工智能本身并沒有規(guī)定公司及其高管要遵守的新法律責(zé)任。
Westerman在談到首席信息官對(duì)人工智能產(chǎn)生的個(gè)人隱私問題時(shí)說：“我希望像公司所有其他高管一樣，自己的工作能夠合法合規(guī)，”他指出，為了個(gè)人利益不恰當(dāng)?shù)厥褂迷摷夹g(shù)是例外。
一、追趕生成人工智能
與此同時(shí)，ChatGPT的發(fā)布擾亂了監(jiān)管監(jiān)督工作。歐盟原計(jì)劃在上個(gè)月頒布其《人工智能法案》，但在ChatGPT發(fā)布后選擇停滯不前，因?yàn)樵S多人擔(dān)心這些政策在生效之前會(huì)過時(shí)。隨著歐盟委員會(huì)及其相關(guān)理事機(jī)構(gòu)努力解決生成人工智能的影響，歐洲和美國(guó)的公司高管正在認(rèn)真對(duì)待警鐘。
“隨著人工智能成為我們景觀的關(guān)鍵部分，狹隘人工智能（NAI）變成了通用人工智能（AGI）——誰會(huì)承擔(dān)責(zé)任？技術(shù)負(fù)責(zé)人，無生命的機(jī)器模型？人類干預(yù)者批準(zhǔn)/改變培訓(xùn)模式？該技術(shù)發(fā)展迅速，但圍繞它的倫理道德和風(fēng)險(xiǎn)控制卻沒有發(fā)展，”總部位于英國(guó)但在美國(guó)東北部運(yùn)營(yíng)的國(guó)家電網(wǎng)集團(tuán)首席信息和數(shù)字官Adriana Karaboutis說。
【注：01、弱人工智能(Weak AI)，也被稱為狹隘人工智能(Narrow AI)或應(yīng)用人工智能(Applied AI)，指的是只能完成某一項(xiàng)特定任務(wù)或者解決某一特定問題的人工智能。蘋果公司的 Siri就是一個(gè)典型的弱人工智能，它只能執(zhí)行有限的預(yù)設(shè)功能。同時(shí)，Siri 目前還不具備智力或自我意識(shí)，它只是一個(gè)相對(duì)復(fù)雜的弱人工智能體。02、強(qiáng)人工智能(Strong AI)，又被稱為通用人工智能(Artificial General Intelligence)或全人工智能概述，指的是可以像人一樣勝任任何智力性任務(wù)的智能機(jī)器。人工智能研究人員認(rèn)為強(qiáng)人工智能需要具備以下幾點(diǎn)：（1）思考能力，運(yùn)用策略去解決問題，并且可以在不確定的情況下做出判斷;（2）展現(xiàn)出一定的知識(shí)量;（3）計(jì)劃能力;（4）學(xué)習(xí)能力;（5）交流能力;（6）利用自身所有能力達(dá)成目的的能力。03、超人工智能。哲學(xué)家、牛津大學(xué)人類未來研究院院長(zhǎng)尼克·波斯特洛姆(Nick Bostrom)把超級(jí)智能定義為“在幾乎所有領(lǐng)域都大大超過人類認(rèn)知表現(xiàn)的任何智力”。超人工智能(Artificial Super Intelligence，ASI)正是超級(jí)智能的一種。首先，超人工智能能實(shí)現(xiàn)與人類智能等同的功能，即可以像人類智能實(shí)現(xiàn)生物上的進(jìn)化一樣，對(duì)自身進(jìn)行重編程和改進(jìn)，這也就是“遞歸自我改進(jìn)功能”?！?/p>
“這個(gè)領(lǐng)域正在進(jìn)行一場(chǎng)追逐比賽。與此同時(shí)，管理企業(yè)中的人工智能取決于監(jiān)督公司和組織風(fēng)險(xiǎn)的高管層（CxO）。CIDO（首席信息官和首席數(shù)據(jù)官）認(rèn)為，鑒于人工智能的興起，CTO/CIO/CTO/CDO/CISO不再是信息風(fēng)險(xiǎn)的所有者?！癐T依賴于首席執(zhí)行官和所有高管層（CxO），這意味著企業(yè)文化和對(duì)人工智能巨大利益以及風(fēng)險(xiǎn)的認(rèn)識(shí)必須被重塑。”
愛立信副總裁兼企業(yè)自動(dòng)化和人工智能主管Rickard Wieselfors表示，總部位于斯德哥爾摩的電信愛立信看到了生成式人工智能的巨大優(yōu)勢(shì)，并正在投資創(chuàng)建多個(gè)生成式人工智能模型，包括大型語言模型（ large language models）。
他說：“人工智能行業(yè)內(nèi)部也在自我檢討，我們非常認(rèn)真地對(duì)待負(fù)責(zé)任的人工智能。”“在培訓(xùn)中使用的文本或源代碼的知識(shí)產(chǎn)權(quán)方面，還有很多問題沒有答案。此外，查詢模型時(shí)的數(shù)據(jù)泄露、偏見、事實(shí)錯(cuò)誤、缺乏完整性、顆粒度或缺乏模型準(zhǔn)確性，這無疑限制了您可以將模型用于什么。”
Wieselfors說：“巨大的能力帶來了巨大的責(zé)任，我們支持并參與了當(dāng)前關(guān)于人工智能可以給世界帶來什么的自我檢討和道德反思?！?/p>
一些首席信息官，如Choice Hotels的Brian Kirkland，正在監(jiān)控該技術(shù)，但認(rèn)為生成式人工智能還沒有完全做好商業(yè)用途的準(zhǔn)備。
Kirkland說：“我確實(shí)認(rèn)為，對(duì)于行業(yè)來說，確保他們意識(shí)到使用ChatGPT等生成式人工智能技術(shù)的風(fēng)險(xiǎn)、回報(bào)和影響非常重要。數(shù)據(jù)所有權(quán)和生成的內(nèi)容存在風(fēng)險(xiǎn)，必須被理解和管理，以避免對(duì)公司產(chǎn)生負(fù)面影響。”“與此同時(shí)，有很多好處和機(jī)會(huì)可以考慮。當(dāng)能夠安全可靠地將私人數(shù)據(jù)集與這些系統(tǒng)中的公共數(shù)據(jù)合并時(shí)，好處將是巨大的。
Choice Hotels首席信息官表示：“從生成的人工智能內(nèi)容到復(fù)雜而有意義的業(yè)務(wù)分析和決策，人工智能和機(jī)器學(xué)習(xí)在實(shí)現(xiàn)業(yè)務(wù)價(jià)值方面將發(fā)生巨大變化。”
二、沒有人可以完全掌握如此強(qiáng)大和改變生命的技術(shù)。
在Gartner最近對(duì)2500多名高管進(jìn)行的民意調(diào)查中，45%的人表示，對(duì)ChatGPT的關(guān)注導(dǎo)致他們?cè)黾恿巳斯ぶ悄芡顿Y。超過70%的人確定他們的企業(yè)目前正在探索生成人工智能，19%的人正在進(jìn)行試點(diǎn)或生產(chǎn)使用，聯(lián)合利華和CarMax等公司的項(xiàng)目已經(jīng)顯示出希望。
在5月15日開始的麻省理工學(xué)院斯隆首席信息官會(huì)議上，Irving Wladawsky-Berger將主持一個(gè)關(guān)于進(jìn)入生成人工智能領(lǐng)域的潛在風(fēng)險(xiǎn)和回報(bào)的小組討論。最近，他主持了一場(chǎng)關(guān)于該技術(shù)的會(huì)前討論。
這位前IBM長(zhǎng)期研究員、麻省理工學(xué)院斯隆現(xiàn)任附屬研究員說：“我們今天都對(duì)生成人工智能感到興奮?！彼昧巳斯ぶ悄茴A(yù)計(jì)會(huì)給基因組學(xué)帶來的重大進(jìn)展。
但Wladawsky-Berger指出，對(duì)那些采用該技術(shù)的人進(jìn)行盡職調(diào)查不會(huì)是一項(xiàng)簡(jiǎn)單的任務(wù)。“這需要做很多工作，”他說?！拔覀儽仨毰宄裁从行?，什么是安全的，以及要做哪些試驗(yàn)。這都需要時(shí)間?！?/p>
小組的另一名首席信息官、Zoetis的首席數(shù)字和技術(shù)官Wafaa Mamilli表示，生成人工智能正在增強(qiáng)制藥公司治愈人類慢性疾病的信心。
她說：“由于生成人工智能技術(shù)和計(jì)算能力在遺傳研究的進(jìn)步，現(xiàn)在在美國(guó)、日本和歐洲都在開展治愈糖尿病的試驗(yàn)?！?/p>
三、人工智能應(yīng)用的護(hù)欄和指南：生成人工智能基礎(chǔ)知識(shí)
華爾街非常關(guān)注該行業(yè)對(duì)生成式人工智能的迅速接受。據(jù)IDC稱，2022年是生成式人工智能初創(chuàng)企業(yè)投資創(chuàng)紀(jì)錄的一年，股權(quán)資金超過26億美元。
根據(jù)最近IDC關(guān)于生成人工智能的幾份報(bào)告之一：“無論是使用Jasper.ai創(chuàng)建內(nèi)容，使用Midjourney創(chuàng)建圖像，還是使用Azure OpenAI服務(wù)進(jìn)行文本處理，都有一個(gè)生成式人工智能基礎(chǔ)模型來促進(jìn)您業(yè)務(wù)改善的各個(gè)方面。”
Regeneron的McCowan指出，首席信息官已經(jīng)擁有了安裝護(hù)欄的方法，以安全地推進(jìn)生成式人工智能應(yīng)用。
McCowan說：“至關(guān)重要的是，您有政策和指導(dǎo)方針來管理那些計(jì)劃使用這些技術(shù)的人的訪問和行為，并提醒您的員工保護(hù)知識(shí)產(chǎn)權(quán)、PII[個(gè)人識(shí)別信息(personal identifying information)]，并重申共享的內(nèi)容可能會(huì)被公開。”
他說：“讓你的創(chuàng)新者和律師一起找到一個(gè)能承擔(dān)一定風(fēng)險(xiǎn)的使用工具的模型，并明確你可能會(huì)暴露哪些數(shù)據(jù)，以及你對(duì)這些解決方案的輸出有什么權(quán)利。”“開始使用風(fēng)險(xiǎn)較小的用例的技術(shù)，并從每次迭代中學(xué)習(xí)。人工智能應(yīng)用早點(diǎn)開始吧，否則你會(huì)輸?shù)??！?/p>
Forrester Research分析師David Truog指出，在企業(yè)開始試點(diǎn)并在業(yè)務(wù)環(huán)境中使用生成人工智能之前，人工智能領(lǐng)導(dǎo)者在生成人工智能上貼上警告標(biāo)簽是正確的。但他也相信這是可以做到的。
Truog說：“我不認(rèn)為停止或暫停人工智能是正確的道路?！薄?span style="color: rgb(112, 48, 160);">更務(wù)實(shí)和建設(shè)性的道路是明智地選擇用例，在這些用例中，專門的人工智能可以提供幫助，嵌入深思熟慮的護(hù)欄，并采取有意的隔離策略。那將是一個(gè)起點(diǎn)。”
一家咨詢公司的DevOps IT主管指出了首席信息官在使用生成式人工智能時(shí)可以減輕風(fēng)險(xiǎn)的幾種方法，包括像風(fēng)險(xiǎn)資本家一樣思考；清楚地了解技術(shù)的價(jià)值；在測(cè)試之前確定道德和法律風(fēng)險(xiǎn)因素；進(jìn)行實(shí)驗(yàn)，但不要急于投資；以及從客戶的角度考慮其影響。
總部位于明尼阿波利斯的Perforce首席技術(shù)官Rod Cope說：“聰明的首席信息官將成立監(jiān)督委員會(huì)或與外部顧問合作，這些顧問可以指導(dǎo)組織實(shí)施，并幫助制定指導(dǎo)方針以促進(jìn)負(fù)責(zé)任的使用。”“雖然投資人工智能為企業(yè)提供了巨大的價(jià)值，但將其實(shí)施到您的技術(shù)堆棧中需要深思熟慮的考慮，以保護(hù)您、您的組織和您的客戶?！?/p>
雖然生成式人工智能的興起肯定會(huì)影響人類的工作，但一些IT領(lǐng)導(dǎo)者，如托管服務(wù)提供商MetTel的首席技術(shù)官Ed Fox，認(rèn)為這種影響可能會(huì)被夸大了，盡管每個(gè)人都不得不適應(yīng)或落后。
?？怂拐f：“有些人會(huì)在生成式人工智能的覺醒中失去工作，但不會(huì)達(dá)到一些人預(yù)測(cè)的程度。”“我們這些不接受實(shí)時(shí)百科全書（注：指接受互聯(lián)網(wǎng)）的人將被忽略。”
盡管如此，如果有一個(gè)確定的主題，那就是對(duì)大多數(shù)首席信息官來說，在開始前謹(jǐn)慎行事有利于行穩(wěn)致遠(yuǎn)，參與也是如此。
Wipro的谷歌業(yè)務(wù)集團(tuán)總經(jīng)理Tom Richer說，首席信息官必須在“抑制創(chuàng)新的嚴(yán)格法規(guī)和AI應(yīng)用指導(dǎo)方針之間取得平衡，以確保人工智能的負(fù)責(zé)任地開發(fā)和使用”，他指出，他正在與母?？的螤柤捌淙斯ぶ悄艹h合作，謹(jǐn)慎行事。
Richer說：“對(duì)于首席信息官和IT高管來說，至關(guān)重要的是，要意識(shí)到生成式人工智能的潛在風(fēng)險(xiǎn)和好處，并與該領(lǐng)域的專家合作，為人工智能的使用制定負(fù)責(zé)任的策略?！薄斑@種合作需要讓大學(xué)、大型科技公司、智庫和政府研究中心參與進(jìn)來，為人工智能技術(shù)的開發(fā)和部署制定最佳實(shí)踐和指導(dǎo)方針。”
