隨著人工智能的應(yīng)用、創(chuàng)新和監(jiān)管混亂的發(fā)展速度超過了已批準(zhǔn)的標(biāo)準(zhǔn)，IT領(lǐng)導(dǎo)者們只能自行開發(fā)內(nèi)部方法來降低人工智能風(fēng)險，依靠框架、工具和他們的同事來正確使用人工智能。
圖源：PeopleImages.com - Yuri A / Shutterstock
隨著更多的生成式人工智能項目從概念驗證階段進入生產(chǎn)階段，首席信息官們將承擔(dān)起制定人工智能治理政策以保護企業(yè)——以及他們的工作的額外壓力。
觀察人士表示，來自美國政府和歐盟以及頂級市場研究機構(gòu)的人工智能治理框架并不少見，但毫無疑問，由于生成式人工智能的創(chuàng)新速度超過了正式標(biāo)準(zhǔn)，首席信息官們將需要在2025年制定并完善內(nèi)部的人工智能治理政策——并讓整個高管團隊參與這一過程，以確保他們不是獨自承擔(dān)責(zé)任。
在這方面，存在管轄權(quán)的不平衡。
“在負責(zé)任的AI政策制定和行為準(zhǔn)則創(chuàng)建方面，根據(jù)2024年2月的一項調(diào)查，美國組織與歐洲組織水平相當(dāng)，但在建立多學(xué)科/跨部門治理委員會方面落后于歐洲組織，這這恰恰是EU AI Act（《人工智能法案》，于2021年被首次提出，將適用于任何使用人工智能系統(tǒng)的產(chǎn)品或服務(wù)。該法案根據(jù)4個級別的風(fēng)險對人工智能系統(tǒng)進行分類，從最小到不可接受。風(fēng)險較高的應(yīng)用程序，例如招聘和針對兒童的技術(shù)將面臨更嚴(yán)格要求，包括更加透明和使用準(zhǔn)確的數(shù)據(jù)。2023年12月8日，歐盟就《人工智能法案》達成協(xié)議，該項法案旨在通過全面監(jiān)管人工智能，為這一技術(shù)的開發(fā)和使用提供更好的條件，談判同意對生成式人工智能工具，如OpenAI的ChatGPT和谷歌的Bard，實施一系列控制措施。2024年2月2日，歐盟27國代表一致支持《人工智能法案》文本。3月13日，歐洲議會通過了《人工智能法案》。《人工智能法案》是全球首個AI監(jiān)管法案。）所建議的，”IDC（國際數(shù)據(jù)公司，是國際數(shù)據(jù)集團旗下全資子公司。是信息技術(shù)、電信行業(yè)和消費科技市場咨詢、顧問和活動服務(wù)專業(yè)提供商。經(jīng)常發(fā)布的市場資訊、預(yù)測和資深分析師關(guān)于業(yè)內(nèi)熱點話題的觀點性文章。）研究總監(jiān)Grace Trinidad（格蕾絲·特立尼達）表示，她敦促首席信息官們不要獨自承擔(dān)人工智能治理的責(zé)任。
例如，Trinidad（特立尼達）表示，IDC建議以NIST（國內(nèi)一般叫做“美國國家標(biāo)準(zhǔn)與技術(shù)研究院”。成立于1901年，原名美國國家標(biāo)準(zhǔn)局，NBS，1988年8月，經(jīng)美國總統(tǒng)批準(zhǔn)改為美國國家標(biāo)準(zhǔn)與技術(shù)研究院，直屬于美國商務(wù)部。NIST 是美國最古老的物理科學(xué)研究所之一。美國國會成立該機構(gòu)旨在提升其工業(yè)競爭力，當(dāng)時美國的測量基礎(chǔ)設(shè)施處于二流水平，遠遠落后于英國、德國和其他經(jīng)濟競爭對手。經(jīng)過一百多年的發(fā)展，NIST 早已成為頂級研究機構(gòu)，在國際上享有很高的聲譽。NIST 的測量范圍無所不包，從智能電網(wǎng)、電子健康記錄，到原子鐘、先進納米材料和計算機芯片，無數(shù)的產(chǎn)品和服務(wù)中都有NIST所提供的技術(shù)、測量和標(biāo)準(zhǔn)的身影。NIST 下設(shè) 6 大研究所，從事物理、生物和工程等方面的基礎(chǔ)和應(yīng)用研究，以及測量技術(shù)和測試方法方面的研究，對外提供標(biāo)準(zhǔn)、標(biāo)準(zhǔn)參考數(shù)據(jù)及有關(guān)服務(wù)。）的人工智能風(fēng)險管理框架作為幫助首席信息官制定內(nèi)部人工智能治理的合適標(biāo)準(zhǔn)，同時也推薦EU AI ACT的條款，并在“IDC同行視角：保障人工智能模型和應(yīng)用程序的實踐”中引用了人工智能治理某些方面的最佳實踐。
Trinidad（特立尼達）指出，首席信息官們承認(rèn)有多種方法可以實施人工智能治理，并且大多數(shù)已經(jīng)開始實施至少一些項目，盡管并非所有的部分都已到位。
為此，Ciena（是一家1992年在美國成立的全球性的電信系統(tǒng)供應(yīng)商，包括電信設(shè)備，電信軟件，服務(wù)如語音/視頻/數(shù)據(jù)。廣泛服務(wù)于通信提供商，線纜運營商，政府和企業(yè)。）的首席數(shù)字信息官Craig Williams（克雷格·威廉姆斯）說，這家網(wǎng)絡(luò)公司已經(jīng)成立了人工智能工作組來解決治理挑戰(zhàn)。
“我不認(rèn)為未來人工智能治理會由單一實體或政府本身擁有——這太具有挑戰(zhàn)性了。然而，公司需要建立自己的治理流程，以確保端到端的責(zé)任，”他說，“我們認(rèn)識到人工智能系統(tǒng)需要透明度、公平性和責(zé)任。因此，我們已經(jīng)竭盡全力確保我們讓正確的利益相關(guān)者參與治理過程本身。”
專家和IT領(lǐng)導(dǎo)者們表示，這種跨職能的努力是關(guān)鍵。
“治理實際上是關(guān)乎傾聽和相互學(xué)習(xí)，因為大家都關(guān)心結(jié)果，但同樣重要的是，我們?nèi)绾螌崿F(xiàn)結(jié)果本身，”Williams（威廉姆斯）說，“一旦你跨越了那座橋，你就可以迅速轉(zhuǎn)向人工智能工具和實際項目本身，這就容易操作多了?！?/span>
TruStone Financial Credit Union（是一家提供全方位服務(wù)的信用合作社，自1939年起致力于改善其社區(qū)成員的財務(wù)福祉。最初作為教師信用合作社成立，教育是其使命的核心。該信用合作社在明尼蘇達州和威斯康星州擁有23個分支機構(gòu)，是明尼蘇達州第二大信用合作社，它通過采用現(xiàn)代技術(shù)來提升其服務(wù)和運營效率。）也在隨著人工智能創(chuàng)新的蓬勃發(fā)展而努力建立一個全面的人工智能治理計劃。
“新的生成式人工智能平臺和功能每周都在出現(xiàn)。當(dāng)我們發(fā)現(xiàn)它們時，我們會阻止訪問，直到我們能夠徹底評估我們的控制措施的有效性，”TruStone的執(zhí)行副總裁兼首席技術(shù)官Gary Jeter（加里·杰特）表示，并舉例說他決定最初阻止訪問谷歌的NotebookLM（是由Google實驗室/Google Labs在2023年5月推出的一款原生AI筆記管理工具，旨在幫助用戶高效地組織和提取信息。其前身是Project Tailwind。其通過結(jié)合Gemini 1.5 Pro多模態(tài)模型，能夠?qū)⑽谋疚募?、視頻、PPT、錄音甚至數(shù)據(jù)集變成自然、有趣的播客形式，從而提供一種全新的信息獲取和交互方式。）以評估其安全性。
與許多企業(yè)一樣，TruStone已經(jīng)為其政策和程序部署了一個全公司范圍的生成式人工智能平臺，名為TruAssist。
“所有（大約）560名團隊成員都在使用這個人工智能工具來快速訪問超過500項政策和程序，這大大節(jié)省了時間，并增加了巨大的價值，”Jeter（杰特）說，“我們在2023年11月推出了價值驗證試點，并在2024年2月將其推廣到所有團隊成員。這非常迅速，我們也學(xué)到了很多。我們在將生成式人工智能用于面向成員的應(yīng)用方面采取了更為保守的方法，但我們正在取得進展?！?/span>
一、人工智能治理框架和平臺
Travelers公司的執(zhí)行副總裁兼首席技術(shù)與運營官Mojgan LeFebvre（莫吉安·勒費布爾）表示，Travelers是另一家已經(jīng)開發(fā)其人工智能治理策略一段時間的大型企業(yè)。
“作為 Travelers 治理框架不斷發(fā)展和成熟的一部分，我們還建立了一個負責(zé)任的人工智能框架，該框架提出了基本原則，以指導(dǎo)我們開發(fā)和使用人工智能、高級分析和建模，”LeFebvre（勒費布爾）說，“這個框架的目標(biāo)是幫助確保我們以負責(zé)任和符合道德的方式行事——與我們業(yè)務(wù)和文化核心的負責(zé)任商業(yè)價值觀一致。”
觀察員指出，人工智能治理不僅僅是保護企業(yè)免受數(shù)據(jù)泄露或知識產(chǎn)權(quán)盜竊，還包括使成本與預(yù)算保持一致。
IT領(lǐng)導(dǎo)人應(yīng)該采取一種“非常務(wù)實——深思熟慮且緩慢——的方式將生成式人工智能應(yīng)用推向生產(chǎn)，因為高管和IT仍在學(xué)習(xí)如何管理概率性企業(yè)應(yīng)用的風(fēng)險，并且隨著使用成本的上升，確實有成本上升，”GAI Insights（是一家專注于提供生成式人工智能?解決方案和戰(zhàn)略洞察的公司，?成立于2023年，?總部位于美國馬薩諸塞州的波士頓。?該公司主要服務(wù)于企業(yè)買家和AI領(lǐng)域的領(lǐng)導(dǎo)者，?旨在通過AI技術(shù)推動企業(yè)的業(yè)務(wù)轉(zhuǎn)型。）的首席執(zhí)行官和首席分析師Paul Baier（保羅·拜爾）說。
Baier（拜爾）表示，另一個增加生成式人工智能風(fēng)險和成本的因素是“大多數(shù)組織中龐大的‘shadow IT（影子IT，也稱為Stealth IT、Client IT、Fake IT，是組織中的信息技術(shù)/IT系統(tǒng)是由組織內(nèi)部建立并且使用，但沒有正式的組織核可，而系統(tǒng)是由IT部門以外的部門訂定規(guī)格并且布署。有些人認(rèn)為影子IT是重要的創(chuàng)新來源，這些系統(tǒng)可做為是未來核可IT方案的原型。）’，因為員工使用個人賬戶使用像ChatGPT（是人工智能技術(shù)驅(qū)動的自然語言處理工具，它能夠通過理解和學(xué)習(xí)人類的語言來進行對話，還能根據(jù)聊天的上下文進行互動，真正像人類一樣來聊天交流，甚至能完成撰寫郵件、視頻腳本、文案、翻譯、代碼，寫論文等任務(wù)。）這樣的工具處理公司數(shù)據(jù)”。
Gartner（高德納，Gartner Group公司成立于1979年，它是第一家信息技術(shù)研究和分析的公司。它為有需要的技術(shù)用戶來提供專門的服務(wù)。Gartner已經(jīng)成為了一家獨立的咨詢公司，Gartner公司的服務(wù)主要是迎合中型公司的需要，它希望使自己的業(yè)務(wù)覆蓋到IT行業(yè)的所有領(lǐng)域，從而讓自己成為每一位用戶的一站式信息技術(shù)服務(wù)公司。）表示，組織能夠控制人工智能使用的一種方法是實施人工智能治理平臺，該機構(gòu)將這項技術(shù)確定為2025年的第二大戰(zhàn)略趨勢，并預(yù)測到2028年，實施人工智能管理平臺的組織將比沒有此類系統(tǒng)的組織減少40%的人工智能相關(guān)道德事件。
Gartner聲稱，人工智能治理平臺的好處包括創(chuàng)建、管理和執(zhí)行“確保負責(zé)任地使用人工智能的政策，解釋人工智能系統(tǒng)的工作原理，對生命周期管理進行建模，并提供透明度以建立信任和問責(zé)制。”
那么挑戰(zhàn)是什么呢？“人工智能指南因地區(qū)和行業(yè)而異，這使得難以建立一致的實踐，”Gartner 表示。
二、未來的挑戰(zhàn)
觀察人士表示，首席信息官們還需要調(diào)整能夠適應(yīng)未來變化的人工智能治理框架，特別是如果artificial capable intelligence/ACI（人工能力智能，是一個由DeepMind聯(lián)合創(chuàng)始人穆斯塔法·蘇萊曼/Mustafa Suleyman提出的新概念。ACI強調(diào)的是人工智能在最小程度上依賴人類干預(yù)，能夠設(shè)定目標(biāo)并完成復(fù)雜任務(wù)的能力。蘇萊曼認(rèn)為，相比于傳統(tǒng)的圖靈測試，ACI更關(guān)注人工智能的實際能力，即它們能夠做什么，而不是它們能否模仿人類。他提出的測試方法是給AI十萬美元的種子投資，看它是否能將其增值為百萬美元。為了實現(xiàn)這一目標(biāo)，AI必須研究電子商務(wù)的商機，能夠生成產(chǎn)品藍圖，并在類似阿里巴巴的網(wǎng)站上找到制造商，然后在亞馬遜或沃爾瑪?shù)染W(wǎng)站上進行銷售，同時附上詳實準(zhǔn)確的商品說明。ACI體現(xiàn)了在特定領(lǐng)域內(nèi)，AI能夠執(zhí)行一系列復(fù)雜任務(wù)，但并非全領(lǐng)域通用的能力。）出現(xiàn)的話。
“我們正在評估哪種人工智能使用政策最適合我們現(xiàn)在的需求，我們使用的模型提供了靈活性，以便隨著我們前進并了解我們尚不知道的事情進行調(diào)整，”孟菲斯Baptist Memorial Health Care（是一家位于密西西比州的非營利性機構(gòu)，提供全面的醫(yī)療保健服務(wù)。成立于1987年4月20日，其總部位于田納西州孟菲斯。以其專業(yè)的醫(yī)療團隊和先進的技術(shù)，為當(dāng)?shù)鼐用裉峁└哔|(zhì)量的醫(yī)療服務(wù)，包括但不限于癌癥治療、心臟護理、神經(jīng)學(xué)服務(wù)、婦女和兒童健康等。此外，該機構(gòu)還注重持續(xù)改進和患者體驗，通過實施持續(xù)改進計劃和采用最新的醫(yī)療技術(shù)，不斷提高服務(wù)質(zhì)量和患者滿意度。其服務(wù)范圍不僅局限于醫(yī)療治療，還包括健康教育和預(yù)防保健，致力于提高社區(qū)的整體健康水平。通過其綜合性的服務(wù)，其在密西西比州及周邊地區(qū)享有盛譽，成為當(dāng)?shù)鼐用裥刨嚨尼t(yī)療保健提供者。）的首席信息與數(shù)字官Tom Barnett（湯姆·巴奈特）說。
這將帶來什么結(jié)果是一個巨大的未知數(shù)，特別是考慮到在過去兩年中人工智能的進展。使問題復(fù)雜化的不僅是正在出現(xiàn)的復(fù)雜的人工智能法規(guī)拼湊，還包括商業(yè)模式和市場本身的變化。
兩年前，當(dāng)ChatGPT首次亮相時，OpenAI（在美國成立的人工智能研究公司，核心宗旨在于“實現(xiàn)安全的通用人工智能，AGI”，使其有益于人類。OpenAI于2015年由一群科技領(lǐng)袖，包括山姆·阿爾特曼、彼得·泰爾、里德·霍夫曼和埃隆·馬斯克等人創(chuàng)辦。）的創(chuàng)始人指出，生成式人工智能的合理管理是該公司實現(xiàn)盈利的關(guān)鍵原因。此后，除兩位創(chuàng)始人外，所有創(chuàng)始人都離開了，OpenAI正在努力將其核心業(yè)務(wù)重組為一家營利性公司，不再由其非營利性董事會控制。
Gartner 的云、邊緣和人工智能基礎(chǔ)設(shè)施技術(shù)與服務(wù)副總裁Sid Nag（錫德·納格）表示，自2021年以來，NIST的人工智能安全研究所聯(lián)盟和負責(zé)任人工智能中心在人工智能治理方面取得了進展，但沒有批準(zhǔn)的監(jiān)管標(biāo)準(zhǔn)來指導(dǎo)首席信息官們，他們面臨著越來越大的壓力，要從試驗階段走出來，并從對生成式人工智能平臺和工具的大量投資中賺錢。
他強調(diào)沒有一份文件能夠涵蓋所有方面的風(fēng)險，也沒有明確的權(quán)力來強制使用生成式人工智能，而生成式人工智能每天都在進步。“人工智能就像一列失控的火車，每個人都想從中漁利，”?他說。
盡管如此，很少能找到一位首席信息官或高管團隊忽視人工智能治理。大大小小的企業(yè)都清楚地知道，生成式人工智能如果落入錯誤的人手中可能會帶來災(zāi)難。
醫(yī)療設(shè)備租賃公司US Med-Equip（是一家總部位于休斯頓的醫(yī)療設(shè)備提供商，專注于醫(yī)療設(shè)備的租賃、銷售、服務(wù)和資產(chǎn)管理。該公司提供從輸液泵、患者監(jiān)護儀到呼吸機、嬰兒培養(yǎng)箱等多種醫(yī)療設(shè)備，服務(wù)范圍遍及全國的頂級醫(yī)院和醫(yī)療設(shè)施。）的首席信息官Antonio Marin（安東尼奧·馬林）表示，人工智能使他的公司能夠快速發(fā)展，但在治理方面需要全員參與。
“我們正在將人工智能治理納入我們的數(shù)據(jù)和網(wǎng)絡(luò)安全治理的一部分，”Marin（馬林）說。他補充說，當(dāng)概念驗證從沙盒環(huán)境進入生產(chǎn)環(huán)境時，風(fēng)險會急劇上升?！霸谀承┓矫妫覀兊母吖軋F隊將人工智能視為一些流程問題的解決方案。他們將人工智能視為獲得市場份額或降低運營成本的機會，同時保持高客戶體驗質(zhì)量和卓越運營?！?/span>
TruStone的Jeter（杰特）預(yù)計監(jiān)督將在適當(dāng)?shù)臅r候成為法律和監(jiān)管要求?！?/span>我將審查人員和內(nèi)部/外部審計師視為合作伙伴，他們有著與我們的價值觀一致的共同目標(biāo)，”Jeter（杰特）說，“因此，我沒有擔(dān)憂。”
作者：Paula Rooney（寶拉·魯尼）
Paula Rooney（寶拉·魯尼）是CIO.com的資深作家。
譯者：寶藍 ?審核：@lex
【睿觀：建立一個完善的AI治理體系是企業(yè)實現(xiàn)可持續(xù)發(fā)展的關(guān)鍵。通過《AI治理成熟度評價指標(biāo)體系》，企業(yè)可以更好地評估自身AI治理水平，并采取相應(yīng)的措施，確保AI技術(shù)的安全、可靠和可控。這個指標(biāo)體系旨在幫助企業(yè)評估其當(dāng)前的AI治理水平，并為未來的改進提供方向。附《AI治理成熟度評價指標(biāo)體系》】
總分：100分
1 | 戰(zhàn)略與愿景 | 企業(yè)是否制定了明確的AI戰(zhàn)略，并將其與整體業(yè)務(wù)目標(biāo)相結(jié)合？ | 15% | 是否有明確的AI戰(zhàn)略規(guī)劃？是否將AI視為核心競爭力？ |
高管團隊對AI的重視程度如何？ | 是否有高層領(lǐng)導(dǎo)人負責(zé)AI治理？ | |||
2 | 組織架構(gòu)與治理 | 是否建立了專門的AI治理機構(gòu)或團隊？ | 15% | 是否有專門的AI治理委員會？ |
是否明確了各部門在AI治理中的職責(zé)？ | 各部門是否明確了其在AI數(shù)據(jù)管理、模型開發(fā)、風(fēng)險評估等方面的職責(zé)？ | |||
3 | 數(shù)據(jù)管理與隱私 | 是否建立了完善的數(shù)據(jù)治理體系？ | 15% | 是否有明確的數(shù)據(jù)分類和分級制度？ |
是否有嚴(yán)格的數(shù)據(jù)安全保護措施？ | 是否對數(shù)據(jù)進行脫敏和加密處理？ | |||
4 | 模型開發(fā)與管理 | 是否建立了規(guī)范的模型開發(fā)流程？ | 15% | 是否有明確的模型開發(fā)、測試和部署流程？ |
是否對模型的性能進行持續(xù)監(jiān)測和評估？ | 是否有模型版本控制和追溯機制？ | |||
5 | 風(fēng)險管理 | 是否建立了全面的風(fēng)險評估機制？ | 15% | 是否對AI應(yīng)用的潛在風(fēng)險進行評估和管理？ |
是否有應(yīng)急預(yù)案？ | 是否有針對AI失控或濫用的應(yīng)急預(yù)案？ | |||
6 | 倫理與合規(guī) | 是否建立了倫理審查機制？ | 15% | 是否有倫理委員會對AI應(yīng)用進行審查？ |
是否遵守相關(guān)法律法規(guī)？ | 是否符合GDPR、CCPA等相關(guān)法規(guī)的要求？ |
評分標(biāo)準(zhǔn)：
0分：?未建立相關(guān)制度或體系。
25分：?初步建立，但體系不完善，執(zhí)行力不足。
50分：?建立了較為完善的體系，但仍存在一些不足。
75分：?體系完善，執(zhí)行有力，效果顯著。
100分：?體系成熟，處于行業(yè)領(lǐng)先水平。
注意事項：
權(quán)重可根據(jù)企業(yè)實際情況進行調(diào)整。
評價指標(biāo)應(yīng)隨著AI技術(shù)的發(fā)展不斷更新。
評價結(jié)果應(yīng)結(jié)合定性與定量分析。
評價過程應(yīng)充分聽取各部門意見。
自評估：?企業(yè)可根據(jù)該指標(biāo)體系，對自身AI治理情況進行自評估，找出差距和不足。
外部評估：?可邀請第三方機構(gòu)進行評估，獲取更客觀的評價結(jié)果。
持續(xù)改進：?根據(jù)評估結(jié)果，制定改進計劃，不斷提升AI治理水平。
AI治理與企業(yè)文化：?AI治理不僅僅是技術(shù)問題，更是企業(yè)文化的問題。企業(yè)應(yīng)將AI治理理念融入到企業(yè)文化中。
人才培養(yǎng)：?AI治理需要具備相關(guān)知識和技能的人才，企業(yè)應(yīng)加強AI人才的培養(yǎng)。
技術(shù)創(chuàng)新：?AI技術(shù)發(fā)展迅速，企業(yè)應(yīng)不斷關(guān)注新技術(shù)的發(fā)展，及時調(diào)整治理策略。
國際合作：?AI治理是一個全球性的問題，企業(yè)應(yīng)積極參與國際合作，共同制定AI治理標(biāo)準(zhǔn)?！?/span>
