你好，歡迎您來(lái)到福建信息主管(CIO)網(wǎng)! 設(shè)為首頁(yè)|加入收藏|會(huì)員中心
隨著人工智能的應(yīng)用、創(chuàng)新和監(jiān)管混亂的發(fā)展速度超過(guò)了已批準(zhǔn)的標(biāo)準(zhǔn)，IT領(lǐng)導(dǎo)者們只能自行開發(fā)內(nèi)部方法來(lái)降低人工智能風(fēng)險(xiǎn)，依靠框架、工具和他們的同事來(lái)正確使用人工智能。
圖源：PeopleImages.com - Yuri A / Shutterstock
隨著更多的生成式人工智能項(xiàng)目從概念驗(yàn)證階段進(jìn)入生產(chǎn)階段，首席信息官們將承擔(dān)起制定人工智能治理政策以保護(hù)企業(yè)——以及他們的工作的額外壓力。
觀察人士表示，來(lái)自美國(guó)政府和歐盟以及頂級(jí)市場(chǎng)研究機(jī)構(gòu)的人工智能治理框架并不少見，但毫無(wú)疑問(wèn)，由于生成式人工智能的創(chuàng)新速度超過(guò)了正式標(biāo)準(zhǔn)，首席信息官們將需要在2025年制定并完善內(nèi)部的人工智能治理政策——并讓整個(gè)高管團(tuán)隊(duì)參與這一過(guò)程，以確保他們不是獨(dú)自承擔(dān)責(zé)任。
在這方面，存在管轄權(quán)的不平衡。
“在負(fù)責(zé)任的AI政策制定和行為準(zhǔn)則創(chuàng)建方面，根據(jù)2024年2月的一項(xiàng)調(diào)查，美國(guó)組織與歐洲組織水平相當(dāng)，但在建立多學(xué)科/跨部門治理委員會(huì)方面落后于歐洲組織，這這恰恰是EU AI Act（《人工智能法案》，于2021年被首次提出，將適用于任何使用人工智能系統(tǒng)的產(chǎn)品或服務(wù)。該法案根據(jù)4個(gè)級(jí)別的風(fēng)險(xiǎn)對(duì)人工智能系統(tǒng)進(jìn)行分類，從最小到不可接受。風(fēng)險(xiǎn)較高的應(yīng)用程序，例如招聘和針對(duì)兒童的技術(shù)將面臨更嚴(yán)格要求，包括更加透明和使用準(zhǔn)確的數(shù)據(jù)。2023年12月8日，歐盟就《人工智能法案》達(dá)成協(xié)議，該項(xiàng)法案旨在通過(guò)全面監(jiān)管人工智能，為這一技術(shù)的開發(fā)和使用提供更好的條件，談判同意對(duì)生成式人工智能工具，如OpenAI的ChatGPT和谷歌的Bard，實(shí)施一系列控制措施。2024年2月2日，歐盟27國(guó)代表一致支持《人工智能法案》文本。3月13日，歐洲議會(huì)通過(guò)了《人工智能法案》。《人工智能法案》是全球首個(gè)AI監(jiān)管法案。）所建議的，”IDC（國(guó)際數(shù)據(jù)公司，是國(guó)際數(shù)據(jù)集團(tuán)旗下全資子公司。是信息技術(shù)、電信行業(yè)和消費(fèi)科技市場(chǎng)咨詢、顧問(wèn)和活動(dòng)服務(wù)專業(yè)提供商。經(jīng)常發(fā)布的市場(chǎng)資訊、預(yù)測(cè)和資深分析師關(guān)于業(yè)內(nèi)熱點(diǎn)話題的觀點(diǎn)性文章。）研究總監(jiān)Grace Trinidad（格蕾絲·特立尼達(dá)）表示，她敦促首席信息官們不要獨(dú)自承擔(dān)人工智能治理的責(zé)任。
例如，Trinidad（特立尼達(dá)）表示，IDC建議以NIST（國(guó)內(nèi)一般叫做“美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院”。成立于1901年，原名美國(guó)國(guó)家標(biāo)準(zhǔn)局，NBS，1988年8月，經(jīng)美國(guó)總統(tǒng)批準(zhǔn)改為美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院，直屬于美國(guó)商務(wù)部。NIST 是美國(guó)最古老的物理科學(xué)研究所之一。美國(guó)國(guó)會(huì)成立該機(jī)構(gòu)旨在提升其工業(yè)競(jìng)爭(zhēng)力，當(dāng)時(shí)美國(guó)的測(cè)量基礎(chǔ)設(shè)施處于二流水平，遠(yuǎn)遠(yuǎn)落后于英國(guó)、德國(guó)和其他經(jīng)濟(jì)競(jìng)爭(zhēng)對(duì)手。經(jīng)過(guò)一百多年的發(fā)展，NIST 早已成為頂級(jí)研究機(jī)構(gòu)，在國(guó)際上享有很高的聲譽(yù)。NIST 的測(cè)量范圍無(wú)所不包，從智能電網(wǎng)、電子健康記錄，到原子鐘、先進(jìn)納米材料和計(jì)算機(jī)芯片，無(wú)數(shù)的產(chǎn)品和服務(wù)中都有NIST所提供的技術(shù)、測(cè)量和標(biāo)準(zhǔn)的身影。NIST 下設(shè) 6 大研究所，從事物理、生物和工程等方面的基礎(chǔ)和應(yīng)用研究，以及測(cè)量技術(shù)和測(cè)試方法方面的研究，對(duì)外提供標(biāo)準(zhǔn)、標(biāo)準(zhǔn)參考數(shù)據(jù)及有關(guān)服務(wù)。）的人工智能風(fēng)險(xiǎn)管理框架作為幫助首席信息官制定內(nèi)部人工智能治理的合適標(biāo)準(zhǔn)，同時(shí)也推薦EU AI ACT的條款，并在“IDC同行視角：保障人工智能模型和應(yīng)用程序的實(shí)踐”中引用了人工智能治理某些方面的最佳實(shí)踐。
Trinidad（特立尼達(dá)）指出，首席信息官們承認(rèn)有多種方法可以實(shí)施人工智能治理，并且大多數(shù)已經(jīng)開始實(shí)施至少一些項(xiàng)目，盡管并非所有的部分都已到位。
為此，Ciena（是一家1992年在美國(guó)成立的全球性的電信系統(tǒng)供應(yīng)商，包括電信設(shè)備，電信軟件，服務(wù)如語(yǔ)音/視頻/數(shù)據(jù)。廣泛服務(wù)于通信提供商，線纜運(yùn)營(yíng)商，政府和企業(yè)。）的首席數(shù)字信息官Craig Williams（克雷格·威廉姆斯）說(shuō)，這家網(wǎng)絡(luò)公司已經(jīng)成立了人工智能工作組來(lái)解決治理挑戰(zhàn)。
“我不認(rèn)為未來(lái)人工智能治理會(huì)由單一實(shí)體或政府本身?yè)碛小@太具有挑戰(zhàn)性了。然而，公司需要建立自己的治理流程，以確保端到端的責(zé)任，”他說(shuō)，“我們認(rèn)識(shí)到人工智能系統(tǒng)需要透明度、公平性和責(zé)任。因此，我們已經(jīng)竭盡全力確保我們讓正確的利益相關(guān)者參與治理過(guò)程本身。”
專家和IT領(lǐng)導(dǎo)者們表示，這種跨職能的努力是關(guān)鍵。
“治理實(shí)際上是關(guān)乎傾聽和相互學(xué)習(xí)，因?yàn)榇蠹叶缄P(guān)心結(jié)果，但同樣重要的是，我們?nèi)绾螌?shí)現(xiàn)結(jié)果本身，”Williams（威廉姆斯）說(shuō)，“一旦你跨越了那座橋，你就可以迅速轉(zhuǎn)向人工智能工具和實(shí)際項(xiàng)目本身，這就容易操作多了。”
TruStone Financial Credit Union（是一家提供全方位服務(wù)的信用合作社，自1939年起致力于改善其社區(qū)成員的財(cái)務(wù)福祉。最初作為教師信用合作社成立，教育是其使命的核心。該信用合作社在明尼蘇達(dá)州和威斯康星州擁有23個(gè)分支機(jī)構(gòu)，是明尼蘇達(dá)州第二大信用合作社，它通過(guò)采用現(xiàn)代技術(shù)來(lái)提升其服務(wù)和運(yùn)營(yíng)效率。）也在隨著人工智能創(chuàng)新的蓬勃發(fā)展而努力建立一個(gè)全面的人工智能治理計(jì)劃。
“新的生成式人工智能平臺(tái)和功能每周都在出現(xiàn)。當(dāng)我們發(fā)現(xiàn)它們時(shí)，我們會(huì)阻止訪問(wèn)，直到我們能夠徹底評(píng)估我們的控制措施的有效性，”TruStone的執(zhí)行副總裁兼首席技術(shù)官Gary Jeter（加里·杰特）表示，并舉例說(shuō)他決定最初阻止訪問(wèn)谷歌的NotebookLM（是由Google實(shí)驗(yàn)室/Google Labs在2023年5月推出的一款原生AI筆記管理工具，旨在幫助用戶高效地組織和提取信息。其前身是Project Tailwind。其通過(guò)結(jié)合Gemini 1.5 Pro多模態(tài)模型，能夠?qū)⑽谋疚募?、視頻、PPT、錄音甚至數(shù)據(jù)集變成自然、有趣的播客形式，從而提供一種全新的信息獲取和交互方式。）以評(píng)估其安全性。
與許多企業(yè)一樣，TruStone已經(jīng)為其政策和程序部署了一個(gè)全公司范圍的生成式人工智能平臺(tái)，名為TruAssist。
“所有（大約）560名團(tuán)隊(duì)成員都在使用這個(gè)人工智能工具來(lái)快速訪問(wèn)超過(guò)500項(xiàng)政策和程序，這大大節(jié)省了時(shí)間，并增加了巨大的價(jià)值，”Jeter（杰特）說(shuō)，“我們?cè)?023年11月推出了價(jià)值驗(yàn)證試點(diǎn)，并在2024年2月將其推廣到所有團(tuán)隊(duì)成員。這非常迅速，我們也學(xué)到了很多。我們?cè)趯⑸墒饺斯ぶ悄苡糜诿嫦虺蓡T的應(yīng)用方面采取了更為保守的方法，但我們正在取得進(jìn)展。”
一、人工智能治理框架和平臺(tái)
Travelers公司的執(zhí)行副總裁兼首席技術(shù)與運(yùn)營(yíng)官M(fèi)ojgan LeFebvre（莫吉安·勒費(fèi)布爾）表示，Travelers是另一家已經(jīng)開發(fā)其人工智能治理策略一段時(shí)間的大型企業(yè)。
“作為 Travelers 治理框架不斷發(fā)展和成熟的一部分，我們還建立了一個(gè)負(fù)責(zé)任的人工智能框架，該框架提出了基本原則，以指導(dǎo)我們開發(fā)和使用人工智能、高級(jí)分析和建模，”LeFebvre（勒費(fèi)布爾）說(shuō)，“這個(gè)框架的目標(biāo)是幫助確保我們以負(fù)責(zé)任和符合道德的方式行事——與我們業(yè)務(wù)和文化核心的負(fù)責(zé)任商業(yè)價(jià)值觀一致?！?/span>
觀察員指出，人工智能治理不僅僅是保護(hù)企業(yè)免受數(shù)據(jù)泄露或知識(shí)產(chǎn)權(quán)盜竊，還包括使成本與預(yù)算保持一致。
IT領(lǐng)導(dǎo)人應(yīng)該采取一種“非常務(wù)實(shí)——深思熟慮且緩慢——的方式將生成式人工智能應(yīng)用推向生產(chǎn)，因?yàn)楦吖芎虸T仍在學(xué)習(xí)如何管理概率性企業(yè)應(yīng)用的風(fēng)險(xiǎn)，并且隨著使用成本的上升，確實(shí)有成本上升，”GAI Insights（是一家專注于提供生成式人工智能?解決方案和戰(zhàn)略洞察的公司，?成立于2023年，?總部位于美國(guó)馬薩諸塞州的波士頓。?該公司主要服務(wù)于企業(yè)買家和AI領(lǐng)域的領(lǐng)導(dǎo)者，?旨在通過(guò)AI技術(shù)推動(dòng)企業(yè)的業(yè)務(wù)轉(zhuǎn)型。）的首席執(zhí)行官和首席分析師Paul Baier（保羅·拜爾）說(shuō)。
Baier（拜爾）表示，另一個(gè)增加生成式人工智能風(fēng)險(xiǎn)和成本的因素是“大多數(shù)組織中龐大的‘shadow IT（影子IT，也稱為Stealth IT、Client IT、Fake IT，是組織中的信息技術(shù)/IT系統(tǒng)是由組織內(nèi)部建立并且使用，但沒(méi)有正式的組織核可，而系統(tǒng)是由IT部門以外的部門訂定規(guī)格并且布署。有些人認(rèn)為影子IT是重要的創(chuàng)新來(lái)源，這些系統(tǒng)可做為是未來(lái)核可IT方案的原型。）’，因?yàn)閱T工使用個(gè)人賬戶使用像ChatGPT（是人工智能技術(shù)驅(qū)動(dòng)的自然語(yǔ)言處理工具，它能夠通過(guò)理解和學(xué)習(xí)人類的語(yǔ)言來(lái)進(jìn)行對(duì)話，還能根據(jù)聊天的上下文進(jìn)行互動(dòng)，真正像人類一樣來(lái)聊天交流，甚至能完成撰寫郵件、視頻腳本、文案、翻譯、代碼，寫論文等任務(wù)。）這樣的工具處理公司數(shù)據(jù)”。
Gartner（高德納，Gartner Group公司成立于1979年，它是第一家信息技術(shù)研究和分析的公司。它為有需要的技術(shù)用戶來(lái)提供專門的服務(wù)。Gartner已經(jīng)成為了一家獨(dú)立的咨詢公司，Gartner公司的服務(wù)主要是迎合中型公司的需要，它希望使自己的業(yè)務(wù)覆蓋到IT行業(yè)的所有領(lǐng)域，從而讓自己成為每一位用戶的一站式信息技術(shù)服務(wù)公司。）表示，組織能夠控制人工智能使用的一種方法是實(shí)施人工智能治理平臺(tái)，該機(jī)構(gòu)將這項(xiàng)技術(shù)確定為2025年的第二大戰(zhàn)略趨勢(shì)，并預(yù)測(cè)到2028年，實(shí)施人工智能管理平臺(tái)的組織將比沒(méi)有此類系統(tǒng)的組織減少40%的人工智能相關(guān)道德事件。
Gartner聲稱，人工智能治理平臺(tái)的好處包括創(chuàng)建、管理和執(zhí)行“確保負(fù)責(zé)任地使用人工智能的政策，解釋人工智能系統(tǒng)的工作原理，對(duì)生命周期管理進(jìn)行建模，并提供透明度以建立信任和問(wèn)責(zé)制。”
那么挑戰(zhàn)是什么呢？“人工智能指南因地區(qū)和行業(yè)而異，這使得難以建立一致的實(shí)踐，”Gartner 表示。
二、未來(lái)的挑戰(zhàn)
觀察人士表示，首席信息官們還需要調(diào)整能夠適應(yīng)未來(lái)變化的人工智能治理框架，特別是如果artificial capable intelligence/ACI（人工能力智能，是一個(gè)由DeepMind聯(lián)合創(chuàng)始人穆斯塔法·蘇萊曼/Mustafa Suleyman提出的新概念。ACI強(qiáng)調(diào)的是人工智能在最小程度上依賴人類干預(yù)，能夠設(shè)定目標(biāo)并完成復(fù)雜任務(wù)的能力。蘇萊曼認(rèn)為，相比于傳統(tǒng)的圖靈測(cè)試，ACI更關(guān)注人工智能的實(shí)際能力，即它們能夠做什么，而不是它們能否模仿人類。他提出的測(cè)試方法是給AI十萬(wàn)美元的種子投資，看它是否能將其增值為百萬(wàn)美元。為了實(shí)現(xiàn)這一目標(biāo)，AI必須研究電子商務(wù)的商機(jī)，能夠生成產(chǎn)品藍(lán)圖，并在類似阿里巴巴的網(wǎng)站上找到制造商，然后在亞馬遜或沃爾瑪?shù)染W(wǎng)站上進(jìn)行銷售，同時(shí)附上詳實(shí)準(zhǔn)確的商品說(shuō)明。ACI體現(xiàn)了在特定領(lǐng)域內(nèi)，AI能夠執(zhí)行一系列復(fù)雜任務(wù)，但并非全領(lǐng)域通用的能力。）出現(xiàn)的話。
“我們正在評(píng)估哪種人工智能使用政策最適合我們現(xiàn)在的需求，我們使用的模型提供了靈活性，以便隨著我們前進(jìn)并了解我們尚不知道的事情進(jìn)行調(diào)整，”孟菲斯Baptist Memorial Health Care（是一家位于密西西比州的非營(yíng)利性機(jī)構(gòu)，提供全面的醫(yī)療保健服務(wù)。成立于1987年4月20日，其總部位于田納西州孟菲斯。以其專業(yè)的醫(yī)療團(tuán)隊(duì)和先進(jìn)的技術(shù)，為當(dāng)?shù)鼐用裉峁└哔|(zhì)量的醫(yī)療服務(wù)，包括但不限于癌癥治療、心臟護(hù)理、神經(jīng)學(xué)服務(wù)、婦女和兒童健康等。此外，該機(jī)構(gòu)還注重持續(xù)改進(jìn)和患者體驗(yàn)，通過(guò)實(shí)施持續(xù)改進(jìn)計(jì)劃和采用最新的醫(yī)療技術(shù)，不斷提高服務(wù)質(zhì)量和患者滿意度。其服務(wù)范圍不僅局限于醫(yī)療治療，還包括健康教育和預(yù)防保健，致力于提高社區(qū)的整體健康水平。通過(guò)其綜合性的服務(wù)，其在密西西比州及周邊地區(qū)享有盛譽(yù)，成為當(dāng)?shù)鼐用裥刨嚨尼t(yī)療保健提供者。）的首席信息與數(shù)字官Tom Barnett（湯姆·巴奈特）說(shuō)。
這將帶來(lái)什么結(jié)果是一個(gè)巨大的未知數(shù)，特別是考慮到在過(guò)去兩年中人工智能的進(jìn)展。使問(wèn)題復(fù)雜化的不僅是正在出現(xiàn)的復(fù)雜的人工智能法規(guī)拼湊，還包括商業(yè)模式和市場(chǎng)本身的變化。
兩年前，當(dāng)ChatGPT首次亮相時(shí)，OpenAI（在美國(guó)成立的人工智能研究公司，核心宗旨在于“實(shí)現(xiàn)安全的通用人工智能，AGI”，使其有益于人類。OpenAI于2015年由一群科技領(lǐng)袖，包括山姆·阿爾特曼、彼得·泰爾、里德·霍夫曼和埃隆·馬斯克等人創(chuàng)辦。）的創(chuàng)始人指出，生成式人工智能的合理管理是該公司實(shí)現(xiàn)盈利的關(guān)鍵原因。此后，除兩位創(chuàng)始人外，所有創(chuàng)始人都離開了，OpenAI正在努力將其核心業(yè)務(wù)重組為一家營(yíng)利性公司，不再由其非營(yíng)利性董事會(huì)控制。
Gartner 的云、邊緣和人工智能基礎(chǔ)設(shè)施技術(shù)與服務(wù)副總裁Sid Nag（錫德·納格）表示，自2021年以來(lái)，NIST的人工智能安全研究所聯(lián)盟和負(fù)責(zé)任人工智能中心在人工智能治理方面取得了進(jìn)展，但沒(méi)有批準(zhǔn)的監(jiān)管標(biāo)準(zhǔn)來(lái)指導(dǎo)首席信息官們，他們面臨著越來(lái)越大的壓力，要從試驗(yàn)階段走出來(lái)，并從對(duì)生成式人工智能平臺(tái)和工具的大量投資中賺錢。
他強(qiáng)調(diào)沒(méi)有一份文件能夠涵蓋所有方面的風(fēng)險(xiǎn)，也沒(méi)有明確的權(quán)力來(lái)強(qiáng)制使用生成式人工智能，而生成式人工智能每天都在進(jìn)步。“人工智能就像一列失控的火車，每個(gè)人都想從中漁利，”?他說(shuō)。
盡管如此，很少能找到一位首席信息官或高管團(tuán)隊(duì)忽視人工智能治理。大大小小的企業(yè)都清楚地知道，生成式人工智能如果落入錯(cuò)誤的人手中可能會(huì)帶來(lái)災(zāi)難。
醫(yī)療設(shè)備租賃公司US Med-Equip（是一家總部位于休斯頓的醫(yī)療設(shè)備提供商，專注于醫(yī)療設(shè)備的租賃、銷售、服務(wù)和資產(chǎn)管理。該公司提供從輸液泵、患者監(jiān)護(hù)儀到呼吸機(jī)、嬰兒培養(yǎng)箱等多種醫(yī)療設(shè)備，服務(wù)范圍遍及全國(guó)的頂級(jí)醫(yī)院和醫(yī)療設(shè)施。）的首席信息官Antonio Marin（安東尼奧·馬林）表示，人工智能使他的公司能夠快速發(fā)展，但在治理方面需要全員參與。
“我們正在將人工智能治理納入我們的數(shù)據(jù)和網(wǎng)絡(luò)安全治理的一部分，”Marin（馬林）說(shuō)。他補(bǔ)充說(shuō)，當(dāng)概念驗(yàn)證從沙盒環(huán)境進(jìn)入生產(chǎn)環(huán)境時(shí)，風(fēng)險(xiǎn)會(huì)急劇上升。“在某些方面，我們的高管團(tuán)隊(duì)將人工智能視為一些流程問(wèn)題的解決方案。他們將人工智能視為獲得市場(chǎng)份額或降低運(yùn)營(yíng)成本的機(jī)會(huì)，同時(shí)保持高客戶體驗(yàn)質(zhì)量和卓越運(yùn)營(yíng)?！?/span>
TruStone的Jeter（杰特）預(yù)計(jì)監(jiān)督將在適當(dāng)?shù)臅r(shí)候成為法律和監(jiān)管要求。“我將審查人員和內(nèi)部/外部審計(jì)師視為合作伙伴，他們有著與我們的價(jià)值觀一致的共同目標(biāo)，”Jeter（杰特）說(shuō)，“因此，我沒(méi)有擔(dān)憂。”
作者：Paula Rooney（寶拉·魯尼）
Paula Rooney（寶拉·魯尼）是CIO.com的資深作家。
譯者：寶藍(lán) ?審核：@lex
【睿觀：建立一個(gè)完善的AI治理體系是企業(yè)實(shí)現(xiàn)可持續(xù)發(fā)展的關(guān)鍵。通過(guò)《AI治理成熟度評(píng)價(jià)指標(biāo)體系》，企業(yè)可以更好地評(píng)估自身AI治理水平，并采取相應(yīng)的措施，確保AI技術(shù)的安全、可靠和可控。這個(gè)指標(biāo)體系旨在幫助企業(yè)評(píng)估其當(dāng)前的AI治理水平，并為未來(lái)的改進(jìn)提供方向。附《AI治理成熟度評(píng)價(jià)指標(biāo)體系》】
總分：100分
1 | 戰(zhàn)略與愿景 | 企業(yè)是否制定了明確的AI戰(zhàn)略，并將其與整體業(yè)務(wù)目標(biāo)相結(jié)合？ | 15% | 是否有明確的AI戰(zhàn)略規(guī)劃？是否將AI視為核心競(jìng)爭(zhēng)力？ |
高管團(tuán)隊(duì)對(duì)AI的重視程度如何？ | 是否有高層領(lǐng)導(dǎo)人負(fù)責(zé)AI治理？ | |||
2 | 組織架構(gòu)與治理 | 是否建立了專門的AI治理機(jī)構(gòu)或團(tuán)隊(duì)？ | 15% | 是否有專門的AI治理委員會(huì)？ |
是否明確了各部門在AI治理中的職責(zé)？ | 各部門是否明確了其在AI數(shù)據(jù)管理、模型開發(fā)、風(fēng)險(xiǎn)評(píng)估等方面的職責(zé)？ | |||
3 | 數(shù)據(jù)管理與隱私 | 是否建立了完善的數(shù)據(jù)治理體系？ | 15% | 是否有明確的數(shù)據(jù)分類和分級(jí)制度？ |
是否有嚴(yán)格的數(shù)據(jù)安全保護(hù)措施？ | 是否對(duì)數(shù)據(jù)進(jìn)行脫敏和加密處理？ | |||
4 | 模型開發(fā)與管理 | 是否建立了規(guī)范的模型開發(fā)流程？ | 15% | 是否有明確的模型開發(fā)、測(cè)試和部署流程？ |
是否對(duì)模型的性能進(jìn)行持續(xù)監(jiān)測(cè)和評(píng)估？ | 是否有模型版本控制和追溯機(jī)制？ | |||
5 | 風(fēng)險(xiǎn)管理 | 是否建立了全面的風(fēng)險(xiǎn)評(píng)估機(jī)制？ | 15% | 是否對(duì)AI應(yīng)用的潛在風(fēng)險(xiǎn)進(jìn)行評(píng)估和管理？ |
是否有應(yīng)急預(yù)案？ | 是否有針對(duì)AI失控或?yàn)E用的應(yīng)急預(yù)案？ | |||
6 | 倫理與合規(guī) | 是否建立了倫理審查機(jī)制？ | 15% | 是否有倫理委員會(huì)對(duì)AI應(yīng)用進(jìn)行審查？ |
是否遵守相關(guān)法律法規(guī)？ | 是否符合GDPR、CCPA等相關(guān)法規(guī)的要求？ |
評(píng)分標(biāo)準(zhǔn)：
0分：?未建立相關(guān)制度或體系。
25分：?初步建立，但體系不完善，執(zhí)行力不足。
50分：?建立了較為完善的體系，但仍存在一些不足。
75分：?體系完善，執(zhí)行有力，效果顯著。
100分：?體系成熟，處于行業(yè)領(lǐng)先水平。
注意事項(xiàng)：
權(quán)重可根據(jù)企業(yè)實(shí)際情況進(jìn)行調(diào)整。
評(píng)價(jià)指標(biāo)應(yīng)隨著AI技術(shù)的發(fā)展不斷更新。
評(píng)價(jià)結(jié)果應(yīng)結(jié)合定性與定量分析。
評(píng)價(jià)過(guò)程應(yīng)充分聽取各部門意見。
自評(píng)估：?企業(yè)可根據(jù)該指標(biāo)體系，對(duì)自身AI治理情況進(jìn)行自評(píng)估，找出差距和不足。
外部評(píng)估：?可邀請(qǐng)第三方機(jī)構(gòu)進(jìn)行評(píng)估，獲取更客觀的評(píng)價(jià)結(jié)果。
持續(xù)改進(jìn)：?根據(jù)評(píng)估結(jié)果，制定改進(jìn)計(jì)劃，不斷提升AI治理水平。
AI治理與企業(yè)文化：?AI治理不僅僅是技術(shù)問(wèn)題，更是企業(yè)文化的問(wèn)題。企業(yè)應(yīng)將AI治理理念融入到企業(yè)文化中。
人才培養(yǎng)：?AI治理需要具備相關(guān)知識(shí)和技能的人才，企業(yè)應(yīng)加強(qiáng)AI人才的培養(yǎng)。
技術(shù)創(chuàng)新：?AI技術(shù)發(fā)展迅速，企業(yè)應(yīng)不斷關(guān)注新技術(shù)的發(fā)展，及時(shí)調(diào)整治理策略。
國(guó)際合作：?AI治理是一個(gè)全球性的問(wèn)題，企業(yè)應(yīng)積極參與國(guó)際合作，共同制定AI治理標(biāo)準(zhǔn)?！?/span>
